Offcanvas

AI / 보안

미 FTC, 챗GPT의 유해성 조사… 가짜 정보 유포 우려 제기

2023.07.18 Heinrich Vaske  |  COMPUTERWOCHE
미국 연방거래위원회(FTC)가 챗GPT에 대한 조사에 착수했다. 대화형 챗봇이 사람들에 대한 허위 정보를 게시해 피해를 줄 수 있다는 의혹이 제기됐기 때문이다. 사실로 확인되면 심각한 타격을 받을 수 있다.
 
ⓒ Getty Images Bank

월스트리트저널의 보도에 따르면, 현지 시각 2023년 7월 13일에 오픈AI에 대한 민사 소환장이 발부됐다. 조사 대상은 챗봇이 "소비자에게 해를 끼칠 위험이 있는 불공정하거나 기만적인 관행"에 관여했는지 여부이다. 이제 오픈AI는 대규모 언어 모델(LLM)이 "실제 사람에 대한 허위 또는 오해의 소지가 있거나 비방하는 진술"을 할 수 없도록 하기 위해 어떤 조처를 했는지 자세히 설명해야 한다.
 

FTC, 챗GPT 학습 데이터의 불투명성 비판

이번 조사는 FTC 위원장 리나 칸이 주도하고 있다. 칸은 미 하원 법사위 증언에서 챗GPT 및 기타 AI 기반 앱이 분석할 데이터를 통제할 수 없다는 점에 대해 우려를 표명하기도 했다. 칸은 "쿼리가 사람들에 대한 민감한 정보를 드러냈다는 이야기를 들었다"고 지적했다. 사용자는 쿼리 결과로 비방, 명예훼손성 발언, 거짓말 등을 받기도 했다.

소환장에서 FTC는 오픈AI가 사용한 데이터 보안 프랙티스에 관한 세세한 의문사항을 표시했다. 이외에도 오픈AI의 마케팅 활동, AI 모델 학습 프랙티스, 사용자의 개인 데이터 처리 등의 주제가 포함됐다.

미 공화당 진영의 비평가들은 정부기관이 이제 막 등장한 유망 기술을 너무 빨리 평가한다고 지적한다. 무역협회(Chamber of Progress) 설립자 아담 코바세비치는 "챗GPT가 누군가에 대해 잘못된 말을 하고 그 사람의 평판을 손상시킨 경우, FTC의 관할에 해당하는가? 전혀 명확하지 않다고 생각한다"고 불만을 제기했다.

FTC는 소장을 통해 챗GPT를 "편향적이고 오해의 소지가 있으며 개인 정보 보호 및 공공 안전에 대한 위험"이라고 평가했다. 또 챗GPT가 AI의 안전한 사용을 위한 지침을 충족하지 못했다고 지적했다. 소비자에게 해를 끼칠 수 있는 불공정 비즈니스 프랙티스에 해당하기 때문에 FTC의 관할에 해당한다는 것. 하지만 칸은 때로 FTC의 권한을 남용한다는 평판을 받고 있다. 최근에도 마이크로소프트의 액티비전 블리자드 인수를 막으려던 FTC의 시도에 미 연방 법원이 제동을 걸기도 했다. 

하원 청문회에서도 칸은 트위터의 데이터 보호 규정을 너무 면밀히 조사했다는 이유로 비판을 받았다. 공화당 의원들은 이를 민주당이 일론 머스크가 인수한 마이크로블로그 서비스를 방해하려는 시도로 보고 있다. 머스크는 콘텐츠 통제 가이드라인을 완화하고 트위터에서 더 많은 '언론의 자유'를 다시 허용하겠다고 발표한 바 있다. 또한 도널드 트럼프 전 대통령과 다른 극보수주의 운동가들을 플랫폼으로 초대하기도 했다.
 

미국 정부의 조사와 경제적 파급 효과

FTC의 조사와는 별개로 바이든 행정부 역시 생성형 AI를 더 엄격하게 통제하거나 규제할 필요가 있는지 검토하고 있다. 예를 들어 백악관 과학기술정책실은 AI의 장단점을 검토하고 있다. 정부 서비스에 대한 접근이 쉬워질 것으로 예상되는 것은 긍정적인 반면, 해커의 공격 가능성이 확대되고 AI 시스템이 차별적인 결정이 내려질 수 있다는 점은 부정적인 요소로 평가된다.

한편 민주당과 공화당은 AI 규제를 의회의 최우선 과제로 선언했다. 유권자가 허위 정보에 현혹되거나 소수자가 차별받는 것을 방지하고자 하는 것은 물론, 정교한 금융 범죄와 딥페이크 사진 및 동영상의 유포 가능성도 위험 요소로 보고 있다. 더 나아가 AI로 인해 위태로워지는 수백만 개의 일자리는 미국 경제 전체에 영향을 미칠 수 있다.

아직은 정치권이 새로운 법안이나 규제 조치를 내놓지는 않았다. 지나친 개입은 혁신의 속도를 늦춰 미국의 경제 성장이 둔화될 수 있다는 것을 의미한다. 더구나 미국은 AI 시장에서 우위를 점하기 위해 중국과 치열한 경쟁을 벌이고 있다.

오픈AI의 공동 창업자인 샘 알트먼은 트위터를 통해 FTC 조사를 지지한다고 밝혔습니다. 그러나 조사 문서가 대중에게 유출된 것에 대해 유감을 표명했다. 하지만 알트먼은 AI 개발에 대한 국가의 강력한 통제가 필요하다는 입장이며, 지난 5월 미국 의회에서 첨단 AI 시스템에 대한 라이선스 및 보안 표준을 마련할 것을 촉구하기도 했다.
editor@itworld.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.