Offcanvas

AI / 보안

“잊으라면 잊겠어요”··· 오픈AI, 챗GPT에 데이터 프라이버시 통제 기능 추가

2023.04.27 Jon Gold  |  Computerworld
오픈AI가 챗GPT의 채팅 이력 기능을 끌 수 있도록 할 것이라고 발표했다. 챗GPT에 제공되는 데이터의 보안을 우려하는 비평가들에게 부분적인 대답이 될 것으로 보인다. 

이 기능을 활성화하면 해당 대화는 오픈AI의 기반 모델을 학습하는 데 사용되지 않으며, 히스토리 사이드바에도 표시되지 않는다. 오픈AI의 서버에 저장되는 것은 마찬가지이지만, 남용을 막기 위해 필요할 때만 재검토하고 30일 후에는 삭제된다.
 
Image Credit : Getty Images Bank

오픈AI는 공식 블로그 포스트를 통해 “이 기능이 기존 옵트아웃 프로세스보다 사용자의 데이터를 더 쉽게 관리하는 방법이 되기를 바란다”고 밝혔다.

또한 데이터에 대한 더 직접적인 제어를 필요로 하는 기업 사용자를 위한 기업용 구독 모델도 개발하고 있다고 밝혔다. 챗GPT 비즈니스(ChatGPT Business)는 기업의 API 데이터 사용 정책을 준수하는데, 사용자 데이터를 모델 학습에 사용하지 않는 것이 기본값이다. 오픈AI는 수개월 내에 새로운 구독 모델을 출시할 계획이다.

이달 초 유럽에서는 챗GPT가 유럽연합의 GDPR을 준수하지 않는다는 프라이버시 보호단체의 비판이 제기되면서 유럽 데이터 보호 위원회가 챗GPT에 대한 조사에 착수했다. 3월에는 이탈리아가 사용자 프라이버시 위반 혐의로 챗GPT 사용을 일시 금지했다. 이탈리아 데이터 보호 당국은 오픈AI에 해당 프라이버시 법률 준수 여부를 증명하고 시스템이 사용자 데이터를 어떻게 처리하는지 알 수 있도록 투명성을 개선할 것으로 요구했다.

가트너 애널리스트 네이더 헤닌에 따르면, 오픈AI는 처음에 프라이버시와 데이터 거버넌스를 염두에 두지 않은 것으로 보인다. 스타트업은 동작 가능한 제품을 시장에 내놓는 데 중점을 둔다는 것. 헤닌은 “오픈AI는 비행 중에 비행기를 계속 만들고 있다. 마이크로소프트에서 진행 중인 코파일럿 개발의 대부분은 오픈AI LLM의 거버넌스와 기업 지원에 중점을 두고 있다고 생각한다”라고 말했다. 

또한 헤닌은 이번 발표가 올바른 방향이라고 평가하면서도 챗GPT의 기반이 되는 설계 결정은 프라이버시를 핵심 요소가 아니라 사후 처리 대상으로 취급했다는 것을 반증한다고 지적했다. 헤닌은 “오픈AI 개발팀은 분명 기존 아키텍처에 맞춰 거버넌스를 개조하느라 열심히 일하고 있을 것”이라며, “얼마나 할 수 있느냐의 문제이다. 비유를 들자면, 케이크를 다 구워 놓고 설탕이나 베이킹파우더를 추가하는 것과 같다”라고 덧붙였다. 
ciokr@idg.co.kr
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2023 International Data Group. All rights reserved.