Offcanvas

How To / 훈련|교육

AI 기업에 영향 미칠까?··· 바이든, 정부 기관의 AI 사용 관리하는 행정 명령 준비

2023.10.27 Lucas Mearian  |  Computerworld
미국 연방 정부가 정부 기관 내 AI 도구의 안전한 사용을 촉진하고 민감 정보 유출을 방지하는 새로운 행정 명령을 발표할 예정이다. AI 업계 전문가에게 해당 행정 명령의 영향력을 어떻게 보고 있는지 물어보았다.
 
ⓒ 미국 백안관

생성형 AI를 통제하려는 기존 노력이 너무 모호하고 효과적이지 못하다고 비판을 받은 바이든 행정부가 연방 정부 직원이 지켜야 하는 AI 원칙을 배포할 예정이다. 여기에 새로운 이민 정책 발표가 예정됨에 따라, 더 많은 기술 인력이 미국으로 유입되고 기술 개발할 수 있는 기반이 마련될 것으로 보인다. 

워싱턴포스트에 따르면, 백악관은 다음 월요일 바이든 대통령이 직접 주최하는 ‘안전하고 신뢰할 수 있는 인공지능’ 행사를 위한 초대장을 전했다고 밝혔다.

높은 속도로 발전하는 생성형 AI 때문에 바이든은 지난 5월 관련 ‘지침’을 발표했다. 부통령 카멀라 해리스도 같은 달 구글, 마이크로소프트, 챗GPT 개발사인 오픈AI의 CEO들을 만나 보안, 프라이버시, 통제 문제 등 생성형 AI의 잠재적인 문제점을 논의했다.

2022년 11월 챗GPT 출시 전에도 바이든 행정부는 소위 말하는 ‘AI 권리장전’에 대한 청사진뿐 아니라 AI 위험 관리 프레임워크를 공개했으며, 국가 AI 연구 리소스(National AI Research Resources)를 설립하기 위한 로드맵도 제시했다.

10월 공개될 새로운 행정 명령은 생성형 AI의 기초가 되는 대형 언어 모델(LLM)을 미국 정부 기관이 사용 시 미리 평가를 받아야 한다는 지침을 제시하고 있다. 이를 통해 미국의 사이버 보안 수준을 높이겠다는 것이다. 워싱턴포스트에 따르면 미 국방부, 에너지부, 정보기관 등도 이런 행정 명령을 따라야 한다.

새로운 행정 명령에서 요구하는 AI 시스템 평가를 위해 15개 AI 개발 기업과 협업할 예정이다. 해당 기술로 보다 책임 있는 AI 사용 과정을 확보하겠다는 것이다. 

기업용 AI 애플리케이션 제공 업체 C3 AI의 CEO이자 시벨 시스템(Siebel Systems)의 공동 설립자인 톰 시벨은 지난 5월 MIT에서 열린 ETC(EmTech Conference)에서 “자율 규제가 효과가 있을 거라고 믿고 싶지만, 권력은 부패하고 절대 권력은 더더욱 부패한다”라고 말했다.

생성형 AI는 작업 자동화 및 정교한 텍스트 응답, 이미지, 비디오, 소프트웨어 코드 생성 능력과 함께 광범위한 이점을 제공한다. 다만 '환각' 현상이라고 부르는 이상 현상이 문제로 지적되고 있다.

AI 기반 채용 및 교육 업체인 튜링(Turing)의 CEO 조나단 시다스는 “환각이 일어나는 이유는 LLM에 세상을 모두 평가할 수 있는 내적 상태 표현이 없기 때문이다. 사실에 대한 개념이 없고, 지금까지 본 것을 기준으로 다음 단어를 예측한다. 통계적으로 추정할 뿐이다”라고 말했다.

생성형 AI는 또한 예상치 못하게 민감한 또는 개인 식별 정보를 노출시킬 수 있다. 여러 생성형 AI 도구가 인터넷, 기업, 정부 소스로부터 방대한 양의 데이터를 수집하고 분석하고 사용자에게 콘텐츠를 더욱 정확하고 심층적으로 제공하려 한다. 문제는 AI가 수집한 정보가 반드시 안전하게 저장되는 것은 아니라는 점이다. 그리고 AI 애플리케이션과 네트워크로 민감한 데이터가 퍼지고 제3자가 이를 악용해서 외부로 유출시킬 수 있다. 

예를 들어, 스마트폰과 자율주행 자동차는 사용자의 위치와 주행 습관을 추적한다. 원래 추적 소프트웨어는 데이터 패턴을 파악하여 사용자에게 더욱 효율적으로 서비스를 제공하려고 설계됐다. 하지만 AI 모델 훈련을 위해 사용되기도 하고 이 과정에서 개인 정보가 수집된다.

디지털 전환 서비스 기업 UST의 수석 AI 아키텍트 애드난 마수드는 “AI를 개발하는 기업들의 경우 새로운 행정 명령 때문에 기존 방식을 점검해야 할 수도 있다고”라고 설명했다. 또한, 새로운 규칙 때문에 초기에 운영 비용이 증가할 수 있다고 한다. 

마수드는 “하지만 국가 표준을 준수하면 제품에 대한 연방 조달 프로세스가 간소화되고 민간 고객들 사이에서 신뢰를 높일 수 있다. 궁극적으로 AI의 위험을 완화하기 위해 규제가 필요하지만 혁신에 도움이 되는 환경을 유지하는 것과 섬세한 균형을 유지해야 한다”라고 조언했다.

마수드는 “연구, 개발, 오픈 소스 이니셔티브 등에 대하여 규제 및 감독을 과도하게 강화하게 되면 혁신이 억눌린다. 또한 규제에 관대한 특정 국가를 옹호하는 근거를 제공할 위험이 있다. 핵심은 공익과 국가의 이익을 보호하는 규제를 수립하면서 AI 부문에서 엔지니어의 창의성과 발전을 촉진하는 것이다”라고 덧붙였다.

마수드는 “백악관이 발표할 규제는 오랫동안 기다려 온 일이다. 이번 행정 명령은 AI 기술 활용 및 억제에 대해 논의가 활발한 중요한 시점에 의미 있는 조치를 만들 것이다”라고 말했다.

마수드는 “다만 나는 연구 및 개발 영역으로까지 규제를 확대하는 것에 대해 의구심을 갖고 있다. AI 연구의 특성상 과도한 규제에 억눌릴 수 있는 일정 수준의 개방성과 집단적인 정밀 조사가 필요하다. 특히, 이 분야에서 대부분의 혁신의 원동력인 오픈소스 AI 이니셔티브를 저해할 수 있는 제약에는 반대한다. 이런 협업 플랫폼은 AI 모델의 결함에 대한 신속한 식별 및 교정을 가능하게 하여 신뢰성과 보안을 강화시킨다”라고 덧붙였다.

생성형 AI는 사회에 이미 내재된 편향에 취약하다. 가령 AI를 활용하는 고용 어플리케이션은 여성보다 남성를 더 선택하거나 소수인종보다 백인 지원자를 선택하는 경향이 있다. 생성형 AI 도구가 자연어, 이미지, 비디오를 더욱 잘 모방하게 되면서 머지않아 가짜 결과와 진짜 결과를 구분하는 것이 불가능해질 것이다. 그래서 기업들은 우발적이든 악의적인 공격이든 최악의 결과에 대비해 '안정망'을 설치해야 한다.

AI를 통제하려는 미국의 노력에 이어 유럽 국가들도 EU 법률을 위반하는 AI 콘텐츠 생성을 막기 위한 노력을 정부차원에서 진행하고 있다. 최근 유럽에서 AI로 아동 포르노나 홀로코스트를 부정하는 내용의 콘텐츠가 생성되고 있기 때문이다.

이탈리아에서는 자연어 처리 앱에서 사용자 대화 및 결제 정보와 관련된 데이터 유출 사고가 발생한 후 챗GPT의 추가 개발을 전면적으로 금지했다. 챗GPT가 개인정보 문제를 가져올 수 있다고 본 것이다. 

유럽연합의 ‘인공지능법(AI법)’은 서양 국가에서 처음으로 제정한 법률이었다. 법안은 GDPR(General Data Protection Regulation), 디지털서비스법, 디지털시장법 등 기존의 규칙에 크게 의존하고 있다. AI법은 유럽연합 집행위원회가 2021년 4월에 제안했다.

일부 국가 및 지방 자치 단체는 개인정보 보호 및 편견 문제로 인해 구직자를 찾고, 선별하고, 면접하고, 채용하는 데 AI 기반 봇을 사용하는 것에 대한 자체적인 제한을 검토하고 있다. 일부 주에서는 이미 관련 법률을 제정했다.

백악관은 또한 국립 표준 기술 연구소에 의존하여 AI 시스템 테스트 및 평가에 대한 업계 지침을 강화할 것으로 예상된다. 이는 바이든 행정부가 올해 15개의 주요 기술 회사에서 추출한 안전, 보안 및 신뢰에 대한 자발적인 약속을 기반으로하는 조항이다.

마수드는 “생성형 AI가 지속적으로 발전하여 콘텐츠, 딥페이크, 새로운 형태의 사이버 위협을 생성하는 전례 없는 역량으로 이어지고 있는 상황에서 바이든의 움직임이 특히 중요하다”라고 말했다.

그는 “이런 상황 때문에 정부의 역할이 단순한 규제자가 아니라 AI의 기술의 조력자이자 소비자라는 점이 확실해졌다. AI에 대한 연방의 평가를 의무화하고 사이버 보안에서의 역할을 강조함으로써 미 정부는 전략적 자산과 잠재적인 위험이라는 AI의 이원적 특성을 인정하고 있다”라고 덧붙였다.

마수드는 AI 제품의 배치 감독이 안전 및 윤리 기준 충족을 위한 필수 조건이기 때문에 AI 규제에 대한 미묘한 접근방식을 적극 지지한다고 말했다. 그는 “예를 들어, 의료 또는 자율주행 자동차에서 사용되는 발전된 AI 모델은 공익을 보호하기 위해 엄격한 테스트 및 준법감시 확인을 거쳐야 한다”라고 말했다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.