Offcanvas

AI / 머신러닝|딥러닝 / 분쟁|갈등

마이크로소프트, 공공 주도 AI 거버넌스 청사진 제시

2023.05.30 Anirban Ghoshal  |  Computerworld
마이크로소프트가 AI 관리 감독을 위한 정부 기관 설립의 중요성을 강조하며, AI 관련 공공 거버넌스에 대한 청사진을 25일 제시했다.
 
ⓒ 마이크로소프트

마이크로소프트의 부사장 브래드 스미스(Brad Smith)는 지난주 미 워싱턴에서 열린 강연을 통해 “우리는 새로운 기관을 통해 이익을 얻을 수 있다. 그래야만 인류가 기술을 계속 통제할 수 있다”라고 밝혔다.  

AI 관련 규제 기관 설립을 제안한 사람은 스미스뿐만이 아니다. 오픈AI의 CEO인 샘 알트먼도 지난 17일 미국 상원 법사위원회 청문회에 참여해 AI 구현 및 관리를 전담하는 정부 기관의 필요성을 강조했다. 오픈AI는 챗GPT 및 달리2(DALL-E 2) 같은 생성형 AI를 개발하는 기업이다. 

스미스는 해당 강연에서 AI가 생성할 콘텐츠에 대해 우려를 표하며 실제처럼 보이는 허위 콘텐츠나 ‘딥페이크’가 큰 문제가 될 수 있다고 강조했다. 로이터에 따르면 스미스는 “사람들을 속이려는 의도로 AI로 콘텐츠를 변조하는 활동을 막는 조치가 필요하다”라고 밝혔다.

스미스는 마이크로소프트 공식 블로그를 통해 AI 관련 공공 거버넌스을 위한 5단계 청사진을 제시했다. 여기에는 정부 주도의 AI 안전 체계 구현과 AI 기반 콘텐츠를 식별하는 메커니즘을 포함한다.

스미스는 AI 안전 체계와 더불어 기업이 정부 규제를 기반으로 차세대 AI 도구를 구축해야 한다고 설명했다. 미국 정부 기관 중에서는  상무부 산하 국립표준기술연구소(NIST)가 올 1월 AI 위험 관리 체계를 공개한 상태인데, 스미스는 해당 체계가 다른 단계 기술과 함께 활용되면서 책임 있는 AI 도구를 만드는데 도움이 될 것으로 기대했다. 

또한 스미스는 전력망, 수도 시스템, 도시 교통 흐름과 같은 중요 인프라를 제어하는 AI 시스템에 대한 효율적인 안전 장치도 필요하다고 강조했다.

스미스는 공식 블로그를 통해 “이런 안전장치로 보다 기술을 효과적으로 관리하고, 기술의 복원성과 안정성을 높일 수 있다. 엘리베이터, 스쿨버스, 고속 열차 등에 적용한 제동 시스템처럼 안전 장치는 일상적인 시나리오뿐만 아니라 비상 상황에서도 기술을 관리해 줄 것”이라고 밝혔다.

스미스는 여기에 AI 기술 아키텍처를 기반으로 광범위한 법률 및 규제 프레임워크를 만드는 것을 강조했다. 그는 “법률은 AI 기술 종류 따라 담당 규제 기관을 다르게 두고 다방면으로 관리 감독할 수 있게 해야 한다”라며 “AI 모델과 AI 인프라 운영자를 위한 법률을 별도로 개발해야 한다”라고 덧붙였다.

스미스는 이러한 법률이 제정되면 고객이 어떤 콘텐츠가 AI에 의해 생성되었는지 효과적으로 알 수 있게 될 것이라고 기대했다. 스미스가 제시한 다른 단계로는 연구 목적으로 AI를 개방하는 것과 사회적 문제를 해결하기 위해 민관 파트너십을 구축하는 것 등이 있다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.