기고 | 마침내 정부 규제 대상된 AI··· 바이든 행정 명령에 대한 전문가 평가 살펴보기

지난달, 바이든 행정부는 인공지능에 초점을 맞춘 광범위한 행정 명령을 발표했다. 이 행정명령은 특히 개인 정보 보호 문제와 AI 기반 의사 결정의 편향 가능성에 초점을 맞추고 있다. 이번 행정명령은 AI가 정부의 규제 레이더망에 들어왔음을 시사한다.

AI 전문자들과 이번 행정명령에 대해 이야기를 나눈 결과, 규제의 여파와 추가 규제 가능성 등에 대한 각종 의견이 제시됐다. 이들은 특히 향후 미국 정부와 빠르게 성장하는 AI 산업 사이에서 발생할 수 있는 문제점을 언급했다. 
 

규제는 위험을 최소화하는 데 도움이 될 수 있다
일부 전문가는 연방 정부가 AI를 규제하기 시작했다는 사실을 환영한다. 버클리 스카이덱 펀드의 설립자이자 제너럴 파트너인 촌 탕은 "투자자이자 사회 구성원으로서 정부는 이 문제에 대해 건설적인 역할을 해야 한다. 올바른 규제는 기업 내 AI 도입을 확실히 촉진할 것"이라고 말했다. 데이터 프라이버시와 차별에 대한 보호 장치를 명확히 하면 기업 구매자와 사용자가 "새로운 도구를 채택하는 데 따르는 위험을 이해하고 관리하는 데 도움이 될 것"이라고 그는 덧붙였다.

행정명령의 특정 부분도 호평 받았다. 스마트 뉴스의 신뢰 및 안전 책임자인 아르준 나라얀은 "행정명령에서 특히 유망한 부분은 중대한 취약점을 탐지하고 수정하기 위한 고급 사이버 보안 프로그램을 구축하는 것이다. 이 프로그램과 AI 리터러시 향상 및 AI 전문가 채용에 대한 대대적인 추진은 경제의 중요한 부문에서 절실히 필요한 AI 기반 연구와 혁신을 저해하지 않으면서도 필요한 감독, 안전 가드레일 개선, 그리고 가장 중요한 거버넌스를 확립하는 데 큰 도움이 될 것"이라고 말했다.

시행이 핵심이지만 불투명성이 존재
그러나 대부분의 반응은 긍정적이지 않았다. 예를 들어, 규제의 중요한 측면 중 하나는 집행인데, AI 업계의 많은 사람들은 이 행정명령이 어떻게 집행될지 불분명하다고 지적했다.

피보탈 테크놀로지스의 CEO 야신 만라즈 "현 단계에서는 이 행정명령을 집행하거나 관리할 수 있는 가시적인 프레임워크가 없는 듯하다. 거버넌스를 향한 이론적인 첫걸음에 불과하다”라고 말했다.

인터조이드의 설립자이자 CEO인 밥 브라우어는 구체적인 내용이 부족하기 때문에 실제 실무자들의 발목을 잡을 것이라고 지적했다. 그는 "문서의 상당 부분이 모호한 상태로 남아 있다. 예를 들어, AI 모델이 출시되기 전에 아직 정의되지 않은 정부의 '도구'에 대한 허가를 받아야 한다는 규정은 우려를 자아낸다. AI 모델의 빠른 발전과 다양성을 고려할 때 이러한 시스템은 비현실적으로 보인다"라고 말했다.

프로티비티의 이머징 테크놀로지 그룹 상무이사이자 글로벌 리더인 스콧 랄리베르테는 행정명령의 의무와 실제 적용의 현실 사이의 간극에 대해 자세히 언급했다. 그는 "(행정명령의) 제안 중 상당수에는 아직 실현 가능한 솔루션이 없다. 예를 들어 AI로 생성된 콘텐츠 표시 및 편향성 탐지 등이 있다”라고 말했다.

그는 “또 레드팀 안전 테스트와 같이 제안된 프로세스에 대한 일반적인 방법론은 존재하지 않으며, 업계에서 받아들여지는 접근 방식을 개발하려면 약간의 작업이 필요할 것”이라고 덧붙였다.

랄리베르테는 "이 밖에 글로벌 조율에 대한 요구는 칭찬할 만하지만, 우리는 수년간 글로벌 개인정보 보호에 대한 공통된 접근법을 마련하기 위해 노력해왔으며, AI 가이드라인에 대한 글로벌 합의를 도출하는 것은 훨씬 더 어려울 것"이라고 전망했다.

‘조용한 이탈’(quiet exodus)이라는 위협
많은 전문가들이 글로벌 AI 환경을 감안할 요소로 바라보고 있다. 국제적 공조가 부재한 상황에서 규제의 부작용을 감안해야 한다는 것이다. 상대적으로 이동성이 높은 산업이 규제가 적은 관할권으로 이동하는 '규제 차익거래'로 이어질 수 있다. 많은 전문가들은 AI 분야에서 얼마든지 나타날 수 있는 현상이라고 입을 모았다. 

피보탈의 만라즈는 “정부의 감독 모델은 발전 속도를 심각하게 늦출 수 있다. 그 결과 미국 기업이 중국, 러시아, 인도와 같은 국가에서 활동하는 기업보다 불이익을 받게 될 가능성이 크다. 우리는 이미 스타트업들이 두바이, 케냐 등 더 자유롭고 간접비가 저렴한 지역으로 조용히 빠져나가는 것을 목격하고 있다”라고 말했다.

AI 기반 영업 기업인 앤저()Anzer)의 창립자인 리처드 가드너는 스스로 압박감을 느끼고 있다고 전했다. 그는 "미국 이외의 지역으로 AI 운영을 이전하는 것을 고려하고 있다. 특히 새로운 보고 의무로 인해 R&D 활동이 중단될 수 있다. AI 플랫폼이 대량으로 이탈할 것이라는 데는 의심의 여지가 없다고 본다”라고 말했다. 

버클리 스카이덱 펀드의 탕은 이 문제가 기업 차원을 넘어선다고 평가했다. 그는 "우수한 오픈소스 프로젝트 중 일부가 미국의 규제를 완전히 피해 해외로 이전할 위험이 있다. 지난 6개월 동안 훈련된 최고의 오픈소스 LLM 모델 중에는 아랍에미리트, 프랑스, 중국의 제품이 다수 포함되어 있다"라고 말했다.

그는 국제적인 협력이 해결책이라고 제시했다. 탕은 "무기 통제를 위해 전 세계의 동의와 협력이 필요한 것처럼, 통일된 법률을 설계하고 시행하기 위해서는 각국의 동참이 절대적으로 필요합니다. 일관된 조율된 노력 없이는 실패할 수밖에 없다”라고 말했다.

스타트업에 다가온 불균형한 경쟁의 장
미국 내에서도 규제가 불균형한 경쟁의 장을 만들 수 있다는 지적이다. "중앙 집중식 규제는 법률 및 기술 규정 준수 팀에 숨겨진 비용을 부과한다. 소규모 기업은 이러한 규제를 효과적으로 처리할 리소스가 부족할 수 있다. 기성 기업에게 유리한 셈이다”라고 젠팩트의 글로벌 AI/ML 서비스 리더인 스리칸스 메논은 말했다. 

지그네시 파텔은 카네기멜론 대학교의 컴퓨터 공학 교수이자 노코드 플랫폼 기업 데이터챗(DataChat)의 공동 창립자다. 파텔은 이미 향후 규제가 자신의 스타트업에 어떤 영향을 미칠지 고민하고 있다. 그는 "현재로서는 행정명령이 데이터챗에 큰 영향을 미치지 않는다. 하지만 향후 자체 모델을 처음부터 구축하는 길을 걷기 시작하면 추가 요구 사항에 대해 걱정해야 할 수도 있다. 이러한 요구사항은 마이크로소프트나 메타 같은 대기업은 쉽게 충족할 수 있지만 스타트업에게는 어려울 수 있다"라고 지적했다.

탕은 "규제 준수 비용이 너무 높아서 규제 관련 막대한 투자를 감당할 수 있는 소수의 기업이 혁신을 독점하는 상황이 벌어질 수 있다. AI의 미래가 데이터나 자본을 독점할 수 있는 몇몇 기업에 의해 통제되는 것을 피하려면 오픈소스를 위한 구체적인 방안이 마련되어야 한다"라고 말했다. 

규제를 신설해야 할 이유?
필자와 이야기를 나눈 거의 모든 전문가들이 AI의 잠재적인 혁신성을 믿고 있었다. 그러나 동시에 많은 사람들은 사이버 보안과 데이터 안전에 관한 규정이 존재한다는 점을 지적했다. 완전히 새로운 규제의 틀을 만들어야 하는이유가 무엇이냐는 것이다. 

예를 들어, 인터조이드의 브라우어는 행정명령의 개인정보 보호에 초점을 맞춘 측면이 다소 의아하다고 언급했다. "AI와 관련된 개인정보 보호 문제는 기존의 검색 엔진 규정, 데이터 공급업체, 개인정보 보호법에서 이미 다루고 있는 문제와 중복된다고 본다. 그렇다면 왜 AI에 추가적인 제약을 가할까?"라고 반문했다.

아테나헬스의 정부 및 규제 담당 부사장인 조 갠리도 이에 동의했다. "규제는 기술 자체가 아니라 특정 사용 사례 내에서 AI의 역할에 초점을 맞춰야 한다"라며 그는, "하나의 AI 법보다는 AI를 활용하는 기존 규정을 업데이트할 필요가 있다. 예를 들어, 채용에 사용되는 도구에 편견이 내재되어 있다면 고용기회균등위원회가 개입하여 요건을 변경해야 한다"라고 말했다.

일부 전문자들은 또한 행정부의 행정명령이 일부 산업에 더 가볍게 적용되는 것 같다고 지적했다. 엔키노의 데이터 및 AI 수석 관리자 마크 두셋은 "이번 행정명령을 살펴보면 금융 규제 기관과 재무부에 대한 지침이 놀라울 정도로 가볍다. AI 리스크와 관련된 유익한 조치를 장려하는 반면, 금융 감독 기관에 구속력 있는 요건이나 규칙 제정 의무를 부과하는 것은 대체로 피하고 있다. 이는 상무부, 국토안보부, 관리예산처 등 다른 부처에서 전면적인 명령에 따라 부과하는 보다 확고한 의무와 지침과 크게 대조된다"라고 평가했다.

그러나 프로티비티의 랄리베르테는 결국 AI 산업 규제 측면에서 연방 정부의 비중이 줄어들 것으로 전망하며, 기존 규제 프레임워크와 통합될 것으로 전망했다 "미국 정부가 이 분야의 규제를 정비하는 데는 시간이 걸리겠지만 과거에도 유사한 사례가 있었다. 연방거래위원회법과 소비자보호법을 활용해 개인정보 침해 행위를 단속하는 사례가 그것이다. 향후 행정부가 기존 규정과 법률을 활용해 AI에 대한 책임을 강제할 것으로 예상한다"라고 말했다.

다가올 규제에 대비하기
해외 이탈에의 우려에도 불구하고 업계 격변이 임박했다고 생각하는 전문자는 아무도 없었다. 인터조이드의 브라우어는 "대부분의 미국 기술 기업과 기업에게 이 행정명령은 즉각적인 영향을 미치지 않을 것이며 일상적인 운영에 미치는 영향은 미미할 것"이라고 말했다. 하지만 그는 "새로운 규제를 주의 깊게 모니터링해야 합니다”라고 조언했다. 

프로티비티의 랄리베르테도 AI 업계에 종사하는 사람이라면 누구나 서부 개척시대가 끝나가고 있다는 사실을 인식하고 지금부터 규제에 대비해야 한다고 전했다. 그는 "기업, 특히 규제를 받는 산업에 속한 기업은 AI 거버넌스 기능, 정책, 표준, 제어 매핑을 구축하여 문제가 발생했을 때 과실 책임을 피할 수 있도록 대비해야 한다”라고 말했다.

그는 이어 “편향성이나 윤리적 문제를 야기할 수 있는 기능에 AI를 사용하는 것을 피하거나 최소한 면밀히 검토하는 것이 바람직하며, 이는 모든 집행 조치의 초기 초점이 될 가능성이 높다"라고 덧붙였다. 이번 행정 명령은 행정부가 AI 사용과 관련된 나쁜 행동에 대해 조치를 취할 준비가 되어 있다는 신호로 보아야 한다고 그는 설명했다. ciokr@idg.co.kr