美 캘리포니아 AI 규제 법 제정 임박··· “기술 기업 다수 반대, 일부 전문가 찬성”

캘리포니아의 AI 규제 법안에 대한 기술 기업의 의견은 74% 이상이 반대였다.
 

캘리포니아주 의회가 지난 28일(현지시각) 미국 내 최고 강도의 AI 규제 법안을 찬성 41표, 반대 9표로 통과시켰다. 이제 법안은 주 상원을 거쳐 개빈 뉴섬 주지사에게 전달될 예정이다.

‘첨단 인공지능 모델을 위한 안전한 혁신 법안’인 해당 법안은 SB 1047로도 알려져 있다. 법안은 특히 크고 복잡한 모델을 만드는 AI 개발 기업에 엄격한 테스트와 책임 조치를 규정하고 있으며, 제정된 이후에는 AI 기업이 시스템을 대중에게 공개하기 전에 안전성을 테스트해야 한다.

이미 법안을 통과시킨 바 있는 주 상원이 오는 31일에 새 수정안으로 재투표를 거치고 나면 뉴섬 주지사에게 전달된다. 뉴섬 주지사는 9월 30일까지 서명 또는 거부권을 행사할 수 있다.

법안의 공동 발의자인 스콧 위너 상원의원은 성명서를 통해 “이번 표결로 의회는 신기술의 발전 과정에서 공익을 보호하기 위해 선제적으로 노력하는 ‘역사적인’ 조치를 취했다”라고 언급했다.

법안의 주요 조항
민주당 스콧 위너 상원의원이 발의한 SB 1047은 첨단 AI 모델을 개발하는 기업, 특히 개발 비용이 1억 달러 이상이거나 상당한 컴퓨팅 파워를 사용하는 기업은 판매 전 중대한 위험에 대한 테스트를 반드시 거치도록 의무화한다. 여기에는 사이버 공격이나 생물학 무기 개발과 같은 작업에 AI가 오용될 가능성을 방지하는 역할도 포함된다.

법이 제정되면 이제 AI 개발 기업은 위협이 되는 모델을 비활성화하는 ‘킬 스위치’를 구현하고 서드파티 감사를 통해 안전 관행을 검증해야 한다.

또한 AI 기술이 유해한 방식으로 사용됐다는 사실이 발견되거나 기업이 필요한 테스트를 수행하지 않은 경우, 법안은 주 법무장관에게 소송을 제기할 권한이 부여된다. 잠재적인 AI 관련 위험으로부터 대중을 보호하는 동시에 혁신과 안전의 균형을 맞추는 것을 목표로 하기 때문이다.

AI 개발 기업에게 엄격한 안전 기준을 부과하겠다는 취지이지만 법안에 대해서는 찬반 의견이 극명하게 엇갈렸다. 이는 캘리포니아주 내 AI 규제의 미래에 대한 논쟁으로까지 번졌다. 

지지자들은 법안이 대중을 보호하고 AI의 오용을 막기 위해 필요하다고 주장했지만, 반대측은 AI 법안이 너무 지나쳐 혁신을 저해할 수 있다고 주장했다. 이들은 엄격한 요건으로 인해 AI 개발 기업들이 캘리포니아를 떠나게 돼 빠르게 진화하는 기술 환경에서 주의 경쟁력을 떨어뜨릴 수 있다고 경고했다.

기술 업계의 반발
특히 기술 업계가 SB 1047에 대해 강력히 반발하고 나섰다. 의견을 밝힌 전체 기술 기업 중 74% 이상이 반대 의사를 전했다. 구글과 메타를 비롯한 주요 기업은 이 법안이 비우호적인 규제 환경을 조성하고 AI 발전을 저해할 수 있다고 우려했다.

오픈AI의 경우 이미 “일관된 접근 방식을 보장하기 위해” 주마다 다른 규제로 이어지는 주별 법이 아니라 연방 차원에서 AI 규제를 처리해야 한다고 주장해 왔다. 오픈AI의 최고 전략 책임자 제이슨 권은 위너 상원의원에게 보낸 공개 서한에서 AI 법안이 “혁신을 억압”하고 기업들을 “캘리포니아에서 떠나게 할 것”이라고 말했다.

그러나 위너는 서한에 대한 답변에서 이런 주장이 “말이 안 된다”라고 언급했다. 그는 “캘리포니아에서 데이터 프라이버시 법안이 통과됐을 때 기술 업계는 우려를 표명했지만, 그 우려는 현실화되지 않았다. SB 1047이 캘리포니아에 본사를 둔 기업에 국한되지 않는다는 점을 고려할 때 이런 주장은 의미가 없다. 이 법안은 캘리포니아에서 사업을 하는 모든 기업에 적용된다. 따라서 캘리포니아 외부에 있다고 해서 법안 준수를 피할 수 있는 것이 아니다”라고 밝혔다.

기술 업계뿐만 아니라 업계 주요 인사들도 SB 1047에 대해 우려를 표명했다. 스탠포드 인간 중심 인공지능 연구소의 공동 책임자이자 ‘인공지능의 대모’로도 불리는 페이 페이 리 박사가 대표적이다. 

최근 포춘지에 게재된 기사에서 리 박사는 이 법안의 처벌과 제한이 혁신을 저해하는 의도치 않은 결과를 초래할 수 있다고 말했다. 그녀는 특히 공공 부문, 학계, 소규모 기술 기업 등 이미 주요 기술 기업에 비해 불리한 위치에 있는 분야에 영향을 미칠 수 있다고 지적하며 “새로운 AI 생태계에 해를 끼칠 것”이라고 주장했다. 

AI 규제를 지지하는 일부 AI 연구자와 개발자들도 이 법안에 대해서는 비판 의견을 보탰다. AI 기업가이자 구글의 전 AI 책임자인 앤드류 응은 법안이 특정 유해 애플리케이션에 초점을 맞추기보다는 AI 기술의 광범위한 발전을 겨냥하고 있다고 주장했다. X에 올린 게시물에서 그는 SB 1047을 ‘반오픈소스’ 및 ‘반혁신’이라고 표현했다.

이 외에 일부 민주당 의원들도 법안에 반대 의사를 표명했다. 샌프란시스코의 낸시 펠로시 하원의장은 “의도는 좋지만 정보가 부족하다”라며 반대의 목소리를 높였다. 펠로시 의장과 로 카나, 조이 로프그렌 의원은 해당 법안이 AI 개발을 저해할 수 있는 부담스러운 규제를 부과해 캘리포니아의 기술 산업에 해를 끼칠 수 있다고 주장했다.

의원들은 또한 공개 서한을 통해 이 법안이 공개적으로 사용 가능한 코드에 의존하고 AI 기술 발전에 필수적인 것으로 간주되는 오픈소스 AI 모델을 위태롭게 할 수 있다고 우려했다. 이들은 규제가 혁신을 저해하고 캘리포니아가 AI 개발에 더 우호적인 다른 주와 국가에 비해 불리한 입장에 처할 수 있다고 언급했다.

이와 관련해 업계 그룹은 캘리포니아 의원의 반대표를 촉구하는 서한을 작성하는 웹사이트를 만드는 등 대대적인 법안 반대 캠페인을 시작했다.

하지만 이런 반발에도 불구하고 SB 1047은 입법부와 기술 커뮤니티 모두에서 지지자도 확보했다. 특히 캘리포니아 주 의회는 찬성 41표, 반대 9표로 법안을 통과시켰으며, 상원을 통과한 후 뉴섬 주지사의 책상 위에 올라갈 예정이다.

강력한 AI 기술의 잠재적 오용을 막기 위해 가드레일이 필요하다는 입장을 취해 온 테슬라 CEO 일론 머스크와 AI 스타트업 앤트로픽은 AI 안전을 강조하는 이 법안에도 긍정적인 반응을 보였다.

위너 상원의원은 SB 1047이 혁신을 억압하는 것이 아니라 AI 개발이 책임감 있게 진행되도록 하려는 목표를 갖고 있다며 지지 의사를 밝혔다. 그는 성명에서 “혁신과 안전이 상호 배타적이지 않다”라고 언급하며, 기업이 이미 채택한 안전 표준에 책임을 지도록 함으로써 AI 기술에 대한 대중의 신뢰를 높이려는 목적을 지닌다고 강조했다.

캘리포니아 AI 법안의 다음 단계는?
법안 통과가 가까워지면서 뉴섬 주지사의 결정은 미국 전역의 기술 산업과 AI 규제에 광범위한 영향을 미칠 전망이다.

의회가 연방 AI 법안에 별다른 진전을 보이지 않는 상황에서 캘리포니아의 조치는 AI 기술의 급속한 발전을 어떻게 관리할지 고민하는 다른 지역에 선례가 될 가능성도 있다. ciokr@idg.co.kr