칼럼 | 오픈소스의 교훈을 생성형 AI에 적용하자

대부분 사람은 생일 축하 노래를 부를 수 있다. 하지만 어떻게 배웠는지, 처음에 누가 가르쳐줬는지, 누가 만든 노래인지 아는 사람은 없다. 그렇지만, 가사와 멜로디를 알고 있고 다른 사람에게 가르쳐 줄 수도 있다.

이는 생성형 AI의 '난점'을 잘 설명하는 이야기이자, 생성형 AI를 사용하는 개인과 기업이 직면한 문제이기도 하다. 오픈소스, 그리고 소프트웨어 라이선스의 초창기와 마찬가지로, 생성형 AI는 미지의 영역이며 흥미진진하고 배울 것이 많다.
 

이 칼럼을 쓰기로 결심하고 실제로 작성하기까지 수십 건의 뉴스 기사가 필자의 주의를 흩어놓았는데, 특히 오픈AI의 CEO 샘 알트먼이 미국 상원에서 기술이 "엉망이 될" 가능성에 대비해 규제 기관이 있어야 한다고 말하면서 AI 문제는 더욱 혼란스러워졌다.

다시 말해, 생성형 AI는 혼돈 그 자체이다.

하버드 비즈니스 리뷰는 생성형 AI가 지적재산권 관련 문제를 안고 있다며, 다음과 같은 질문을 던졌다.
 

• 기존 법률은 어떻게 적용해야 하는가?
• 침해가 발생하면 어떻게 해야 하는가?
• AI 사용자에게는 어떤 권리가 있는가?
• 콘텐츠 제작자는 어떤 권리를 갖는가?
• AI가 생성한 저작물은 누가 소유하는가?
• 라이선스가 없는 콘텐츠를 학습에 사용해도 되는가?
• 사용자가 AI 모델이 학습한 라이선스 및 비라이선스 저작물을 인용하도록 요청할 수 있어야 하는가?

왜 이렇게 빨리 이 지경에 이르렀을까? 혼란의 일부는 생성형 AI 모델의 불투명성에 있다.
 

챗GPT 속의 GPT

모든 것은 챗GPT의 "GPT"로 거슬러 올라간다. GPT는 Generative Pre-trained Transformer의 약자이다. 트랜스포머는 약 2,000줄의 코드로 그리 크지 않다. 기본적으로 달걀 상자에 해당하는 것으로, '달걀', 즉 소비자에게 실제로 가치가 있는 것들을 담는 것이 주요 목적이다. 생성형 AI의 '달걀'은 변수 또는 가중치이다.

인간은 때때로 어디서 배웠는지 잊어버리는 경우가 있지만, 종종 기억하고 출처를 인용할 수 있다. 인간과 달리 챗GPT나 다른 생성형 AI 플랫폼은 수집한 정보를 실제로 기억하지 못하며 인용할 수도 없다. 로그가 어딘가에 존재할 수는 있지만 모델 자체에는 없다. 사용자도 학습 데이터를 인용하라는 프롬프트를 작성할 수는 없다. 모델에는 수많은 숫자와 변수만 있을 뿐이다. 한 다발의 뉴런과 비슷하며, 가짜 뉴런도 있다. 이런 모델은 여러 콘텐츠를 기반으로 다음 단어를 통계적으로 예측할 뿐이다.

그렇다면 이 문제를 어떻게 해결해야 할 것인가?

AI 모델, 생성된 콘텐츠 및 가중치의 사용을 제어하기 위해 다양한 메커니즘이 연구되고 있다:


1. 규제. 정부가 AI의 사용 방법을 통제하는 법률을 제정하고 이를 위반할 경우 처벌할 수 있다.

2. 라이선스. 라이선스는 소프트웨어, 산문, 이미지, 동영상 등의 제작자와 소비자 간의 법적 계약이다. 오픈소스는 라이선스를 통해 구현되는 '권리'와 '자유'라는 기둥 위에 세워졌지만, AI는 궁극적인 자유가 정말 최선의 해결책인지에 다시 생각하도록 한다. 참고로 라마(Llama)와 챗GPT는 오픈소스가 아니다.

3. 계약. 콘텐츠 제작자와 콘텐츠 제작에 비용을 지불하는 사람은 흔히 계약을 맺는다. 예를 들어, 미국 서부작가조합은 계약서에 AI가 생성한 콘텐츠에 저작권이 적용되지 않도록 하는 독소 조항을 제안했다. 스튜디오의 비즈니스 모델은 저작권이 있는 자료에 의존하기 때문에 인간 작가 대신 AI가 생성한 콘텐츠를 사용하는 것이 상당히 어려워진다.

4. 기술적 통제. 보안에서처럼 "정책"과 "기술적 통제"에는 차이가 있다. 예를 들어, 90일마다 비밀번호를 변경하도록 의무화하는 것과 로그인을 시도할 때 강제로 비밀번호를 변경하도록 하는 것에는 큰 차이가 있다. 마찬가지로 많은 AI 업체와 연구자가 AI 모델이나 서비스가 수행할 작업과 수행하지 않을 작업을 제어하려고 시도하고 있지만, 사용자는 프롬프트 인젝션 공격을 통해 AI가 금지된 작업을 수행하도록 유도할 수 있는 온갖 창의적인 방법을 찾고 있다.

이 4가지 방법 중 하나라도 실제로 사람들이 AI로 할 수 있는 일과 할 수 없는 일을 통제할 수 있을지는 회의적이다. 하지만 오픈소스와 마찬가지로 일관되고 잘 이해된 라이선스가 기업에서 AI를 널리 채택하는 데 중요한 요소가 될 것이다. 앞서 언급한 하버드 비즈니스 리뷰의 기사에서도 라이선스가 AI 크리에이터와 소비자 모두를 보호하는 데 핵심이 될 것이라고 강조했다. 
 

라이선스에서 찾는 생성형 AI의 해법

생성형 AI를 둘러싼 흥분과 혼란은 오픈소스 초기와 다르지 않다. 오픈소스의 초창기는 마치 서부 개척시대와 같았다. 라이선스가 아무런 감독 없이 만들어지고 사용되면서 불확실성과 혼란을 야기했는데, 이는 라이선스의 본래 취지에 반하는 것이었다. 1990년대 후반, OSI(Open Source Initiative)가 그 역할을 맡으며 "오픈소스의 모든 것을 지킨다"고 선언했다. 오늘날 OSI와 자유 소프트웨어 재단 두 곳에서 오픈소스 라이선스의 적합성을 판단하는 데 사용되는 오픈소스 정의를 발표한다.

그리고 약 25년 동안 오픈소스 라이선스 문제는 종결된 것이라고 생각했다. 하지만 AI와 클라우드 서비스 업체 등으로 인해 라이선스 체계를 다시 생각하거나 완전히 새로운 체계를 만들어야 할지도 모른다. 가중치, 모델, 학습 데이터 모두 라이선스가 필요할 가능성이 높으며, 모든 입력과 출력을 제대로 파악하지 못하면 기업이 채택하기 어려울 수 있기 때문이다.

AI는 이런 경계를 허물어뜨린다. 인간이 지식을 생성할 때는 그 지식의 출처와 소유권에 대한 윤리를 쉽게 이해할 수 있다. 하지만 AI 모델에 들어가기 시작하면 그 지식의 소유권이 누구에게 있는지에 대한 의문이 생긴다. 솔직히 말해서 모든 모델이 그렇게 사용하도록 승인된 콘텐츠만으로 학습되는 것은 아니기 때문이다. 사실 이런 모델 중 상당수가 저작권 및 라이선스 계약을 위반하고 있다고 해도 과언이 아니다. 하지만 이를 어떻게 증명할 것인가? 모델에는 그저 숫자가 나열되어 있을 뿐이다. 그것만으로 누군가를 법정에 고소할 수 있는가?

오픈소스의 개척 시대처럼, OSI는 이 모든 것에 대한 보호 장치를 마련하기 위해 나서고 있다. OSI의 딥 다이브(Deep Dive) 프로젝트는 "AI 알고리즘을 구현하는 오픈소스 코드에 대한 전통적인 관점만으로는 AI 시스템의 검사 가능성과 복제 가능성을 보장하기에 충분하지 않을 수 있다"고 가정한다. OSI는 이 주제에 대한 팟캐스트 시리즈를 발표했으며, "AI 시스템이 오픈소스로 받아들일 수 있는 요소를 찾는 대화의 틀"을 마련하기 위해 4개의 가상 세미나를 개최하고 있다. OSI는 첫 번째 대면 커뮤니티 토론의 결과에 대한 블로그도 운영하고 있다.

이 모든 것이 정말 혼란스럽게 느껴지는 것은 실제로 혼란스럽기 때문이다. 그리고 환경은 하루가 다르게 변화하고 있다. 기업은 모든 뉴스를 파악하고, 과대광고와 공포 조장을 피하고 지금 당장 할 수 있는 일에 집중해 AI의 이점과 거버넌스 및 보호장치의 균형을 맞추는 데 최선을 다하는 것이 중요하다.

오픈소스의 맥락에서 AI의 효과적이고 윤리적인 사용을 보장하기 위해 OSI가 하는 일에 세심한 주의를 기울이고, 함께 일하는 공급업체가 무엇을 하고 있는지(그리고 앞으로 무엇을 할 것인지) 설명하도록 촉구할 것을 적극 권장한다. 목표는 신뢰할 수 있는 출처를 가진 AI 기반 애플리케이션을 제공하는 것이다.

참고로, 1800년대 후반으로 거슬러 올라가는 생일 축하 노래는 교사였던 패티 힐과 여동생 밀드레드가 작곡한 노래에서 유래했다. 이 노래는 오랫동안 수많은 저작권 분쟁의 중심에 있었다. 현재는 퍼블릭 도메인이다.

*Scott McCarty는 레드햇의 대표 프로덕트 매니저이다. 소셜 미디어 스타트업, 전자상거래 분야의 베테랑이자 정부 연구 기술자로 오랜 경험을 쌓았다.
editor@itworld.co.kr