블로그 | 너도나도 과대포장··· 생성형AI에 오픈소스가 필요하다

몇몇 벤더가 자사 생성형 AI 프로젝트의 기능을 과대 포장하는 기만적인 행태를 펼치고 있다. 이를 멈추게 하는 방안이 오픈소스화일 수 있다.

12월은 생성형 AI에 있어 순탄치 않은 시기인 듯하다. 먼저 AWS가 마이크로소프트 코파일럿(Microsoft Copilot)의 대항마로 아마존 Q(Amazon Q)을 출시했지만 '심각한 환각'과 데이터 유출 문제가 내부 직원들에 의해 지적됐다. 

그 다음으로는 구글이   챗GPT의 대항마로 제미나이(Gemini)를 출시했다. 대대적인 광고를 펼치며 대단한 시연을 선보였으나 이내 그 시연은 가짜였음을 시인했다. 아, 그리고 메타(Meta)는 AI 안전을 위한 새로운 오픈소스 도구를 공개했다(박수!). 그러나 어쩐 일인지 생성형 AI 도구의 가장 어처구니없이 위험한 측면은 인정하지 않았다. 바로 프롬프트 주입 공격에 취약하다는 점이다.

이 밖에도 더 있지만 굳이 거론하지 않겠다. 이런 실패 사례가 시사하는 바는 생성형 AI가 무의미하다거나 과대 포장으로 점철된 망작이라는 것이 아니다. 단 업계가 AI의 현실을 그늘 속에 가려지게 했다는 것이다. 이미 현실은 꽤 좋다.  굳이 과대포장할 필요가 없다.

이와 관련해 주목해야 할 것이 있다면 바로 오픈소스다. 생성형 AI와 다소 불완전한 궁합을 가질지라도 그렇다.

너무 앞서가는 중
필자는 최근 기사에서 AWS의 아마존 Q 출시는 AWS에게 분수령이며 격차를 없애거나 경쟁업체를 앞서갈 기회라고 썼다. 여전히 유효한 진단이다.

단, 한 가지 큰 문제가 있다. (Duckbill 수석 경제학자 코리 퀸은 이 문제 이외에도 여러 문제를 역설했다.) AWS가 강박적으로 내세운 것과 달리 아마존 Q가 챗GPT 같은 경쟁자보다 '훨씬 더 안전한 제품'은 아니라는 점이다. 

스스로를 더 낫다고 내세웠는데 실제로는 그렇지 않다는 사실이 AWS에게 도움이 되지는 않는다. 퀸은 이 사태가 발생한 것은 AWS가 전통적으로 강세를 보인 적이 없는 애플리케이션 분야에 진출한 탓이라고 주장했다. “AWS가 애플리케이션 분야로 진출을 시도하는 즉시 심각한 문제가 발생한다. AWS는 애플리케이션 분야 진출에 필요한 능력이 없고 창립 이래 그런 능력을 키우지도 않았다”라고 그는 지적했다.

그의 지적을 인정한다고 해도 더 큰 문제는 어쩌면 따로 있다. 과대 포장된 AI의 기능을 실현해야 할 압박이 너무 크기에 AWS 같은 대기업조차 그 목표를 달성할(아니면 달성한 것처럼 ‘보이는’) 지름길을 선택하려는 강박을 느낄 수 있다는 점이다. 

구글도 마찬가지인 것으로 보인다. 구글은 다년간 인상적인 AI 작업을 해 왔음에도 불구하고 여전히 시연 과정에서 강박을 노출했다. 파미 올슨은 “구글의 동영상은 마치 제미나이 울트라(Gemini Ultra)에게 실시간으로 다양한 것을 보여주고 말을 거는 기능이 가능해 보이도록 제작되었지만 사실 그런 기능은 불가능하다”라고 지적했다. 그래디 부치 또한 “해당 시연 동영상은 제미나이의 능력이 실제보다 훨씬 커 보이도록 엄청나게 편집되었다”라고 말했다.

왜 이들 업체는 실제 이상으로 ‘척’하는 것일까? 그 이유를 파악하는 것은 어렵지 않다. 자신을 ‘AI의 미래’로 내세우라는 압박이 안팎으로 엄청나다. 비단 AWS와 구글만 그런 것이 아니다. 상장 회사들의 최근 실적 발표 내용을 들어보면 모든 임원의 입에 ‘AI’라는 말이 수없이 오르내린다. AI 골드러시가 시작됐다. 다들 한몫 잡고 싶어 한다. 

생성형 AI의 기능은 매우 초기 단계다. 이런 저런 새로운 모델과 해당 모델이 제공하는 온갖 기능이 숨가쁘게 보도되고 있지만 과대 포장된 선전 내용에 비해 현실은 언제나 극적으로 뒤쳐져 있다. 

어쩌면 우리는 근본적으로 안전하지 않은 소프트웨어를 사용하는 기업이 늘어나도록 유도함으로써, 프롬프트 주입이라는 생성형 AI의 가장 긴급한 문제를 오히려 악화시키고 있다. 

오픈소스가 구조책
모든 것을 오픈소스화 하기만 하면 AI가 마법처럼 완벽해질 것이라는 이야기를 하려는 것이 아니다. 클라우드 등 기업 IT의 어느 분야에서도 지금까지 그런 일은 없었다. 생성형 AI라고 해서 다를 이유는 없다. 

사실 AI의 맥락에서 툭 하면 ‘오픈소스’라는 말을 사용하곤 하지만 무슨 의미인지조차 분명하지 않은 경우가 많다. 또 메타의 퍼플 라마(Purple Llama) 이니셔티브 사례처럼 기업은 비교적 덜 중요한 과제에 집중할 가능성이 높다. 사이몬 윌슨은 “메타가 퍼플 라마 이니셔티브에서 프롬프트 주입 공격의 위협을 시인하지 않는 것이 내게는 이해가 가지 않는다”라고 통탄했다.

게다가, 제미나이 같은 시스템은 다면적이고 복잡하다. 신 에릭 왕 교수는 “공학적 기교와 하드 코드화 된 규칙이 곳곳에 있다. 오픈소스화 하기 전까지는 시스템 내부에 모델이 몇 개나 있는지 절대 알 수 없다”라고 말했다. 

이런 복잡성은 대형 언어 모델이나 생성형 AI 시스템을 ‘오픈소스화’할 경우 오늘날의 질문 못지않게 많은 질문이 제기될 수 있음을 의미한다. 오픈소스 이니셔티브(OSI)는 이런 문제들과 씨름 중이다. OSI 사무 총장 스테파노 마풀리는 “개발자가 모델에 접근권이 있다는 것의 의미는 무엇이고, 행사되어야 할 권리는 무엇이며, 그 모델을 수정(하고 재배포)할 가능성을 갖기 위해 필요한 것은 무엇인가?”라고 반문했다. 그 질문에 대한 답은 아직 불분명하다.

분명한 것은 생성형 AI에 대한 오픈소스 시도가 대단히 중요하다는 점이다. 투명성은 늘리고 블랙박스 같은 불투명함은 줄여야 한다. 마이크로소프트, AWS, 구글 등은 여전히 스스로를 선두주자로 내세워야 한다는 강박을 느끼겠지만, 오픈소스는 사실과 허구를 구별한다. 코드는 거짓말을 하지 않는다.

앞서 언급한 아마존 Q, 코파일럿, 제미나이 발표로 돌아가본다. 단순히 선공개와 시연만이 아니라 코드가 있었다고 상상해 보자. 그랬다면 전체적인 분위기가 어떻게 달라졌을 지 생각해 보자. 그 상황이 자아낼 겸허함에 대해서도 생각해보자. 

기업 내에서 생성형 AI의 흔한 얼리어답터가 개발자라는 사실을 감안하면, 오레일리(O’Reilly) 설문조사 결과 밝혀진 것처럼, 기업은 개발자의 언어인 코드로 말해야 한다. 대부분의 개발자는 오픈소스 프로젝트용 코드를 살펴보지 않겠지만 일부 개발자가 살펴볼 수 있도록 공개하는 것이 중요하다. 과도한 열정의 발표로는 얻을 수 없는 방식으로 신뢰를 얻을 수 있다.

오픈소스가 생성형 AI 업체들이 겪는 문제를 완벽하게 해결해 주지는 않을 터다. 그러나 오픈소스가 촉진하는 더 큰 투명성이 절실하다.

* Matt Asay는 몽고DB의 개발자 관계 업무를 담당하고 있다. 그러나 본 글은 몽고DB의 입장이 아니다. ciokr@idg.co.kr