IT 전문가·CIO들이 저울질한 ‘생성형 AI의 가능성과 과제’

잠재력이 어마어마하다. 하지만 미성숙하고 위험한 측면도 가진다. 기술 분야의 리더들이 생성형 AI의 활용 영역과 과제를 분주하게 탐구하는 이유다. CIO와 업계의 IT 전문가들이 생성형 AI를 바라보는 시각을 정리했다.

생성형 AI는 현 시대의 위대한 기술 혁신 중 하나다. 오픈AI의 챗GPT가 불러일으킨 수천 개의 헤드라인에 힘입어 많은 IT 대기업들이 급하게 대응할 수밖에 없었으며, 전 세계 기술 컨퍼런스의 주제이자 주요 논의 주제가 되었다. 하지만 모든 새로운 큰 물결이 그렇듯이 유망한 프로젝트가 물거품이 될 위험이 있으며 거버넌스, 품질 및 보안에 대한 분명하고 명백한 우려도 있다. 

이러한 거품을 걷어 내기 위해 CIO닷컴은 다양한 IT 리더와 전문가를 대상으로 생성형 AI의 현재 상황, 희망 사항, 우려 사항에 대한 견해를 조사했다.
 

CIO들의 움직임
부동산 개발업체인 퍼시몬 홈즈의 CIO인 폴 코비는 많은 트렌드가 오고 가는 것을 보았지만, 생성형 AI에 낙관적이다. 

“나는 생성형 AI가 근본적인 수준의 게임 체인저라고 생각한다. 미국에서 열린 가트너 컨퍼런스에서는 메인프레임 컴퓨팅과 인터넷에 이어 생성형 AI가 ‘제3의 디지털 혁명’이라는 표현이 등장했다. 제품 작성 및 디자인부터 시각화, 코드 확인 등 다양한 사용 사례에 적용할 수 있는 툴이 있기 때문에 그 영향력은 정말 엄청날 수 있다”라고 말했다.

또 다른 베테랑 IT 리더인 데이비드 아이벨은 행동 관리 교육 회사인 팀 티치의 최고 제품 및 기술 책임자다. 그 또한 이미 생성형 AI에 주목하고 있다.

그는 “이미 생성형 AI는 우리 비즈니스 전략의 핵심이다. 이미 비즈니스 현장에 적용된 AI 지원 프로세스를 통해 성장을 촉진하고 있다. 작년 중반부터 이 분야의 혁신 속도에 따른 잠재적 영향, 기회, 리스크를 분석하고 리스크를 최소화하기 위한 정책을 도입하고 조치를 시행해 왔다”라고 전했다.

그는 이어 “전반적으로 이를 큰 기회로 보고 있으며, 비즈니스의 모든 부서와 함께 워크숍을 진행함으로써 이 분야의 혁신 가속화에 대해 교육하고 기회와 리스크에 대한 시각을 공유했다. 우리는 잠재적인 개념 증명 옵션의 후보를 선정하고 구축하고 수익에 미치는 영향을 모델링해 왔으며, 이미 우리의 혁신 연구실을 통해 한 가지 개념을 실제 현장에 도입했다”라고 말했다.

시장 분석 기업 기가옴의 존 콜린스는 “애널리스트 각각이 챗GPT를 테스트하고 있다. 잠재력은 매우 긍정적이다. 연구 툴이나 완전히 형성되지는 않았지만 초기 답변을 제공하는 툴로서는 더욱 그렇다. 디자인 작업 측면에서도 매우 매력적이다. 하지만 생성형 AI가 정보에 대한 인간의 개입을 완전히 대체할 가능성을 지켜봐야 한다.”라고 말했다. 그는 ‘테크놀로지 가든: 지속가능한 IT-비즈니스 연계 육성’의 저자다.

IDC의 AI 및 지능형 프로세스 자동화 유럽 관행 담당 부사장인 닐 워드-더튼은 생성형 AI 사용률이 이미 높지만, 비즈니스 전략과의 정렬은 미흡한 측면이 있다고 지적했다.

그는 “엄청난 잠재력을 가지고 있다. 2023년 3월에 실시한 IDC 설문조사에 따르면 응답자의 21%가 올해 이미 생성형 AI에 투자하고 있다고 답했으며, 55%는 잠재적인 사용 사례를 모색하고 있다고 답했다. 일반적으로 명확한 정책과 많은 풀뿌리 실험을 통해 형성된 전략이나 계획에 따라 생성형 AI를 사용하는 조직은 소수에 그친다. 거의 대부분 전략 공백 상태에서 이루어지고 있다”라고 말했다.

효과가 있는 것(과 그렇지 않은 것)
그렇다면 생성형 AI를 잘 활용하는 방법론은 무엇일까? 방사선 의료 서비스 제공업체인 메디카 그룹의 CIO인 마크 오브라이언은 “대표적인 모범관행으로는 부서간 협업, 구매 전 사용, 실행을 통한 학습 등이 있다. 내 경험에 따르면 평판이 양호한 회사의 알고리즘은 약속한 대로 잘 작동하곤 했다. 하지만 정말 중요한 것은 워크플로우 중 사용자가 어떤 위치에 있느냐다”라고 말했다.

팀 티치의 아이벨은 기성 애플리케이션과 제품군에 내장된 툴을 사용하여 빠르게 시작할 수 있다고 봤다.

그는 “생성형 AI의 핵심적이고 즉각적인 기회 중 하나는 이미 배치된 일부 툴, 즉 파워 BI, 어도비 또는 여러 산업별 앱에 이미 내장되어 있다는 점이다. 이를 활용하려면 새로운 기능을 분석해 어떻게 사용할지 파악하고, 우선 직원들에게 새로운 기능을 활용하는 방법을 교육해야 한다. 사람들은 항상 사용하던 방식으로 툴을 사용하는 경향이 있기에 새로운 기능의 채택이 느릴 수 있다. 기업은 이를 가속화해야 한다”라고 말했다.

기가옴의 콜린스는 ‘작은 것부터 시작하자’식 접근법을 제안했다. 그는 “생성형 AI 솔루션이 제공하는 답변에는 리스크와 주의가 따르기 때문에 거버넌스가 우선시되어야 한다. 경험상 텍스트 답변은 잘못되거나 오해의 소지가 있거나 불완전할 수 있다. 코드 답변에는 버그가 있거나 결함이 있을 수 있다. 적어도 현재로서는 툴의 성공 여부가 질문을 만드는 능력에 달려 있는 경우가 많다. 이를 고려할 때, 작은 것부터 시작하는 것이 앞으로 나아가는 것이 되어야 한다”라고 말했다.

워드-더튼과 IDC도 동의하면서 5가지 지침을 추가했다. 가치와 기능에 초점을 맞추고, 구체적인 사용 사례를 찾고, 한계를 이해하고, 업무와 일자리에 미치는 영향을 고려하고, 보안, 기밀성, 개인정보 보호 및 품질과 같은 리스크를 관리하는 것이다. 

걸림돌
안전, 편향성, 정확성, 환각은 계속해서 지적되는 문제다. 자산 관리 회사인 JM 핀의 IT 책임자 겸 최고정보보호책임자(CISO)인 존 코슨은 챗GPT에 자신의 약력을 요청했던 사례를 언급했다. 이 시스템은 그의 이력 중 약 70%만 나열했으며, 유명 은행에서 근무한 기간을 지어내기도 했다.

그는 “인공지능이 어디에서 엄청난 힘을 발휘하고 어디에서 우리를 도울 수 있는지 파악해야 한다. 동시에 인간의 감독을 유지하도록 주의해야 한다. 문서를 더 쉽고 풍부하 작성할 수 있게 됐다. 내 삶이 더 편해졌지만, 이 짐승에 의존하면 물릴 수도 있다. JM핀에서는 테스트를 활용해 선택적으로 사용하며, 엄격하게 모니터링하고 있다. 잘못된 의사 결정을 초래할 위험성이 있다면 결코 배포하지 않을 것이다”라고 말했다.

메디카의 오브라이언는 의료 업계의 특성을 언급했다. 그는 “의료 분야의 규제 환경과 기술적 후진성으로 인해 알고리즘의 구현과 사용에 필요한 자금을 조달하기 어렵다. 단 이러한 장벽이 극복되면 구현이 신속하게 이뤄질 수 있다”라고 말했다.

코비는 생성형 AI와 대규모 언어 모델(LLM) 사용에 관련해 미숙한 규제 및 법적 구조와 함께 환각 현상을 지적했다. “그렇기 때문에 이 단계에서는 전문 지식을 갖춘 사람이 모든 사용을 확인하는 것이 필수다. PoC에서 주류 구현으로 전환하는 것은 신중하게 통제되어야 할 것이다”라고 그는 말했다.

아이벨은 생성형 AI가 예상치 못한 경쟁자의 출현으로 이어질 수 있다고 말했다. 그는 “경쟁사나 스타트업이 이 기술을 이용해 더 빠르고 저렴한 제품이나 서비스를 생산하는 새로운 툴을 가지고 우리의 시장 점유율을 공격할 수 있는지 파악해야 한다. 또 위협으로 활용하는 방법도 상당히 주시해야 한다”라고 말했다.

지적 재산권 위험과 관련하여 IDC의 워드-더튼은 공공 생성형 AI 서비스를 사용할 때 주의를 기울이지 않으면 조직의 자체 IP가 퍼블릭 도메인으로 유출될 수 있다고 말했다. 그는 “일부 시스템 제공업체는 원제작자의 허락을 받지 않고 데이터와 콘텐츠를 시스템에 학습시켰다는 이유로 소송에 직면하고 있다”라며, 오늘날의 생성형 AI 시스템을 구동하는 핵심 기술은 학습하는 데 매우 비싸기 때문에 비용도 엄청날 수 있다고 덧붙였다.

최적점 찾기
생성형 AI가 특히 빛을 발할 분야에 대한 의견은 다양하게 나뉜다. 콜린스는 연구와 디자인 분야를 지목했다. “복잡한 웹사이트를 처음부터 새로 만들어야 하는 어려움이 해소될 것이다. 자동화할 수 있는 다른 영역도 사라지는 것이 매우 당연하다”라고 그는 말했다.

오브라이언은 규제가 심하지 않은 분야, 알고리즘에 자금 투입을 정당화할 수 있는 분야, 소비용 콘텐츠를 생산하는 모든 분야라고 덧붙였다.

IDC의 워드-더튼은 고객 기업들이 고객 및 직원 경험 개선, 지식 관리 강화, 소프트웨어 제공 가속화라는 3가지 주요 클러스터를 지목한다고 전했다. 그는 시간이 지나면 이 클러스터에 기업 커뮤니케이션(컨택 센터 포함), 협업 및 지식 공유, 콘텐츠 관리, 디자인, 연구 및 창의적 활동이 추가될 것이라고 예상했다.

코비는 생성형 AI를 사용하여 초안을 생산하고 이를 기초로 인간의 생산성을 높이는 업무에 초기 성공 가능성이 높다고 말했다. 그는 “이는 여러 영역에 적용될 가능성이 높으며 올바른 질문을 하는 새로운 기술이 필요할 것이다”라고 말했다.
. 
아이벨은 콘텐츠, 코드 생성, 고객 지원 분야에의 적용 가능성에 동의하면서도 자신은 연구 분야의 기회에 가장 큰 흥미를 느낀다고 말했다. 그는 “AI는 텍스트 형식의 대용량 데이터를 분석하여 데이터 세트의 새로운 형식, 요약 및 분석을 생성할 수 있다. 또한 대규모 데이터 세트를 분석하여 행동 패턴을 이해하고 새로운 제품을 개발하는 데 사용할 수 있는 인사이트를 생성하는 등 이전에는 불가능했던 엔터프라이즈 수준의 인사이트를 생성할 수 있다”라고 말했다.

열성적인 블로거인 JM 핀의 코슨은 미드저니와 같은 툴을 사용하는 텍스트 및 그래픽 콘텐츠가 단기적으로 분명한 기회라고 말했다.

그는 “이미 블로그 사이트에서 강한 힘을 발휘하고 있으며 많은 사람들이 이를 프레임워크로 사용할 것이다. 인간의 일부 개입만으로도 우수한 산출물을 만들어낼 수 있다. 카피라이터가 일자리를 잃겠지만 새로운 일자리가 창출될 것이다”라고 말했다.

AI 확산 이끄는 마중물?
일부 전문가들은 생성형 AI가 AI와 ML의 광범위한 적용을 위한 선구자가 될 수 있다고 본다. IDC의 워드-더튼이 특히 그렇다.

그는 “불과 몇 달 만에 생성형 AI는 전 세계 기술 및 비즈니스 리더들의 관심과 상상력, 그리고 두려움을 동시에 불러일으켰다. 우리는 생성형 AI가 데이터와의 관계와 정형 및 비정형 데이터에서 가치를 추출하는 방식을 완전히 바꿀 새로운 컴퓨팅 시대, 즉 AI 에브리웨어 시대를 여는 촉매 기술이 될 것이라고 믿는다. 생성형 AI의 빠른 도입으로 AI는 스택의 신흥 소프트웨어 부문에서 플랫폼의 연결 기술로 변화하고 있다”라고 말했다.

코슨 CIO는 인간의 역할을 고민해야 할 중요성을 강조했다. 그는 “현재 AI는 인간과 함께 일할 때 가장 잘 작동한다. 인간의 뇌는 여전히 가치가 있고, 공감과 인간성은 중요하다. AI가 이를 어떻게 보완하고 융합할지 연구해야 한다”라고 말했다. ciokr@idg.co.kr