Offcanvas

AI / 디지털 트랜스포메이션 / 디지털 트윈 / 머신러닝|딥러닝 / 훈련|교육

‘AI 아바타’에 투자하는 협업 플랫폼 기업··· 전문가들 “CIO는 미리 한계선 고민해야”

2024.06.07 Evan Schuman  |  CIO
이번 주 협업 도구를 제공하는 두 기업은 업무의 미래에 대해 새로운 비전을 제시했다. 생성형 AI와 ‘직원’을 결합한 ‘AI 아바타’ 기능을 강조한 것이다. 다만 업계 전문가는 AI 아바타에 대해 아직까지는 회의적인 입장을 보이고 있다.
 
ⓒ Getty Images Bank

앞으로 CIO는 내부 및 외부 미팅에서 ‘AI 직원’을 어느 정도까지 허용할지에 대한 고민해야 할 것 같다. 아사나와 줌과 같은 협업 플랫폼 업체가 인간과 AI 동료 간의 경계가 모호해지는 미래상을 제시하고 있기 때문이다.

아사나는 ‘AI 팀메이트’이라는 새로운 기능을 5일 공개했다. AI 팀메이트는 개인과 팀의 고유한 업무 방식을 이해하고, 우선순위에 대해 조언하고, 업무에 대한 조치를 직접 취해주는 기능이다. 아사나는 이에 대해 “휴먼인더루프(Human In The Loop)를 거치면서 기업은 AI 팀메이트의 업무 수행 과정을 투명하게 관리하며 통제권도 가져갈 수 있다”라고 설명했다.

공교롭게 이번 주 줌의 설립자 겸 CEO인 에릭 위안은 더버지와의 인터뷰를 통해 비슷한 기술을 언급했다. 그는 앞으로 ‘사람 직원’ 대신 ‘AI 아바타’를 회의에서 더 자주 만날 수 있다고 표현했다.

위안은 “한 팀원이 CEO의 결정이나 의미 있는 대화를 기다리고 있다고 가정해 보자. 이때 직접 사람이 나오지 않고 디지털 트윈 형태의 CEO가 의견을 대신 말하고 의사 결정 일부를 내려줄 수 있다”라며 “우리 모두는 자신만의 LLM을 갖게 될 것이다. LLM으로 디지털 트윈 기반을 만들고, 디지털 트윈을 믿고 활용할 수 있다”라고 설명했다.

위안은 특정 능력을 더 높이기 위해 매개변수를 일부 조정하고 상황에 맞게 개선된 AI 아바타를 회의에 내보낼 수 있다고 설명했다. 그리고 이런 기술이 확산되면 결국 직원은 현재 소통하는 대상이 AI 아바타인지 실제 사람인지 구분하기 어려운 시대가 올 수 있다고 말했다. 위안은 “미래에 나올 AI 아바타는 각 직원을 정교하게 모방할 수 있다. 따라서 대화하는 대상이 실제 사람인지 AI 아바타 버전인지 알 수 없을 것”이라고 말했다.

위안은 또한 AI 아바타가 신체 감각을 모방하는 능력을 갖출 수 있다고 설명했다. 위안은 “AI 아바타와 통화를 할 때면 마치 실제 인간이 함께 앉아 있는 것처럼 느껴질 것이다. AI 아바타가 악수하면 상대방이 내 손을 느낄 수 있다. 포옹을 하면서 친밀감을 느끼게 만들 수 있다“라며 “뛰어난 실시간 번역 기술로 서로 다른 언어를 사용해도 대화를 자연스럽게 이어갈 수 있을 것이다. 만나고 싶지 않은 상대가 있다면 AI 아바타만 보내 평소와 똑같은 대화를 하도록 유도할 수 있다”라고 설명했다.

가드레일과 가이드라인이 필요한 AI 아바타
협업 플랫폼 업체가 AI 아바타에 대해 기대를 걸고 있지만, 업계 전문가는 AI 아바타가 대중화되기 위해선 넘어야 할 산이 많다고 보고 있다.

클라우드 기업 쿠도컴퓨트(CUDOCompute)의 CMO 라스 니만은 “기업은 반복적이고 데이터 집약적인 업무를 AI가 처리하도록 장려하고, 인간 직원은 대신 전략적이고 창의적인 업무에 집중할 수 있도록 도와야 한다”라며 “그러나 감성 지능, 윤리적 판단, 미묘한 이해가 필요한 중요한 결정은 인간의 손에 맡겨야 한다”라고 설명했다. 또한 니만은 “업무 환경에서 동료는 실제 사람만이 제공할 수 있는 공감을 중요시한다”라며 “AI에 어느 정도 익숙해지면 우리 인간은 결국 진정한 대화를 갈망하게 될 것”이라고 설명했다.

니만은 특히 AI 아바타가 인간인 척 속이는 상황에 대해 우려를 표했다. 니만은 “AI 아바타가 언제, 왜 작동하는지 명확히 밝혀야 한다. 그렇지 않으면 여러 문제가 발생할 수 있으며 나아가 사용자 경험 관점에서도 좋지 않다”라며 “내가 소통하는 대상이 사람이 아니라 AI라는 것을 알게 되면 사람은 감동받지 못하고 좌절감까지 느낄 수 있다”라고 설명했다. 니만은 “AI는 인간의 노력을 보완해야지, 거짓으로 인간을 사칭하거나 핵심 의사결정을 내리거나 인간 상호 작용을 대체해서는 안 된다”라고 말했다. 니만은 또한 너무 인간과 비슷한 AI를 만들면 인간을 속이는 사례가 많아질 것이라고 우려했다.

소프트웨어 개발 기업 아임프로소프트(Aimprosoft)의 CEO인 막심 이바노프는 AI 아바타 수준에 대해 비판적인 입장을 보이고 있다. 이바노프는 “전략 논의를 위해 회의에 참석할 때는 AI 아바타를 보낼 수 없다. 아무리 잘 뛰어난 AI 아바타라도 내 머릿속 생각을 깊이 알 수 없기 때문”이라고 설명했다.

보안 인증 플랫폼 업체 네임태그(Nametag)의 CEO이자 전 마이크로소프트 중국 총괄 매니저인 아론 페인터는 인간과 너무 닮은 외모와 소리를 내도록 설계된 AI 아바타에 대해 부정적 입장을 보였다.

페인터는 “보이는 것은 매우 중요하다. 인간은 자신이 AI 아바타와 상호작용하고 있는지 아니면 실제 사람과 상호작용하고 있는지 즉시 알 수 있어야 한다”라며 “딥페이크는 온라인 상호작용에서 신뢰를 깨뜨렸다는 점에서 심각한 위협이다. 누군가가 AI 아바타를 만났지만, 실제 사람과 대화하고 있다고 생각하면 불쾌감, 좌절감, 오해를 불러일으키며, 향후 협업과 공동 생산성에 부정적인 영향을 미칠 수 있다”라고 말했다.

다만 페인터는 “물론 AI 아바타를 통해 직원은 회의에서 벗어나 보다 생산적인 업무에 시간을 할애할 수 있다”라며 “CIO는 AI 아바타를 얼마나 많은 직원에게 지원할지 미리 고민하고, 사람을 기대했던 회의에서 AI 아바타가 대신 나올 경우 직원이 어떻게 느낄지 미리 이해해야 한다”라고 설명했다.

페인터는 현재 딥페이크에 대한 우려가 크기 때문에 AI 아바타 기술이 확산되기 위해서는 다양한 장애물을 극복해야 할 것으로 분석했다. 그는 “AI 아바타가 주류 기업에 수용되기 위해서는 CIO가 직원 대상으로 광범위한 교육을 실시해야 할 것”이라고 표현했다.

공급망 최적화 솔루션 업체인 Oii.ai의 CEO 밥 로저스는 “CIO는 회사에서 AI의 활용 범위를 제한하는 전략을 세워야 한다. 하지만 어디까지 선을 그어야 하는지는 각 기업이 결정할 문제다”라고 설명했다. 로저스는 “기업은 AI 시스템에서 무엇을 원하는지 스스로에게 물어봐야 한다. 대규모 데이터 분석은 물론 AI가 잘할 수 있는 것이다. 그런데 회의에서 직원을 AI 버전으로 대체하는 것은 다른 문제다. 그런 결정은 좀 더 신중하게 접근해야 한다”라고 설명했다.

로저스는 아사나가 제시한 ‘AI 팀메이트’ 기능이 어느 정도 가치 있다고 생각했지만 CIO는 미리 분명한 한계선을 설정해야 한다고 조언했다.

로저스는 “아사나의 AI 팀메이트는 인간이 할 수 없는 반복적인 일상 업무의 문제를 해결하려고 하는 것 같다. 가령 ‘우리 회사에서 B 업무를 잘 처리할 수 있는 적임자는 누구인가’라는 답은 AI가 더 잘 내릴 수 있다”라며 “하지만 그런 답을 가지고 문제에 대한 구체적인 솔루션을 구축하려면 창의적인 인간의 두뇌가 필요하다”라고 설명했다.

로저스는 줌의 CEO가 그린 미래의 모습에 대해서도 우려를 표했다. 로저는 “괜찮은 아이디어이지만 조직은 이러한 AI 아바타의 의사 결정 능력에 대해서 어디까지 허용할지 신중하게 접근해야 한다”라며 “위안도 환각 문제를 해결해야 한다고 언급했고, 나 역시 환각 문제가 해결된다면 어느 정도 AI 아바타가 더 유용하게 활용될 수 있다고 본다”라고 설명했다. 또한 로저는 “회의에 AI 아바타를 보낼 수 있는 상황이라면, 기업이 과연 현재 수준의 직원 수를 유지하는 동시에 AI 아바타 기술을 위해 비용을 함께 지불할지에 대한 문제도 생각해 봐야 할 것이다”라고 덧붙였다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.