Offcanvas

AI / 머신러닝|딥러닝

“코파일럿에 완전히 매료되지 못한 이유는...” AI 미리 도입한 CIO 3인의 조언

2024.04.19 Grant Gross  |  CIO
마이크로소프트를 비롯한 많은 벤더사가 코파일럿으로 대표되는 AI 비서 같은 기술로 엄청난 효과를 볼 수 있다고 홍보한다. 하지만 모든 IT 리더가 이 기술에 만족하는 것은 아니다. 일부 IT 리더는 아예 코파일럿이 투자 대비 확실한 이득을 주는지 면밀하게 분석하고 있다.
 
ⓒ Getty Images Bank

생성형 AI 기술을 제공하는 기업은 모두 하나같이 투자한 만큼 엄청난 생산성 향상을 경험할 것이라고 소개한다. 마이크로소프트(MS)도 그러한 기업 중 하나다.

하지만 MS는 제대로 가치를 제안하려면 '비용' 문제를 먼저 해결해야 할 것 같다. 일단 MS 365용 코파일럿은 가격은 한 달에 30달러(사용자당)이며, 최소 300명 사용자 이상으로 구매해야 한다. 경쟁 서비스인 구글의 AI 비서인 제미나이의 엔터프라이즈 버전의 가격도 비슷하다.

미국 캘리포니아 대학교의 CIO인 매튜 군켈은 MS 코파일럿이 현재 시장을 이끄는 AI 비서임에도 불구하고, 계속 다양한 AI 도구를 살펴보고 있다. 하나의 AI 도구에 종속되는 상황을 피하고 ‘가격’도 부담되기 때문이다. AI 기술은 너무 빠르게 발전하고 있고, 투자 대비 효과는 아직 불투명하기 때문에 벌써부터 하나의 AI 비서에만 기대기는 어렵다는 것이다. 군켈은 “AI 분야에서 누가 승자와 패자가 될지 명확하게 결론 내기엔 아직 이르다”라고 설명했다.

군켈은 프로그래머와 같은 일부 직종에서는 AI 비서의 이점이 분명하다고 설명했다. AI 도구는 프로그래머가 로직과 코딩 오류를 정리하고 보안 문제를 찾는 데 도움을 줄 수 있으며, 프로그래머의 역량을 높이며 내부 교육에 드는 매몰 비용을 줄이는 데도 도움이 될 수 있다고 표현했다.

군켈은 올해 말안에 직원에게 MS 코파일럿을 포함한 여러 개의 AI 비서를 선택할 수 있게 지원할 예정이다. 하지만 그는 아직 MS 코파일럿과 같이 범용 목적 AI 기술을 유용하게 쓰는 사례를 찾지 못했다. 군켈은 “지금 당장 대규모로 AI 비서 기술을 구매할 생각은 없다”라며 “하지만 일부 직원을 위해 비용을 지불할 의향은 있다”라고 설명했다.

이점 고려하기
소위 AI 비서라고 불리는 코파일럿은 짧은 질문을 통해 원하는 문서를 생성하고, 프레젠테이션을 만들고, 반복적인 작업을 자동화하고, 여러 소스에서 정보를 취합하고, 이메일, 채팅, 회의를 요약할 수 있다고 MS는 설명한다. 실제로 코파일럿은 직원이 회의나 이메일에서 어떤 작업을 하겠다고 미리 설정하면 관련 작업으로 알아서 할당하고 처리한다.

MS는 영업 및 보안과 같은 특정 부서를 위한 코파일럿도 제공한다. 가령 ‘코파일럿 포 시큐리티’는 인시던트를 요약하고, 영향 분석을 수행하고, 인시던트에 대한 가이드 대응을 제시한다.

MS는 코파일럿이 70% 사용자의 생산성을 높인다고 홍보했다. MS의 설문조사에 참여한 응답자 중 4분의 3 이상이 “코파일럿을 일단 경험하면 그 뒤에도 계속 쓰고 싶다”고 답했으며, 85%는 “코파일럿이 초안 더 빨리 작성해 준다”라고 답했다.

MS의 11월 보고서에 따르면 설문 응답자의 4분의 3은 “코파일럿이 파일 검색에 도움을 주어 시간을 절약한다”고 말했다. 해당 보고서는 “기업에서 생성형 AI 사용이 확산될 경우 개인의 생산성이 아니라 조직 전체의 역량이 높아진다는 점에서 의미가 있다”이라고 말했다. 또한 MS는 “코파일럿은 글쓰기, 디자인, 코딩, 데이터 분석 등 직장 내 필요한 다양한 역량과 관련된 새로운 기준을 제시한다. 그리고 전문성을 대폭 높이고 업무의 수준을 ‘좋은’ 수준에서 ‘탁월한’ 수준으로 끌어올린다”라고 밝혔다.  

시작이 어려운 사람에게 유용한 도구
여기서 주의 깊게 봐야 할 부분이 있다. 앞서 언급한 MS 설문조사에 응한 사람들 중 상당수는 유료로 코파일럿을 이용하고 있지 않다.

몇몇 CIO와 및 기술 리더는 AI 비서의 미래를 믿지만, 아직 그 기능이 충분하지 않다고 평가하고 있다. 가령 IT 컨설팅 업체 쏘트웍스(Thoughtworks)의 최고 AI 책임자 마이크 메이슨은 자칭 ‘AI 낙관론자’이지만 군켈과 비슷한 생각을 가지고 있다.

쏘트웍스는 구글 제미나이를 매우 출시 초기에 도입해 테스트했다. 메이슨에 따르면, 제미나이는 특히 영어를 제2외국어로 사용하는 직원들에게 큰 도움이 되었다. 직원들이 프롬프트를 작성하는 데도 제미나이는 유용했다. 메이슨은 “AI 비서는 일명 ‘빈 페이지의 저주’를 피할 수 있게 돕는다. 다시 말해 시작이 어려운 사람에게 활용성이 높았다”라고 설명했다.

쏘트웍스는 AI 코딩 도구인 깃허브 코파일럿을 도입했다. 메이슨은 “프로그래밍 영역에서는 보다 쉽게 유료 버전이 사용할 만하다”라며 “깃허브 코파일럿이 코드 몇 블록을 만들 수 있다면, 개발자 입장에서 하루에 5~10분만 절약하는 셈이다. 개발자의 시간당 비용을 고려할 때 한 달에 30달러는 매우 합리적이다”라고 설명했다.

하지만 메이슨은 사무용 AI 비서의 비용/편익 분석은 명확하지 않다고 보고 있다. 그는 “생산성 향상에 도움이 된다. 하지만 이를 위해 직원당 30달러라는 비용을 더 내야 한다는 말을 들으면? 주변의 많은 기업이 ‘그건 부담하고 싶지 않은 추가 비용’이라고 반응했다”라고 밝혔다.

실제로 제미나이의 초기 테스터였던 쏘트웍스는 아직 제미나이를 얼마나 광범위하게 적용할지 결정하지 못한 상태다. 메이슨은 “재밌는 점은 또 어떻게 보면 직원 생산성을 높일 수 있다면 한 달에 30달러는 그리 큰 금액이 아닐 수 있다”라며 “단 요즘 같은 경제 상황에서는 모든 기업이 작은 비용까지 신중하게 따지고 있어 쉽사리 결정을 내리지 못하고 있다”라고 설명했다.

늘어날 가치
스노우플레이크는 최근 자연어를 사용해 SQL 쿼리를 생성하는 자체 AI 비서 ‘스노우플레이크 코파일럿’을 개발했다. 스노우플레이크의 최고 정보 및 데이터 책임자 써니 베디는 기업용 AI 비서가 곧 기업에 ‘엄청난 가치’를 창출할 것이라고 예측했다.

베디는 “궁극적으로는 모든 직원이 각자의 역할에서 생산성을 높이는 맞춤형 AI 비서를 활용할 것”이라며 “신입사원은 온보딩 경험을 개인화하거나 캘린더 및 이메일 응답 설정 같은 일상적인 작업을 자동화할 수 있다. 어떤 사례든 결국 AI 비서는 우리의 삶을 더 편하게 만들어 줄 수 있다”라고 설명했다.

AI 솔루션 기업 피플닷에이아이(People.ai)의 부사장 겸 최고제품책임자인 린다 시모빅은 2021년 말부터 2023년 말까지 MS에서 최고 제품 책임자로 근무하며 ‘코파일럿 포 세일즈’ 제품 개발에 관여했다. 현재 시모빅도 AI 비서 기술의 열렬한 지지자다.

시모빅은 MS에서 일하면서 코파일럿의 유용성을 깨달았다고 한다. 시모빅은 “피플닷에이아이 전 직원도 AI 비서 기술을 적극 체험하며 열광하고 있다”라며 “개인적으로는 긴 이메일을 요약해 주는 기능이 정말 마음에 들었다”라고 설명했다. 그외에도 시모빅은 회의 요약 기능을 적극 활용하고 있다. 이를 통해 혹여나 회의에 늦게 참여했을 때 누군가에게 물어보지 않아도 회의 핵심 내용을 받아 보고 있다.

다만 캘리포니아 대학 군켈과 마찬가지로 시모빅도 AI 기술 시장이 변할 수 있는 여지가 많다고 보았다. 시모빅은 “새로운 영역이니 어떤 것이 주류 기술이 될지 모른 채로 많은 기업이 참여해 새로운 AI 기술을 쏟아내고 있다. 이런 지점이 현 AI 산업의 흥미롭다”라며 “우리는 그저 실험하고 사람들이 사용할 수 있게 지원하고 있다”라고 밝혔다.

시모빅은 또한 많은 업무에서 AI 비서의 ROI는 측정하기 어렵다고 설명했다. 코파일럿이 직원의 받은 편지함에 있는 150개의 이메일을 요약하여 10분을 절약했다면, 그 직원이 절약한 시간으로 무엇을 하느냐에 따라 ROI를 달리 계산할 수 있다는 것이다. 만약 직원이 그 시간을 페이스북에서 보낸다면 투자 수익은 없다.

하지만 시모빅은 “AI 비서가 특정 직원의 역할에 맞게 맞춤화되면 생산성 향상 효과는 엄청날 수 있다”라며 “누군가는 AI 비서로 20%~40% 수준의 생산성 향상을 경험할 수 있다”라고 설명했다.

시모빅은 많은 벤더가 업무 역할에 따라 더 세분화된 경험을 제공하면서 AI 비서가 계속 발전할 것이라고 분석했다. 하지만 이러한 AI 비서의 가격 때문에 일부 기업은 단기간에 광범위한 도입을 꺼릴 수도 있다.

시모빅은 “MS가 구축한 것은 기반이다”라며 “하지만 현재 판매가는 기업 입장에서 감당하기 어려운 수준이. 직원 수가 수천 명이라면 사용자당 월 30달러는 상당한 금액이다”라고 설명했다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.