‘생성형 AI와 유달리 어울리는 업무 영역 있더라’ 기업들이 전하는 3분야

생성형 AI와 고객 서비스
고객 서비스는 생성형 AI의 주요 사용 사례 중 하나다. 벤더들이 플랫폼에 도구를 계속 추가함에 따라 기업이 이를 도입하기가 점점 더 쉬워지고 있다. 

스탠포드 대학교와 MIT의 연구진은 5,000명 이상의 고객 지원 상담원 데이터를 기반으로 지난 4월에 발표한 연구를 공동으로 진행했다. 연구 결과, 상담원들은 생성형 AI를 사용함으로써 평균적으로 시간당 14% 더 많은 문제를 해결할 수 있었다. 신입 및 저숙련 상담원의 경우 34% 개선된 결과를 보였다. 또한 AI는 상담원의 공감 능력 향상에도 도움이 되어 더 긍정적인 고객 경험으로 이어졌다고 연구진은 밝혔다. 

대기업 비즈니스 리더들이 향후 12~18개월 동안 고객 서비스에 생성형 AI를 사용하려는 것이 놀랍지 않은 셈이다. 실제로 얼리 어답터 기업들이 가장 큰 이익을 기대하는 분야이기도 하다. 그리고 그 영향은 이미 일부 산업에서 나타나고 있다.

지난 2월, 맥킨지는 고객 서비스에 생성형 AI를 사용하는 통신사의 84%가 비용 절감 효과를 보고 있으며, 그중 45%는 6% 이상 비용을 절감했다는 설문조사 결과를 발표했다.

생성형 AI와 소프트웨어 개발
엔터프라이즈 소프트웨어 회사 플랜뷰(Planview)는 생성형 AI가 전체 작업을 대신하는 것이 아니라 생산성 향상 도구로 활용될 때 가치가 크다는 사실을 포착했다. 이 회사의 수석 데이터 과학자인 리치 소넨블릭은 "반복적인 코딩 작업에서 생산성이 5%에서 20%까지 크게 향상되는 것을 확인했다"라고 말했다.

이러한 개선의 대부분은 주니어 직원들에게 집중되어 있었다. "AI 모델은 모범 사례 코드 시스템을 제시하여 주니어 개발자가 기술을 배우고 연마하는 데 도움을 줄 수 있다. 지치지 않고 항상 도움을 줄 수 있는 인내심을 가지 협력자다”라고 그는 말했다.

지난 2월, 글로벌 경영 및 전략 컨설팅 회사인 지노브와 디지털 서비스 혁신 회사인 네스 디지털 엔지니어링은 실제 엔지니어링 환경에서 100명 이상의 소프트웨어 엔지니어를 대상으로 한 심층 연구를 발표했다. 연구는 엔지니어들이 생성형 AI를 사용할 경우 기존 코드 업데이트 시간은 70%, 코드 테스트 시간은 41%, 새 코드 작성 시간은 32% 단축됐다는 내용을 담고 있다.

코드 업데이트의 경우, 생성형 AI는 코드 베이스에 이미 존재하는 함수를 사용하는 데 능숙했으며 코드 성능 개선을 제안하는 데 매우 유용했다고 연구원들은 전했다. 테스트에서도 생성형 AI는 테스트 케이스를 생성하고 테스트용 더미 데이터를 생성하는 데 특히 능숙했다.

그러나 새로운 코드 개발에서는 학습 데이터의 가용성과 프로젝트 맥락에 대한 이해가 부족했기에 효과가 거의 없었다.

전반적으로 생성형 AI를 사용하면 작업 완료 시간이 38% 단축되었으며, 시니어 엔지니어층에서 가장 큰 효과가 나타났다. 숙련된 전문가들은 AI의 제안을 더 잘 이해하고 실수를 코드에 추가하기 전에 수정할 수 있었다. 또한 필요한 결과를 얻기 위해 더 적은 수의 프롬프트가 필요했고, 기존 코드베이스와 프로젝트 요구 사항을 더 잘 이해하고 있었기 때문에 프롬프트에 더 많은 컨텍스트를 제공할 수 있었다.

하지만 생성형 AI가 도움이 될 수 있는 것은 대규모 소프트웨어 개발 프로젝트뿐만이 아니다. 작은 스크립트나 쿼리를 작성하는 데도 사용할 수 있어 비기술직 직원들의 역량을 강화할 수 있다.

경영 컨설팅 회사인 아레트는 약 1년 동안 다른 생성형 AI를 사용하여 이러한 작업을 수행해 왔다. 회사의 디지털 기술 서비스 담당 부사장인 프리야 이라가바라푸는 "우리 스스로를 실험 대상으로 삼는다. 우리는 새로운 기술을 직접 적용하고 성장통을 바로 파악한다"라고 말했다.

이 회사에서 나타난 즉각적인 생산성 향상 효과 중 하나는 직원들이 더 이상 복잡한 쿼리와 특수 스크립트를 작성하기 위해 회사의 데이터 엑셀런스 센터 팀에 문의할 필요가 없다는 것이다. 20명으로 구성된 이 팀은 이제 다른 일을 담당한다.

그녀는 "이제 그들은 다른 업무를 하고 있다. 우리는 이전에 이러한 모든 데이터 풀 작업을 수행하던 팀을 더 복잡한 작업을 수행하는 더 큰 규모의 전달 팀으로 통합했다"라고 말했다.

한편 코딩에 AI를 사용하면 단점도 있다. 개발자 도구 회사인 깃클리어(GitClear)에 따르면, 4년간 1억 5,000만 줄 이상의 변경된 코드를 분석한 결과 코드 품질 하락의 두 가지 징후인 코드 이탈률 증가와 코드 재사용률 감소가 발견됐다.

회사는 올해 코드 이탈률이 7퍼센트가 될 것으로 예상하고 있으며, 이는 AI 세대 이전보다 두 배나 높은 수치다. 생산성과 관련된 경고 신호는 이것뿐만이 아니다. 매년 구글은 수만 명의 개발자를 대상으로 설문조사를 실시하여 연례 데브옵스 현황 보고서를 발표하는데, 올해도 AI가 주요 화두였다.

응답자들은 코드 작성 및 최적화, 보안 분석, 새로운 기술 학습, 버그 식별, 테스트 작성, 문서 작성 등에 있어 AI가 이미 가치를 발휘하고 있다고 답했다. 그러나 보고서의 저자에 따르면 설문조사 데이터에 따르면 AI는 팀 성과와 소프트웨어 제공 성과에 중립적이거나 심지어 부정적인 영향을 미치는 것으로 나타났다.

오렐리 미디어의 신흥 기술 콘텐츠 담당 부사장인 마이크 루키데스는 "많은 사람들이 프로그래머의 생산성에 대해 이야기하곤 한다. 하지만 그 이득은 실제로 작을 수 있다. 대기업 규모에서는 생산성이 크게 향상되지 않은 것으로 보인다"라고 말했다.

11월에 발표된 오렐리의 자체 설문조사에서 생성형 AI가 가장 많이 사용되는 분야는 소프트웨어 개발이었으며, 34%의 기업이 실험 중이고 44%는 업무에 활용하고 있다고 답했다. 결국에는 모든 사람들이 AI 도구를 필수적이고 신뢰할 수 있는 도구로 사용하게 될 것이라고 그는 말하면서도, 그는 기업들이 코딩 속도를 측정하는 것 이상의 것을 고려해야 한다고 주장했다.

그는 "만약 코드 작성이 진짜 문제가 아니라면 어떨까? 고객의 문제가 무엇인지 이해하는 것이 진짜 문제라면 어떨까? 코드 작성 시간을 줄이고 그 시간을 고객에 대한 이해와 고객에게 적합한 무언가를 구축하는 방법에 투자할 수 있을 것이다"라고 말했다.

생성형 AI와 지식 작업
생성형 AI는 특히 텍스트 생성에 능숙하기 때문에 지식 작업자에게 매우 유용하다. 하지만 생성형 AI의 창의성이 처음으로 대중에게 알려진 영역은 사실 이미지였다.