ROI 높이는 비즈니스 운영 도우미 ‘에이전턱 AI’가 온다

운영 관련 결정에 중점을 둔 에이전틱 AI는 백그라운드에서 자율적으로 작동하여 비즈니스 프로세스에 직접적으로 개입한다. 이를 통해 직원들이 더 가치 있는 업무에 집중할 수 있도록 지원한다.
 

비즈니스 운영에 초점을 맞춘 생성형 AI 활용 방안 하나가 구체화되기 시작했다. 생성형 AI의 활용상이 업 워크플로우의 자율적 의사 결정으로 나아가는 셈이다. 보이지 않는 곳에서 조용히 작동하는 AI 에이전트의 형태를 띄고서다.

에이전틱 AI(Agentic AI)의 핵심은 조직의 수많은 비즈니스 프로세스 내에서 사람의 개입 없이 특정 기능을 자동화한다는 개념이다. 예를 들어, AI 에이전트가 환불 또는 교체 제공과 같은 고객 서비스 문제를 자율적으로 처리하며, 조직의 네트워크에서 잠재적인 위협을 식별하고 선제적으로 예방 조치를 취하게 된다.

뱅킹 분야 기술 벤더인 컴플라이콘트롤(ComplyControl)의 최고 AI 책임자인 미하일 두나에프에 따르면 이미 몇몇 초기 사례가 있다. 통합 코드 저장소 에이전트인 깃허브 코파일럿 워크스페이스와 회사 프로세스를 모니터링하고 보고서를 작성하며 프로그래머를 위한 새 티켓을 생성하여 프로젝트를 관리할 수 있는 AI 비서인 구글 AI 팀메이트가 그것이다. 

그는 “향후 몇 년 안에 이 두 비서가 개발 부서 전체를 대체할 수도 있다. 이러한 변화는 이제 막 시작 단계다. 아직은 다양한 사용자층에 제공되지 않고 있다”라고 말했다.

캡제미니의 최근 연구에 따르면 소프트웨어 개발이 에이전틱 AI의 주요 초기 사례이며, 조사 대상 조직의 75%가 소프트웨어 개발에 AI 에이전트를 사용할 계획이라고 응답했다.

앞으로는 인지적 AI 에이전트가 의료 환경에서 환자와 소통하며 정신 건강 관리를 지원하는 보조자 역할을 할 것이며, 대학에서 학생 리크루터의 역할을 할 수 있을 것이라고 주지 AI 에이전트의 창립자이자 IBM 왓슨 퍼스널리티 인사이트의 개발자인 미셸 조우는 전망했다. AI 리쿠루터가 예비 학생에게 방문 목적을 묻고, 주요 관심사를 파악하고, 학생의 학문적 관심사와 강점을 유추하고, 관심사에 맞는 적합한 프로그램을 조언하는 식이다. 

에이플랙, 애틀랜틱 헬스 시스템, 레전더리 엔터테인먼트, NASA의 제트 추진 연구소 등 다양한 기업이 이미 에이전틱 AI를 도입하고 있다.

증가하는 AI 에이전트
대기업을 대상으로 한 캡제미니의 설문조사에 따르면 조직 10곳 중 1곳이 AI 에이전트를 배포하고 있으며, 50% 이상이 내년에 AI 에이전트 사용을 검토할 계획이다. 포레스터는 최근 블로그 게시물에서 AI 에이전트를 2024년 10대 신흥 기술 중 하나로 선정했다. 포레스터의 신흥 기술 포트폴리오의 부사장 브라이언 홉킨스는 이 기술에 대해 “아마도 올해 목록 중 가장 흥미로운 존재”라고 표현했다.

그는 “이제 AI 에이전트는 고급 언어 모델을 활용하여 기업이나 개인을 대신하여 복잡한 작업을 수행하고, 의사 결정을 내리고, 자율적으로 상호 작용한다. 기본적인 생성형 AI에서 '에이전틱 AI'로의 전환은 더 정교하고 덜 취약한 자동화 기능을 약속한다”라고 말했다.

또한 에이전틱 AI는 소프트웨어 코드를 생성할 수 있는 튜링봇 에이전트 등 다른 전문 AI 도구의 진화를 이끌 것이라고 그는 덧붙였다.

독립적으로 결정 내리는 AI
고급 프록시 솔루션 제공업체인 라이브 프록시의 공동 창립자이자 CEO인 제이콥 칼보는 AI 에이전트 활용의 핵심 가치는 방해 요소에서 벗어나는 것이라고 평가했다.

그는 “독립적으로 행동할 수 있는 능력이야말로 에이전틱 AI의 꽃이다. 에이전틱 AI를 통해 조직은 놀라운 속도로 운영을 확장하고 혁신을 창출할 수 있다”라고 말했다.

라이브 프록시는 현재 AI 에이전트를 사용하여 사이버 보안 위협을 탐지하고 대응하고 있다. 이 회사는 ‘사람의 지속적인 감독’ 없이도 네트워크 트래픽을 자율적으로 모니터링하고 사이버 보안 위협을 완화하는 AI 에이전트를 구축했다고 그는 설명했다.

“이를 통해 보안 인프라를 에이전트 AI의 감시 아래 자율 운영되도록 함으로써 혁신에 집중하고 고객을 만족시킬 수 있다"라고 칼보는 했다. 

즉 텍스트, 이미지 또는 음악과 같은 새로운 콘텐츠를 생성하는 데 중점을 두는 생성형 AI에 비해 에이전틱 AI는 의사 결정에 중점을 둔다. 그는 “생성형 AI가 더 창의적으로 보일 수 있지만, 에이전틱 AI는 비즈니스 프로세스나 기술 생태계에 직접적인 영향을 미치며 더 운영적으로 작동한다. 기본적으로 에이전틱 AI는 자율성과 실행을 의미한다”라고 말했다.

높은 ROI
두나에프는 에이전트 AI가 생성형 AI에서 ROI를 찾는 데 어려움을 겪고 있는 조직에 실제적인 가치를 제공할 수 있다고 덧붙였다. 여전히 상당한 사람의 개입을 필요로 하는 생성형 AI와 다른 성격을 가진다.

그는 “에이전틱 AI는 보다 실질적인 비즈니스 가치를 창출할 수 있는 잠재력을 가지고 있다. 에이전틱 AI는 자율적인 비서 역할을 하며, 자율적인 의사 결정 및 목표 지향적 행동과 같은 기능을 통해 독립적으로 작업을 해결한다”라고 말했다.

엔터프라이즈 분석용 AI 어시스턴트 공급업체인 앤서로켓(AnswerRocket)의 CTO이자 공동 설립자인 마이크 핀리는 특정 개별 작업 뿐 아니라 일련의 작업을 단계적으로 수행할 수 있는 잠재력을 에이전틱 AI가 가지고 있다고 설명했다. 

그는 이어 “언어 모델이 복잡한 문제를 세분화하고 점진적인 단계로 작업을 수행하게 된다. 즉, 모델이 더 어려운 문제를 처리할 수 있다. 인간이 솔루션을 조율할 수 있기에 이해할 수 없는 AI 응답에 머리를 긁적이는 대신 어떻게 해답을 얻었는지 파악할 수 있다”라고 말했다.

신뢰 문제와 리플렉션
AI 전문가들은 에이전틱 AI의 잠재력이 크다고 보지만, 불안감을 가질 여지가 아직 크다는 점을 인정한다. 생성형 AI 사용자들은 심각한 환각 문제를 체험한 적 있기에 AI 에이전트가 자신을 대신해 자율적으로 행동하는 것을 신뢰하지 못할 수도 있다.

라이브 프록시의 칼보는 신뢰를 얻기 위해서는 인간이 작업을 쉽게 확인할 수 있도록 해야 한다고 지적했다. “의사 결정 과정의 투명성과 시스템의 선택 사항을 설명할 수 있도록 해야 폭넓은 신뢰를 얻을 수 있다. 신뢰는 집중적인 테스트와 기능 및 한계에 대한 명확한 커뮤니케이션, 지속적인 모니터링을 통해 구축된다”라고 말했다.

또 다른 접근 방식은 다른 AI를 사용하여 에이전트의 작업을 확인하는 것이다. 한 AI 모델이 다른 AI 모델이 제공한 답변을 검토하는 리플렉션이라는 프로세스가 이에 해당한다고 핀리는 설명했다. 

그는 “모델의 결과물을 사람이 검토하는 것과 비슷하지만, 대신 그 작업조차도 자동화한다는 점에서 다르다. 결과적으로 시간과 비용이 약간 더 들 수 있지만, 신뢰의 대가라고 할 수 있다. 자동화의 엄청난 힘을 발휘할 수 있다면 이 방법이 정답일 수 있다”라고 말했다.

그에 따르면 머신러닝을 비롯한 오래된 유사 AI 기술이 사용되어 왔으며, 대부분의 조직은 ML의 업무 수행을 신뢰하고 있다. 한편, 생성형 AI의 빠른 도입은 사용자들이 이를 기꺼이 사용하려 한다는 점을 시시한다.

핀리는 “Gen AI는 머신러닝의 고급 애플리케이션에 해당한다. 기업들이 머신러닝을 신뢰하기 시작한 조건은 사용한 소스에 대한 참조가 있고, 인용된 데이터의 세부 사항이 제공되며, 모델이 결론의 이유를 설명할 수 있는 것이었다"라며, “최종 사용자들은 이미 풍부한 활용으로 생성형 AI에 대한 신뢰를 표현하고 있다”라고 말했다. ciokr@idg.co.kr