생산성, 직원의 행복 ↑··· BCG 임원 2인에게 듣는 ‘전사적 AI 도입’ 이모저모

보스턴 컨설팅 그룹의 전 직원은 생성형 AI 관련 교육과 각종 도구를 제공받는다. 특정 업무를 처리할 수 있는 커스텀 챗봇이 이미 6,000개나 활용되고 있다.
 

100개 이상의 지사와 3만 2,000명의 직원을 보유한 보스턴 컨설팅 그룹의 경영진은 지난 2년간 여러 인공지능(AI) 플랫폼을 도입하기로 결정하는 과정에서 이 기술의 배포 뿐 아니라 직원 교육이 중요하다고 판단했다.

일부 조직에서는 AI를 잘 활용할 수 있는 일부 직원만 교육하는 방법을 선택하지만, BCG는 전체 인력을 대상으로 생성형 AI(genAI) 플랫폼 사용법을 교육하는 길을 택했다. 모든 직원에게 기술을 제공하면 효율성과 생산성이 유기적으로 향상될 수 있다고 믿었기 때문이다.

투자는 성과를 거뒀다. 직원들이 더 혁신적이고, 스스로 효율성을 찾고 있으며, AI의 생산성 향상 덕분에 일하는 방식에 대해 전반적으로 더 행복해하고 있다고 BCG 경영진은 전한다. 

BCG의 AI 관련 토대는 엔터프라이즈 GPT 전략이었다. 2023년 10월부터 내부적으로 모든 직원에게 챗GPT를 배포했다. 단 이 기술이 사내에 유지되도록 했기 때문에 모든 데이터는 BCG의 통제 하에 있었다.

BCG는 또 컨설턴트들이 특정 고객과의 상호작용을 위한 자체 GPT를 구축할 수 있도록 허용하여 혁신의 분위기를 조성했다. 현재까지 BCG의 직원들은 6,000개 이상의 GPT를 만들어 문서 및 화상 회의 요약, 고객에 대한 이메일 자동 응답 생성 등의 작업을 수행하고 있다.

또한 BCG는 사람과 대화할 수 있는 대화형 AI 챗봇인 진(Gene)을 개발했다. 진은 초기 BCG의 팟캐스트 'Imagine This'의 공동 진행자로 사용되었지만, 이후 고객 참여 및 콘텐츠 제작 도구로 발전했다. 진에는 이제 BCG의 애널리스트들이 제공하는 생성형 AI에 대한 연구와 인사이트가 가득하다.

BCG의 글로벌 인사 담당 책임자인 알리시아 피트먼과 BCG의 상무이사 겸 파트너인 스콧 와일더는 회사의 AI 전략, 구현에 필요한 사항, 그리고 그 이점을 컴퓨터월드와 공유했다. 다음의 일문일답은 가독성을 위해 일부 편집된 것이다. 
 

BCG에서 직원들의 업무 수행을 지원하기 위해 엔터프라이즈 GPT 및 Gene과 같은 AI 도구를 출시한 것으로 알고 있다. BCG에서 이러한 AI 도구가 어떻게 사용되고 있는지 설명해달라.

알리시아 피트먼 : "BCG의 생성형 AI에 대한 철학은 ‘일찍 그리고 자주’다. 우리는 생성형 AI가 업무 방식에 혁신을 가져올 것이라는 점을 초기부터 알고 있었다. 그리고 고객이 이 분야에서 혁신을 이루도록 돕기 위해서는 먼저 우리 자신부터 혁신해야 한다는 것을 알았다. 우리는 모든 직원을 위해 챗GPT 엔터프라이즈를 비롯한 업계 최고의 도구를 도입했으며, 슬라이드 생성을 돕는 덱스터(Deckster)와 지식 기반에 대한 자연어 쿼리 검색 등으로 이뤄진 자체 도구들도 개발했다.”

“현재까지 우리 직원들은 다양한 업무와 고객 업무를 위한 6,000개 이상의 사용자 지정 GPT를 만들어 생산성을 높이고 관리 업무를 간소화하고 있다. 2024년 3월에 전 세계 직원들에게 배포된 덱스터는 지금까지 슬라이드 제작 및 편집에 45만 번 이상 사용됐다. 우리는 직원들이 최신 기술을 선도할 수 있기를 바란다. 최전선에 서는 것은 우리 직원과 고객과의 약속이며, 이에 따라 투자를 아끼지 않고 있다.”

'커스텀 GPT'(custom GPT)란 무엇이며, 이를 통해 해결할 수 있는 작업의 예로는 어떤 것이 있나?

스콧 와일더 : “커스텀 GPT는 사용자가 자연어를 통해 독자적인 미니 생성형 AI 애플리케이션을 구축할 수 있도록 하는 챗GPT 내의 강력한 기능이다. 이는 커스텀 명령, 파일(사용자가 전달하는 모범 사례 또는 데이터 등), 특정 작업을 해결하기 위한 상호작용 프로그래밍 기능의 조합을 통해 사용할 수 있다. 우리 팀은 챗GPT 프롬프트를 개선하는 방법부터 시간대별 미팅 예약, 보다 창의적인 교육용 토크 트랙 생성에 이르기까지 1,000개 이상의 사용자 지정 GPT를 개발하여 공유해왔다.”

“총 6,000개가 조금 넘는 커스텀 GPT가 개발됐다. BCG 개인 직원을 위한 약 5,000개의 비공개 GPT와 BCG 팀 간에 공유되는 약 1,000개의 그것이 있다. 비공개 GPT는 만든 사람만 액세스할 수 있다(자신만 다루는 특정 문제나 틈새 문제를 해결하기 위한 용도). 공유 GPT는 작성자가 원하는 모든 사람과 공유할 수 있지만 BCG 내에서만 가능하다. 케이스 팀 전체에서 특정 사람을 선택하거나 BCG 내에서 '공개'할 수 있다.”

BCG는 언제부터 내부적으로 AI를 도입/배치하기 시작했는가? 도입의 목적은?

와일더 : “2023년 1월 말부터 생성형 AI 툴을 평가하기 시작했다. 생성형 AI 기술이 처음 전 세계적으로 이목을 끌기 시작할 무렵 내부에서 효율성을 높이기 위한 실행 방안을 평가했다. 2023년 10월에 사내에 배포한 첫 번째 주요 릴리스는 챗GPT 엔터프라이즈였다. 당시에는 챗GPT 3.5 버전이었다. 또한 그 무렵에는 슬라이드 제작 및 편집 시간을 절약할 수 있도록 덱스터와 같은 도구를 맞춤 제작하여 베타 버전으로 배포했다.”

챗GPT와 다른 AI 도구가 어떤 방식으로 성능과 효율성을 향상시켰는가?

피트먼 : "복잡한 케이스에 새로운 팀원을 투입하기, 시장 조사를 가속화하기, 고객 자료를 보다 신속하게 맞춤화하여 더 높은 효과를 구현하기 등 비즈니스와 고객 전반에 걸쳐 폭넓게 적용하고 있다. 예를 들어, 한 고객사와는 새로운 방법론을 도입할 수 있도록 영업 인력을 지원하고 있다. 기존에는 영업팀이 커스터마이징할 수 있도록 8~10개의 서로 다른 고객 세그먼트 각각에 대해 하나의 스크립트를 제공했다. 하지만 생성형 AI를 사용하면 고객 수준에서 100개, 200개, 심지어 500개의 맞춤형 스크립트를 제공할 수 있다.”

“마찬가지로, 생성형 AI는 인재 개발 방식에서도 우리 수준을 한 단계 끌어올리고 있다. BCG의 신입 관리자들은 아바타를 사용하여 고품질 피드백을 제공하는 연습을 하고 있다. 생성형 AI는 또한 직원들이 다양한 유형의 피드백을 종합하여 자신의 기술과 집중 분야를 연마할 수 있도록 도와준다. 우리 팀은 기성 도구와 맞춤형 도구를 혼합하여 사용한다.”

와일더 : “종합하면, 생성형 AI는 우리가 더 중요한 작업에 더 많은 시간을 할애하고, 고객에게 제공할 수 있는 인사이트의 폭과 깊이를 개선하며 학습 곡선을 가속화함으로써 인사이트의 품질을 개선하고 있다. 이는 향후 수년 동안 품질 측면에서 이점을 가져다줄 것이다.”

BCG는 AI 성능/효율성 지표를 어떻게 측정했는가?

피트먼 : "우리는 생성형 AI 혁신과 관련하여 생산성 향상, 업무 및 인사이트의 질 향상, 업무 시간 단축을 통한 직원 만족도 향상이라는 세 가지 주요 KPI를 가지고 있다. 각 지표에서 높은 성과를 거두고 있으며, 이는 직원과 고객, 그리고 비즈니스에 모두 긍정적인 영향을 미치고 있다. 올해에는 사용량과 투입량도 신중하게 측정하고 있다. 특히 어떤 기능과 습관이 사용의 고착화를 촉진하는지 측정하고 있다.”

BCG는 새로운 도구를 사용할 수 있도록 직원들을 어떻게 재교육했는가?

피트먼 : "먼저 360도 검토를 통해 실험 중인 도구의 기능, 원하는 결과, 잠재적 위험을 파악하여 직원들에게 완전히 배포하기 전에 적절한 보호 장치가 마련되어 있는지 확인했다. 책임감 있고 윤리적인 AI 사용은 우리가 매우 중요하게 생각하는 부분이기 때문에 초기에는 이를 중요하게 고려했다. 엄격한 데이터 통제 조치를 마련하고 다양한 교육을 실시했다. 기술이 발전함에 따라 지속적으로 업데이트하고 있다.”

“출시에 임박해서 우리는 자체적으로 '70'이라고 부르는 원칙에 크게 투자했다. 성공적인 AI 혁신은 일반적으로 AI 노력의 10%를 알고리즘에, 20%를 데이터 및 기술 백본에, 그리고 가장 큰 비중인 70%를 비즈니스 및 사람 혁신에 투자한다는 사실을 발견했기 때문이다.”

“이에 따라 우리는 일하는 방식을 근본적으로 다시 생각해야 했다. 이는 각자의 일상 업무의 성격과 추구하는 바에 따라 사람마다 다르다. 어떤 BCG 직원은 창의적인 콘텐츠 제작에, 어떤 직원은 새로운 팀원을 빠르게 적응시키는 데, 또 다른 직원은 지식 수집에 이 기술이 특히 유용하다고 생각한다. 예를 들어, 우리의 한 EA(Executive Assistant)는 자신과 다른 EA를 위해 작업을 자동화하는 도구를 만들었다. 근본적인 필요에 따라 어떤 도구를 사용하느냐가 결정된다.”

“우리는 모든 직급의 BCG를 위한 공식적인 필수 커리큘럼부터 온디맨드 가상 교육, 슈퍼유저가 다른 사람을 코칭할 수 있도록 돕는 일대일 리버스 멘토링까지 모든 것을 포함하는 교육 및 기술 향상 에코시스템을 구축했다. 사람마다 학습하는 방식이 다르다는 점을 인식하여 의도적으로 혼합했다.”

“우리 업무는 팀 기반이기 때문에 개인과 함께 일하는 것만으로는 충분하지 않다는 것을 알았다. 팀 코치를 배치해 팀원들이 실시간으로 애플리케이션을 찾고 개발할 수 있도록 돕고 있다. 또한 변화는 현장에서 일어난다고 믿기 때문에 개인 및 팀 코치가 일상적인 업무에서 사람들을 도울 수 있도록 지원한다.”

“그리고 즐겁게 일할 수 있도록 노력한다. 우리 직원 중에는 영리하고 혁신적인 인재들이 많다. 그래서 그들을 빛나게 했다. 'GenAI 올림픽'을 개최해 우수 아이디어를 발굴했다. 우리는 조직의 모든 수준에서 변화를 지속하는 데 필요한 대규모 업스킬링 프로그램을 구축하는 것 외에도 끊임없이 학습하고 적응해 나가고 있다.”

전체 직원을 대상으로 재교육을 실시했는가? 그리고 직원의 역할에 따라 교육은 어떻게 달라졌는가?

피트먼 : "우리는 처음부터 모든 직급이 도구를 사용할 수 있도록 신중하게 결정했다. 그런 다음 직종과 집단에 맞는 맞춤형 커뮤니케이션 및 교육 프로그램을 만들었다. 이러한 도구가 유용하기를 원했고 비슷한 직종 집단은 비슷한 요구 사항이 더 많았기 때문이다.”

“이와 함께 중요한 피어 투 피어 학습과 공유도 장려했다. 우리는 지역 혁신과 교육을 촉진하는 다양한 직종에 걸쳐 생성형 AI 지원 네트워크를 빠르게 구축했다. 이 네트워크는 전 세계 1,200명의 BCG 직원으로 구성되어 있으며, 이들은 BCG 전역에서 생성형 AI 활성화에 참여하기로 자원했다. 이들은 50개국에 있는 각 지사와 각 비즈니스 및 부서를 대표한다. 이들은 멘토링, 기술 향상 세션 주최, 혁신 공유 등의 활동을 하고 있다.”

“인에이블먼트 네트워크는 지역 및 글로벌 genAI 이니셔티브를 홍보하는 동시에 회사 전반의 업무 방식을 혁신하고 채택을 촉진하는 열정적인 genAI 사용자들로 구성된 간부 집단이다. 우리 모두는 이 여정을 함께하고 있으며, 모든 방향에서 학습과 전문 지식을 얻을 수 있다.”

BCG에서 생성형 AI를 도입하는 과정에서 가장 큰 장애물은 무엇이었는가?

피트먼 : "BCG는 혁신과 학습에 대한 강력한 문화를 가지고 있다. 따라서 AI 및 기타 관련 도구를 충분히 빠르게 배포하는 것이 가장 큰 과제였다. 대체로 우리 직원들은 실험하고 전문 지식을 쌓고자 하는 열망이 강하며, 이는 생성형 AI에서도 마찬가지였다.”

“출시 과정에서 특별히 중점을 둔 두 가지 영역은 책임감 있는 AI와 이 기술을 포용적으로 도입하는 것이었다. 우리는 AI를 사용할 수 있는 시기와 방법, 그리고 AI를 사용하지 않을 특정 영역에 대한 강력한 가이드라인을 개발한 책임감 있는 AI 팀을 보유하고 있다. 고객을 위한 모든 새로운 AI 사용 사례는 이 팀의 검토를 거쳐야 합니다. 이 팀은 또 직원들이 AI를 어떻게 도입하고 있는지 살펴보면서 그 활용이 얼마나 포용적인지 추적한다. 외부 조사에 따르면 생성형 AI 사용과 관련해서 주니어 레벨에서는 성별 격차가 있는 것으로 나타났다. 이 외에도 다양한 집단별 격차를 확인하고 있다. 직원 소속 그룹과 협력하여 격차를 줄이기 위해 노력하고 있다.”

AI를 시범적으로 사용하거나 도입하려는 다른 조직에게 한 가지 조언을 공유한다면?

피트먼 : "궁극적으로 AI를 통한 혁신은 모두 이해관계자를 위한 가치 제공을 추구해야 한다. 이를 북극성으로 설정하고 이를 달성하는 데 필요한 거버넌스, 파트너십 생태계, 도구 및 새로운 비즈니스를 구축해야 한다.”

“이 기술은 근본적으로 흥미롭고 매력적이다. 더 많은 사실과 아이디어를 한데 모으고, 창의력을 자극하며, 시간과 에너지를 낭비하게 하는 꼭 해야 할 일에서 시간을 확보할 수 있다. '수고를 줄이면 더 많은 승리를 거둘 수 있다'는 말이 있듯이 말이다. 따라서 AI를 재미있게 활용하고 직원들의 창의적인 역량과 에너지를 발휘할 수 있는 기회로 삼을 것을 권한다.” ciokr@idg.co.kr