Offcanvas

AI / 디지털 트랜스포메이션 / 리더십|조직관리 / 머신러닝|딥러닝 / 훈련|교육

AI 시대 핵심 리더십으로 부상··· 전문가가 꼽은 ‘CAIO’의 핵심 과제는?

2024.06.18 Lucas Mearian  |  Computerworld
최고 AI 책임자(Chief AI Officer, CAIO)는 최근 급격히 주목받는 직책이다. 흔치 않은 직책인 만큼 CAIO가 어떤 목표를 갖고 어떤 과제를 추구해야 할지 막막할 수 있다. 다음은 업계 애널리스트 그리고 현직 CAIO가 전하는 조언이다.
 
ⓒ Getty Images Bank

생성형 AI 기술을 도입하는 많은 조직에서 CAIO를 찾고 임명하고 있다. 신중하게 추진하든, 빠르게 추진하든 어쨌든 기업 내에 AI 관련된 업무를 총괄할 사람이 필요하다는 인식은 업계에 널리 퍼지고 있다.

IDC 조사에 따르면, 지난 10월 기준 중견 및 대기업의 11%가 이미 CAIO 역할을 수행했으며, 21%는 적극적으로 CAIO를 찾고 있었다. 해당 설문조사에 참여한 97명의 CIO 중 절반 이상이 내부 조직에서 AI를 담당할 리더를 따로 뽑을 계획을 하고 있다고 답했으며, 응답자 중 약 절반은 해당 리더가 C레벨 일원이 될 것으로 예상했다.

IDC는 또한 “새로 고용되거나 임명된 CAIO는 조직의 최고 경영진의 일부일 뿐만 아니라 조직의 가장 전략적인 구성원으로 자리 잡을 것”이라고 분석했다.
 
ⓒ IDC

포레스터 리서치의 애널리스트 자이드 카터는 조직이 AI로 효율성과 생산성을 높이려고 하면서, CAIO 직책을 가진 사람은 더욱 늘어날 것으로 예상했다. 또한 실제로 경영진에서 8명 중 1명은 CAIO직을 맡을 확률이 높다고 설명했다.

좀 더 자세히 포레스터의 설문조사 살펴보면, 응답 기업 12%는 CAIO가 주로 엔터프라이즈 AI 전략 전반을 책임지고 있다고 말했으며, 2%는 그 역할을 최고 데이터 책임자(CDO)가 맡고 있다고 답했다. 카터는 블로그를 통해 “그렇다고 해서 CDO가 사라질 것이라는 의미는 아니다”라며 “데이터는 여전히 중요하다. 다만 품질, 거버넌스, 접근 권한과 관련된 문제로 인해 데이터가 제대로 활용되지 않는 경우가 많다”라고 밝혔다.

카터는 “AI 및 데이터 리더가 데이터 기반으로 의미 있는 분석을 하려면 서로 협력해야 한다”라며 “CAIO는 기술 지식을 제공하고 CDO는 양질의 데이터를 담당하면서 AI 성공을 위한 강력한 파트너십을 구축할 수 있다”라고 조언했다.

AI 모델 배포는 많은 비용이 수반되는 작업이다. 고가의 컴퓨팅 인프라가 필요하기 때문이다. 또한 대규모 언어 모델에서 학습 및 추론 프로세스를 구동하는 칩은 수천 달러에 달할 수 있다. (엔비디아는 AI 산업에 사용되는 대부분의 GPU를 제조하고 있으며, 데이터센터 특화 칩은 1만 달러에 달한다는 보도가 있었다) 그러나 엔비디아는 AI 칩 시장에서 독보적인 위치에 서 있지만, 더 낮은 가격으로 제품을 내놓으려면 경쟁 기업의 견제를 받고 있다.

미 연방 기관에 늘어나는 CAIO
CAIO 채용을 원하는 것은 민간 기업뿐만이 아니다. 지난 3월 미국 대통령 조 바이든은 2개월이라는 기한을 주고 AI 혁신을 촉진하고 다른 기관과 협력하며 기술과 관련된 위험을 관리할 책임이 있는 CAIO를 모든 연방 기관에서 임명하라고 명령했다. 이때 AI의 급속한 확산으로 인해 거버넌스 마련이 시급하다는 점을 강조하기 위해 2달이라는 짧은 기한이 제시됐다.

바이든은 “AI가 연방 정부 전반의 운영과 서비스 제공을 개선하고 있지만 기관은 AI 사용을 효과적으로 관리해야 한다”라며 “공공 기관의 결정이나 행동에 영향을 미치는 영역에서 AI에 의존하면 위험한 상황이 발생할 수 있다. 해당 결정의 효과, 안전성, 공평성, 공정성, 투명성, 책임, 적절성, 적법성을 약화시킬 수 있기 때문”이라고 설명했다.

바이든의 명령이 공개된 후 2달 동안 24개의 연방 기관이 CAIO를 임명했다. 이에 그치지 않고 바이든 행정부는 올 여름까지 모두 100명의 AI 전문가를 고용할 계획이며, 모든 연방 기관에 AI 거버넌스위원회를 설립할 예정이다. 이런 전문가와 함께 각 기관에게 AI 채택 과정을 조정하고 AI 사용 규칙 수립을 지원하겠다는 계획이다.

미국 국토안보부의 전 차관보 조엘 마이어는 언론사 페드스쿱의 기고문을 통해 “CAIO의 역할을 제도화하기로 한 결정은 AI의 전략적 중요성을 분명히 인정한 것”이라고 말했다. 참고로 마이어는 국토안보부의 AI 태스크포스 설립을 주도한 인물이다.

미 국방부 합동 인공지능 센터의 초대 소장을 지내고 해당 기고문을 공동 작성한 존 샤나한은 “CAIO가 하기 쉬운 일부터 우선 식별해야 한다”라며 설명했다. 가령 AI 파일럿 프로젝트를 신중하게 선택하여 AI 전략의 방향성이 맞는지 검증하면서 성공적인 AI 도입 기반을 마련할 수 있다. 파일럿 프로젝트의 성공으로 기업은 더 광범위한 AI 전략을 구현하기 위한 추진력을 얻을 수 있다.

EY의 미국 공공 부문 AI 시장 리드인 에이미 존스에 따르면, 연방 기관은 CAIO 산하의 조직을 전담할 수 있는 재량이 주어졌기 때문에 부서마다 다른 권한과 예산을 갖고 다양한 수행 방식을 추구하고 있다.

존스는 “CAIO가 매일 해야 할 일은 기관마다 다 다르다”라며 “CAIO의 성공 여부는 기관의 AI 이해도에 달려있다. 특히 안전하고 효율적으로 사용하는 방법을 알고 있어야 한다”라고 조언했다.
 
ⓒ IDC

고품질 데이터의 중요성
생성형 AI 출시의 장애물 중 하나는 데이터의 품질이다. IT 업계에선 ‘쓰레기가 들어오면 쓰레기가 나온다’는 속담이 있다. 최근 프리랜서 구인 플랫폼 기업 업워크에서 AI 총괄 책임자로 부임한 앤드류 라비노비치는 “편향되지 않은 고품질의 대표 데이터를 확보하는 것은 어렵고 비용도 많이 든다”라고 설명했다.

라비노비치에 따르면, AI를 도입하려는 신규 CAIO가 고려해야 할 주요 사항은 다음과 같다
- 주의 깊은 계획과 고려가 필요하다. 기술이 어떻게 실제 고객에게 영향을 줄 것인지에 대해 생각해야 하며, 단순히 유행을 따라가거나 과도한 기대감에 휩쓸려 AI를 무작정 도입하면 안 된다.
- 출시 전에 AI로 해결해야 할 비즈니스 목표와 구체적인 고객의 고충을 명확히 파악해야 한다.
- 자체 개발이든 서드파티 제공업체에 의한 것이든, 생성되는 AI 모델의 품질과 신뢰성을 평가하고 검증해야 한다.
- 편향성을 피하기 위해 다양하고 대표성 있는 데이터 세트로 LLM을 학습시키고, 반복적인 개선을 위해 모니터링을 계속 시도해야 한다.

라비노비치는 “CAIO를 비롯해 AI 배포를 감독하는 다른 사람들은 조직 핵심 전략을 구성하는 것은 물론 정보에 입각하면서 책임 있는 AI 사용을 유도하는 필수적인 역할을 수행한다”라며 “CAIO의 업무는 다양하지만 그중 핵심은 회사의 목표에 맞춰 AI 이니셔티브와 혁신의 방향을 조정하는 것이다. 또한 AI 리더는 협업과 지속적인 학습 문화를 조성해야 한다”라고 밝혔다.

또한 라비노비치는 “조직 내 모든 팀은 AI 프로젝트와 관련된 협업 방식을 연구하고, 기술을 실험하며, AI를 활용할 수 있는 올바른 지식과 기술, 도구를 갖출 수 있을지 고민해야 한다”라고 밝혔다.
 
ⓒ IDC

라비노비치는 업워크에서 GPT-4 LLM을 사용해 ‘우마’라는 AI 기반 플랫폼을 만드는 작업을 총괄하고 있다. 해당 AI 기능은 가장 적절한 구직 정보를 추천해 주는 서비스(현재 베타 버전), 채용 공고 초안을 작성하는 콘텐츠 작성 도구, 적합한 역량을 선별하고 제안서를 작성하는 채용 제안 팁 생성, 내부 직원의 반복적인 업무를 돕는 업워크 채팅 프로 등에 쓰이고 있다. 라비노비치는 “우마를 통해 전체 플랫폼을 지원하고 나아가 AI 챗봇을 고도화하고 있다”라고 말했다.

생성형 AI가 안정적으로 작동하려면 CAIO는 효율성, 데이터 품질, 윤리적 고려 사항을 개선해야 하고 이를 위해 AI와 데이터 최적화 기술을 활용하는 방법을 파악해야 한다. 존스는 “LLM과 생성형 AI가 규제 및 정책 범위 내에 있는지 확인하고, 내부 목표에 맞는 자체 정책을 만들고, 사용 사례 목록을 파악하는 등 기본 컴플라이언스를 구축해야 한다”라고 말했다.

라비노비치도 존스의 의견에 동의했다. 다시 말해 AI 모델을 위한 품질 높은 데이터는 중요하지만, 특히 컴플라이언스를 준수하고 편향되지 않은 고품질의 대표 데이터를 확보하는 것은 더욱 어려운 작업이라는 것이다.

라비노비치는 “데이터 무결성과 정확성을 보장하려면 종종 엄청나게 사전 처리에 투자해야 한다. 이는 시간과 리소스가 많이 필요한 작업인데, 이런 투자도 제대로 된 데이터가 있을 경우에 가능하다”라고 밝혔다.

CAIO 업무, 전담하기 VS 겸직하기
PwC의 파트너인 젠 코사르는 대부분의 조직이 아직 CAIO를 타 임원 직함처럼 익숙하게 여기진 않지만, 실제 업무 내용을 보면 이미 많은 곳에서 CAIO 역할을 맡고 있는 임직원을 두고 있다고 말했다. 또한 대부분의 경우 해당 업무는 CIO보다 한 단계 아래 직함을 가진 사람이 담당하고 있다고 표현했다.

코사르는 “기존 CTO와 CISO가 AI 총괄 업무를 맡는 경우를 종종 볼 수 있다”라며 “그런 겸직을 맡아 AI를 다루는 상황도 괜찮을 수 있다. 다만 AI 총괄 관련 핵심 업무는 AI 관련 전략, 계획, 변화 관리, 혁신, 조직을 변화시키는 부분이라는 것을 알고 있어야 한다”라고 조언했다.

코사르는 “안타깝게도 CAIO 업무만 전담해서 일하는 경우는 적은 상황이다. 즉, 많은 CAIO는 여러 역할을 겸직하고 있다. 개인적으로 나는 CAIO가 겸직 형태가 아닌 별도로 CAIO 업무에만 전념해야 한다고 생각한다. CAIO는 조직이 AI를 어떻게 발전시켜 나가는지에 대한 책임을 져야 한다”라고 밝혔다.

코사르에 따르면, 어떤 CAIO는 직급이 낮아 경영진 회의에 참석하지 못하는 상황일 수 있지만, 이미 많은 경영진이 생성형 AI가 만드는 효율성과 수익에 관심을 보이고 있다. 반대로 그런 경영진이 없다면 조직이 원하는 AI 관련 성과와 ROI를 달성하기는 어려울 수 있다.

코사르는 “AI 관련 기술과 전략을 통합하고 이해관계자를 연결하는 것은 어려운 일이다”라며 “PwC는 거의 모든 사업부에서 AI 도구와 제품을 지원하기 위해 내부적으로 12개 이상의 서로 다른 LLM을 운영하고 있다”라고 언급했다.

코사르는 또한 “단기 및 장기 계획을 세우고 두 계획 사이 균형을 유지하며 혁신에 집중할 수 있는 능력이 있어야 한다”라며 “동시에 빠르게 변화하는 AI 트랜드를 인식하는 동시에 너무 주변에서 열광한다고 특정 트랜드에 휩쓸리면 안 된다”라고 조언했다.

라비노비치는 10년 후 AI는 더욱 일상생활의 일부가 될 것이기 때문에, AI를 제대로 이해하는 것이 중요하다고 말했다. 그는 2030년까지 거의 모든 사람이 AI와 상호작용하게 될 것이며, 개인 비서, 가정교사, 치료사, 회계사, 심지어 변호사의 업무도 AI가 수행할 것이라고 보고 있다. 라비노비치는 “AI는 인간이 더욱 복잡한 문제 해결에 집중할 수 있게 해줌으로써 인간의 수준을 높이고 사회를 향상시키는 데 도움을 줄 것”이라고 설명했다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.