Offcanvas

AI / How To / HR / 경력관리 / 이직|채용 / 훈련|교육

조직 내 AI 역량을 높여라··· IT 리더들이 전하는 AI 팀 구성 및 교육 방법

2024.01.18 Lucas Mearian   |  Computerworld
생성형 인공지능(AI) 분야에서 뒤쳐질 것을 우려한 기업 다수가 지난 1년 여 동안 이 기술의 도입과 활용에 뛰어들었다. 이제 직원용 생성형 AI 도구를 도입한 비즈니스 리더의 비율이 3분의 2를 넘었을 정도다. 그러나 10월 해리스(Harris) 설문조사에 따르면, 대규모 언어모델과 생성형 AI 도구에 대한 직원 지식 수준 또는 교육 문제가 적절한 구현을 가로막는 장벽으로 작용하고 있다. 

아울러 생성형 AI가 광범위하게 도입되고 있으나 효과적으로 사용되지는 않고 있으며 투자 수익(ROI)을 거두기는 더욱 힘든 것으로 나타났다. 

기술 컨설팅 업체 인사이트 엔터프라이즈(Insight Enterprises) 최고 데이터 책임자 캄 태그리엔티는 “72%의 기업이 [AI] 개념에 대한 직원 교육을 실시했음에도 불구하고, 직원 지식 수준이 여전히 걸림이라는 조사 결과다. 즉, 많은 사람들이 교육은 받았으나 제대로 배운 것이 없었다는 의미다”라고 말했다.

글로벌 콘텐츠 및 기술 회사 톰슨 로이터(Thomson Reuters)의 새로운 설문조사에서는 응답자 중 거의 90%가 향후 5년 내 기본 AI 교육이 의무화될 것으로 예상하는 결과가 나왔다. 

IDC의 릭 빌라스 부사장은 기업들이 인프라와 서비스, 소프트웨어 플랫폼을 확장하는 등 생성형 AI를 포함한 AI 관련 예산을 ‘반복적으로’ 늘리고 있는 현실을 확인했다고 밝혔다. 빌라스는 “그러나, 이들 기업이 같은 수준으로 늘리지 않는 부분이 있다. 내부 팀의 교육 및 역량 향상에 대한 투자다. 주로 IT 팀과 주제 전문가들을 대상으로만 실시하고 있다. 직원을 대상으로는 더 나은 AI 행동 및 관행에 대한 교육만 실시하곤 한다”라고 지적했다.

세계경제포럼(WEF) 설문조사에 의하면, 직원을 대상으로 한 AI 및 빅데이터(방대한 분량의 정형 정보와 비정형 정보) 활용 교육은 향후 5년 회사 기술 교육 우선순위 중 3위를 차지하고 있으며, 향후 42%의 회사들에게 우선시될 전망이다.

이러한 모든 현실을 감안할 때 기업은 어떤 직원이 AI 구현 팀의 일원이 되어야 하며 AI의 잠재적인 장점을 모두 실현하려면 얼마나 많은(그리고 어떤 종류의) 교육이 필요한지 등의 문제를 해결해야 한다.
 
Image Credit : Getty Images Bank

누구를 AI 팀에 배치해야 할까?
AI 팀 구성은 계속 발전하는 과정의 문제여야 한다. 생성형 AI 자체가 빠르게 발전해 나가는 현실과 마찬가지다. IT 교육 회사 스킬러블(Skillable) 창립자 겸 회장 코리 하인즈는 “첫째, 조직이 AI로 하고자 하는 것을 파악하는 것이 매우 중요하다. 둘째, 혁신에 대한 열망과 헌신, 그리고 전략이 있어야 한다. 적절한 투자와 생각 없이 AI 활동에 나서면 안 된다. 일단 목적과 목표를 파악한 후에 맞는 팀을 구성해야 한다”라고 말했다.

그가 언급한 AI 팀 주요 역할의 예로는 다음과 같은 것들이 있다.

• 복잡한 데이터 집합을 단순화하여 다룰 수 있고 모델 구축 과정에서 유용한 정보를 제공하는 인사이트를 갖춘 데이터 과학자 
• 머신러닝 모델 설계 및 시스템 내 통합과 실행을 관장하는 AI 소프트웨어 엔지니어
• AI 프로젝트 구현 시 일관성 있는 실행을 위해 지시를 내리고 이끌어 줄 AI 임원 또는 리더
• 규정 준수, 데이터 투명성, AI 모델 및 알고리즘에 수반되는 내부적인 취약성(예: 적대적인 공격, 모델 편향, 데이터 중독)과 같은 특유의 까다로운 업무를 처리할 AI 보안 담당 임원
• 생성형AI 도구에서 가능한 최상의 답변을 얻을 목적으로 대규모 언어 모델(LLM)에서 텍스트 질의 또는 지침(프롬프트)을 작성하고 개선할 수 있는 프롬프트 엔지니어
• 조직의 법규 준수를 위해 IT 팀을 자문할 법률 고문

딥러닝 알고리즘(신경망)인 LLM의 대표적 특징은 방대한 정보다.  LLM은 수백만 개, 수십억 개, 많게는 수조 개의 파라미터(변수)를 가질 수 있으며 본질적인 역할은 다음에 나올 단어를 생성하는 것이다. LLM이 주어진 질의에 적합한 응답을 선택하도록 훈련시키는 것이 프롬프트 엔지니어의 업무다. (프롬프트 엔지니어링은 유독 빠르게 성장하는 직업 기술 중 하나다.)

컬럼비아 대학교 AI 교수 겸 AI 컨설팅 회사 퓨즈머신즈(Fusemachines) CIO 사미어 매스키는 “본인이 원하는 결과를 기계가 출력하게끔 기계와 상호작용하는 과정이라고 생각하면 된다”라 설명했다.
 
[LLM은] 앵무새처럼 입력 받은 내용에 반응한다. 쓰레기를 잔뜩 입력하면 쓰레기가 잔뜩 출력된다. —아카디아(Arcadia) CTO 닉 스테프로


오픈AI의 GPT-4, 구글의 람다(LaMDA) 허깅 페이스(Hugging Face)의 바트(Bart) 같은 LLM에는 방대한 양의 사전 정보가 미리 채워져 있다. 그러나 프롬프트 엔지니어링을 적용하면 특정 업계나 심지어 조직의 용도에 생성형 AI 도구를 커스터마이징할 수 있다.

이로 인해 시간이 지나면 GPT-4 같은 방대한 무정형 LLM은 상대적으로 컴퓨팅 집약도가 낮고 각 분야에 특화된 소형 모델로 대체될 가능성이 제기된다. 업계별 고유의 니즈에 대응하는 소형 LLM이 호응을 얻을 것이라는 전망이다.

한편 보안 문제는 여전히 비즈니스 리더들이 생성형 AI에서 가장 우려하는 부분이다. 앞서 소개한 해리스 설문조사에서 38%가 보안 문제를 가장 큰 장벽으로 꼽았다. 구현 비용을 소속 조직의 장애물로 생각하는 응답자 비율의 두 배가 넘는 수치다.

실제로 블루쉴드 오브 캘리포니아(Blue Shield of California)의 인프라 및 클라우드 조직은 생성형 AI를 실험하기 전에 먼저 AI 거버넌스 팀을 조성했다. IT, 법무, HR 그룹의 일원들로 구성된 AI 거버넌스 팀은 현재 AI가 가동될 때 해를 끼치지 않게 하는 체계 및 보호 장치를 개발 중이다.

회사의 담당 VP 마이크 피터슨에 따르면, 블루쉴드는 직원 업스킬링도 실시 중이다. 대부분 직원 스스로 진행 속도를 정하는 학습을 통해 이루어진다. 피터슨은 “대체로 IT 인력은 대형 프로젝트에 투입하려 한다. 기억과 습득의 70% 내지 80%가 실습을 통해 일어난다고 본다”라고 말했다.

스킬러블 최고 마케팅 책임자 사라 단즐도 이에 동의하며, 실무 교육이 전무하다시피 한 상태로 직원들에게 생성형 AI를 사용하게 하는 것은 마치 사용 설명서만 읽은 사람에게 비행기 조종을 시키는 것이나 마찬가지라고 말했다.

그녀는 “실무 교육이 기술 숙달을 촉진한다. 경쟁력 있는 새로운 기술을 익히는 것은 IT 전문가들에게 가장 중요한 미래 대비책이자 미래에 대비하고자 하는 회사들이 나아갈 길이기도 하다”라고 강조했다.

생성형 AI 팀 구성 방법
디지털 엔지니어링 서비스 제공업체 알티메트릭(Altimetrik)의 머신러닝, AI, 시각화 부서장 자야프라카쉬 나이르에 따르면, 생성형 AI 팀 구성에는 총체적인 접근 방식이 필요하다. 실패의 위험을 줄이려면 조직은 먼저 양질의 데이터를 위한 기초를 확립한 후 ‘단일 정보 출처 전략’을 수립하고 비즈니스 목표를 규정해야 한다고 그는 조언했다.

그는 이어 데이터 과학자, 머신러닝 엔지니어, 데이터 엔지니어, 분야 전문가, 프로젝트 관리자 및 윤리 전문가/법률 자문가 등 다양한 역할이 포함된 팀을 구성하는 것 역시 매우 중요하다고 강조했다.

추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.