Offcanvas

AI / 디지털 트랜스포메이션 / 머신러닝|딥러닝

IT 리더가 검토해야 하는 생성형 AI 쟁점 20가지

2023.08.02 Mary K. Pratt  |  CIO
CIO는 생성형 AI 기술 발달로 촉발된 새로운 IT 혁명 중심에 서 있다. 이제 AI로 인해 비즈니스 전반에서 등장하는 새로운 문제를 탐색하고 대응책을 마련해야 할 때이다.
 
ⓒ Getty Images Bank


2022년 11월 생성형 AI 툴 챗GPT가 출시되면서 열정(및 우려)의 파도가 몰아친 지 불과 몇 달 만에 기업 리더 대부분은 AI의 잠재력을 활용하기 위해 빠르게 노력하고 있다. 다만 채택 과정은 순탄하지만은 않다. 

통계를 한번 살펴보자. 2023년 5월 리서치 기관 가트너가 진행한 설문조사에 따르면, 응답자 2,500명의 임원 중 약 45%가 챗GPT 인기로 인해 AI 투자를 늘렸다고 답했다. 70%는 조직에서 이미 생성형 AI를 탐색 중이라고 설명했고, 19%는 실제 파일럿 또는 제작 모드에 있다고 밝혔다.

이러한 결과는 최근 2023년 7월에 실시한 파운드리의 CIO 테크 토크 설문조사 결과에서도 볼 수 있다. 해당 설문 조사에서 IT 리더 중 60%가 기업에서 생성형 AI를 적극적으로 사용하고 있으며, 28% 이상은 탐색 단계에 있다고 답했다.

파운드리 설문조사에 따르면 IT 리더의 과반수는 직원들에게 생성형 AI에 대한 교육을 제공하고(54%), 사용자들에게 생성형 AI 툴을 제공하고(52%) 있으며, 42%는 생성형 AI 정책과 가이드라인을 수립하고 있다. 그러나 IT 리더, 경영진 고문, 경영 컨설턴트, AI 애호가들은 최고 경영진이 생성형 AI를 테스트하고 채택하는 과정에서 여러 문제에 직면하고 있다는 데 동의한다. 또한, 조직 내 최고 기술 전문가인 CIO가 기업이 생성형 AI 전략을 수립할 때 이러한 우려를 소홀히 하지 말아야 한다는 점을 강조한다. 

그렇다면 기업 내 생성형 AI 전략 과정을 복잡하게 만드는 우려 사항에는 어떤 것이 있을까? 오늘날 생성형 AI 전략에 영향을 미치는 상위 20개 쟁점을 요약하자면 다음과 같다.

1. 허용 여부
여러 언론 보도에 따르면, 일부 유명 기업들은 초기에 독점 데이터 보호에 대한 우려를 포함하여 다양한 이유로 챗GPT와 같은 생성형 AI 툴을 차단했다. 특정 기업들은 차단까지 하지 않고, 기술으로 제한적으로 허용하고 있는데, 모든 기업이 그런 것은 아니다.

공급업체는 엔터프라이즈 소프트웨어 제품에 생성형 AI를 추가하고 있을 것이고 직원들이 관련 기술을 테스트를 늘릴 것이다. 이때 CIO는 직원에게 생성형 AI 사용의 장단점과 이를 금지하거나 제한할 경우 발생할 수 있는 잠재적 결과에 대해 조언할 수 있어야 한다.

컨설팅 기업 PwC US의 데이터 위험 및 개인정보 보호 리더인 미르 카시푸딘은 “현재 핵심 문제는 허용할 것인가, 허용하지 않을 것인가이다. 많은 기업이 차단할 것인가, 아니면 허용할 것인가에 대한 논의의 한가운데에 서 있다”라고 말했다.

이때 기술 임원진과 논의도 함께 해야 한다. CIO가 스스로 AI 탐색을 추진할지 또는 일시 중지할지 정하는 과정이 수반되기 때문이다.

2. 빠르게 진화하는 위험
생성형 AI의 사용을 차단한 기업들도 일부 직원들이 여전히 그것을 테스트하고 있다는 사실을 알고 있다. 이들은 기술의 잠재력을 활용하는 법을 배우지 않으면 뒤처질 수 있다는 사실도 깨닫고 있다.

그로 인해 기업들은 생성형 AI 파일럿들을 활용하는 데 있어서 가장 즉각적인 위험을 서둘러 식별하려고 노력한다. 거버넌스 협회인 ISACA의 위험 자문 위원회 위원이자 모멘텀 테크놀로지(Momentum Technology)의 위험 자문 담당 이사인 메리 카마이클은 “CIO라는 직업은 잠재적인 시나리오에 대해 질문하는 것이다. CIO는 위험과 그 위험이 무엇인가에 대해 이야기해야 한다”라고 표현했다.

3. 허용가능한 사용정책
카마이클은 경영진이 챗GPT와 같은 툴에 대해 그들 앞에 놓인 또 다른 큰 의문을 가지고 있다고 지적한다. 바로 ‘무료이면서 접근 가능한 기술에 대해 지금 직원들에게 어떤 방향을 제시할 것인가?’라는 것이다.

카마이클은 최근 임원진 모임에서 허용가능한 사용 정책을 가진 회사가 있는지 물었다. 이때 직원들에게 회사가 허용할 수 있는 범위를 안내하기 위해 사용 정책을 만들었다고 답한 기업은 소수에 불과했다고 밝혔다.

카마이클은 “직원들은 이미 ‘이 툴을 사용해야 하는가? 언제 사용해야 하는가? 무엇을 주의해야 하는가?’라고 질문을 던지고 있다. 현재는 IT 부서가 이를 처리하려고 노력하는 것 같다. 따라서 CIO는 제어 기능을 갖춘 엔터프라이즈 생성형 AI에 대해 고민하고 몇 가지 정책을 설정해야 한다”라고 밝혔다.

4. 비즈니스 중단
생성형 AI는 파괴적인 기술이기 때문에 CIO와 최고 경영진은 회사가 이 기술의 희생양이 될지, 아니면 어떻게 될지 고려해야 한다.

카마이클은 ‘생성형 AI가 비즈니스에 어떤 영향을 미쳤는가? 예를 들어 챗GPT가 당신의 비즈니스 모델에 어떤 영향을 미쳤는가?’와 같은 질문을 던지며, 일부 기업들은 생성형 AI와의 갑작스러운 경쟁에 직면하면서 이미 상당한 시장 가치를 잃게 되었다고 지적한다.

카마이클은 “해당 질문은 CIO에게 중요한 문제이다. 일부는 생성형  AI 기술을 사용하여 비용을 절감할 수 있을 것으로 기대하지만, AI를 자사 제품에 통합하여 제품을 강화할 수 있는 방법을 찾을 수 있을 것이라는 기대도 있다. 바로 이 지점에서 CIO는 기술에 대한 지식을 습득하고 지침과 조언을 제공해야 한다”라고 덧붙였다.

5. 비행기에 엔진 달기 
앞서 언급한 문제가 어느정도 해결할 능력이 있다면, 경영진은 모든 것이 진행 중일 때 빠르게 움직여 문제를 바로 처리해야 한다.

경영 컨설팅 회사인 맥킨지의 파트너인 더글러스 메릴은 CIO가 애자일 프로세스를 생성형 AI 전략에 적용해야 한다고 말했다. 메릴은 “일이 진행되는 과정에서 학습을 하되, 안전하고 통제되며 위험 관리에 초점을 맞춘 반복을 수행해야 한다”라고 설명했다.

6. 아직 좋은 지침은 없다
CIO가 광범위한 관심과 많은 실험을 불러일으키고 있는 기술에 제어 및 위험 관리를 도입하려고 할 때, 그들은 기존의 지침과 지원 없이 이를 수행하고 있다.

메릴은 “우리 모두가 직면한 특별한 문제 중 하나는 생성형 AI가 매우 새롭고 매우 빠르게 발전하고 있기 때문에 이용 가능한 툴이 많이 없다는 점이다. 생성형 AI에 대한 위험 가이드라인은 취약하면서도 새롭기 때문에 일반적으로 받아들여지는 ‘위험 가드레일에 대해 어떻게 생각해야 하는지’에 대한 지침이 없다. 언젠가는 생기겠지만 아직은 존재하지 않는다”라고 표현했다.

7. 빠른 속도로 혁신
CIO가 해결해야 할 또 다른 영역은 조직을 차별화하기 위해 생성형 AI를 사용하는 방법이다. 가트너의 수석 부사장이자 애널리스트인 프란세스 카라모지스는 “CIO는 ‘생성형 AI를 효과적으로 사용할 수 있는 곳’에 집중해야 한다. 그것은 간단한 도구가 아니며, 그들은 가능성의 예술을 찾고 있다. 그리고 가능성이 너무 많기 때문에 비즈니스 전략에 직접 연계해야 한다”라고 말했다.

카라모지스는 기술 주도의 혁신이 CIO에게 새로운 것이 아니라는 것을 인정하지만, 생성형 AI는 진화의 속도와 힘 및 복잡성으로 인해 새로운 도전 과제를 제시하고 있다고 설명했다.

카라모지스는 “CIO는 솔루션의 속도와 점도 측면에서 매우 다른 방식으로 아이디어를 내고 교육하고 실행해야 할 것이다”라고 덧붙였다.

8. 사용 사례 식별 및 우선 순위 지정
리서치 기관 IDC는 2023년 5월에 발표한 ‘엔터프라이즈 인텔리전스 서비스의 생성형 AI 조사 결과’에서 엔터프라이즈 인텔리전스 서비스 구매자의 약 70%가 생성형 AI의 사용 사례를 고려 중이거나 이에 대해서 적극적으로 작업하고 있다고 밝혔다.

기업에는 기업의 이익을 위해 해당 기술을 사용하는 방법에 대한 아이디어를 수집, 심사하고 우선순위를 정할 수 있는 방법이 필요하다.

AI 솔루션 기업 어드밴스AI(Advance.AI)의 규정 준수 책임자이자 ISACA 이머징 트렌드 워킹 그룹 멤버인 고설융은 “CIO는 무엇보다도 먼저 생성형 AI 구현을 위한 명확한 로드맵을 수립해야 한다. 목표가 생산성 향상이든 기타 상업적 이득이든, 로드맵을 구현하도록 해주는 기술을 선택하기 전에 로드맵에 대한 전체 최고 경영진의 의견이 일치해야 한다”라고 밝혔다.

카라모지스는 CIO가 기술 중심 이니셔티브의 우선순위를 정했던 이전 경험을 활용하고, 조직이 현명하게 투자할 수 있도록 생성형 AI 아이디어에도 동일한 규율을 적용해야 한다고 말한다.

IDC는 설문조사에서 가장 우선순위가 높은 사용 사례는 지식 관리, 코드 생성, 제품 또는 서비스 설계 및 엔지니어링 범주에 속하는 것으로 나타났다. 구매자들은 생성형 AI를 통해 직원들이 더 가치 있는 업무에 집중할 수 있을 것이라는 의견에 가장 강하게 동의했다. 그리고 구매자들은 생성형 AI가 더 큰 위험에 노출될 것이라는 의견에 가장 많이 동의하지 않았다.

파운드리의 생성형 AI 설문조사에 따르면 리테일 CIO가 사용 사례를 파악하는 데 앞장서고 있으며(49%), 제조(42%), 기술(42%), 금융 서비스(32%) 부문의 IT 리더가 그 뒤를 잇고 있는 것으로 나타났다.

9. 구매 또는 수정 또는 제작
기업은 세 가지 다른 방식으로 생성형 AI를 조직에 도입할 수 있으며, CIO는 어떤 방식이 가장 적합한지 결정하는 데 앞장서게 된다.

맥킨지는 다양한 사용 유형을 ‘수용자’, ‘변형자’, ‘제작자’로 설명하는 적절성 프레임워크를 개발했다. 수용자는 다른 사람이 만든 것을 사용하며, 기능을 바로 활용할 수 있다. 변형자는 기본적으로 이러한 기능을 자신의 필요에 맞게 또는 자체 독점 데이터로 작동하도록 사용자 지정할 것이다.

맥킨지의 메릴은 “세 가지 유형 중 가장 흔하지 않은 유형인 제작자는 구조와 제어에 대한 필요성이 가장 크므로 고도로 전문화된 요건을 충족하기 위해 자체 모델을 구축할 것”이라고 설명했다.

10. 엔터프라이즈 준비태세
어떤 기업이 수용자, 변형자, 제작자 중 어느 쪽이든 생성형 AI를 효과적으로 활용하려면 충분히 최신의 기술 스택과 데이터 프로그램이 필요할 것이다.

카라모지스는 “데이터, 클라우드의 구조, 컴퓨팅 네트워크, 스토리지는 확실히 CIO의 영역이다”라며 “CIO는 마찬가지로 조직이 설정한 생성형 AI 목표를 실현하는 데 방해가 되는 기술 또는 데이터 스택 내의 병목 현상이나 장벽을 식별하고 해결할 책임이 있다”라고 덧붙였다.

여기에 카라모지스는 “CIO는 이를 가능하게 하는 기술을 구축할 사람이다”라고 표현했다.

회원 전용 콘텐츠입니다. 이 기사를 더 읽으시려면 로그인 이 필요합니다. 아직 회원이 아니신 분은 '회원가입' 을 해주십시오.

Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.