‘경영진은 동상이몽’… 파운드리, 기업 내 생성형 AI 인식과 현황 조사 발표

IT 리더는 보안 위험이나 윤리적 문제에도 불구하고 생성형 AI의 도입을 서두르는 것은 위험하다고 말한다. 반면 비 IT 리더는 이를 늦게 도입해 경쟁 우위를 놓치는 것이 더 위험하다고 여긴다. 그만큼 생성형 AI에 대한 IT리더와 비 IT 리더의 인식이 서로 다르다.
 

파운드리가 비즈니스 및 IT 리더를 대상으로 기업의 생성형 AI 인식 및 현황 설문조사를 실시했다. 이에 따르면 생성형 AI는 이미 기업에 깊숙이 침투했지만, 항상 IT 부서의 통제 하에 있지 않았다. 조직의 경쟁 우위를 확보하려는 비즈니스 리더와 위험을 줄이려는 IT 리더 사이에 긴장이 존재하는 것으로 나타났다.

설문조사 응답자의 약 62%는 조직에서 생성형 AI를 적극적으로 사용하고 있다고 답했다. 23%는 사용을 검토하는 단계에 있다고 답했고, 14%는 도입을 고려 중이라고 답했다. 생성형 AI에 대해 알아봤으나 도입은 검토하지 않았거나 전혀 사용할 계획이 없다고 답한 응답자는 1%에 불과했다. 

흥미로운 조사 결과도 있다. 현재 생성형 AI를 적극적으로 사용하고 있다고 답한 비율은 비 IT 리더(73%)가 IT 리더의 응답(59%)보다 높았다. 이는 생성형 AI가 IT 부서의 영역을 넘어 기업 전반의 관심 대상이 됐음을 의미한다. 기업 규모별로 AI 기술을 도입할 가능성을 살펴보면, 직원 수가 5,000명 이상인 기업이 69%로 소규모 기업(57%)보다 높았다.

생성형 AI(이미지, 동영상, 텍스트 등 콘텐츠를 자율적으로 생성하는) 기술은 관심도가 산업에 따라 달랐다. 기술을 적극적으로 활용한다고 답한 응답자는 리테일 또는 금융 서비스 업계 종사자가 62%로 가장 높았다. 제조, 생산 및 유통(59%)과 기술(56%) 분야가 뒤를 이었다.

경영진 사이의 긴장
파운드리는 응답자들에게 조직에 더 큰 위험을 초래하는 것이 너무 빠른 움직임(보안 위험이나 윤리적 문제에도 불구하고 생성형 AI를 도입하는 것)인지, 너무 느린 움직임(후발주자로 인식되거나 경쟁 우위를 만들지 못하는 것)인지 물었다. 이 질문에서도 IT 리더와 비 IT 리더는 의견이 엇갈렸다.

IT 리더의 56%가 너무 빠르게 움직이는 것이 더 위험하다고 응답한 반면, 비 IT 리더(52%)는 너무 느린 속도가 더 위험하다고 답했다. 

금융 서비스 업계 응답자들은 의견이 거의 반반으로 나뉘었다. 리테일 업계 종사자는 60%가 너무 느린 움직임이 더 큰 위협이라고 답하며 위험을 감수하는 쪽을 택했다. 반면 기술 업계 종사자는 너무 빠른 속도가 위험하다고 답한 비율이 58%로 더 높았다. 이들은 위험 감수보다는 예방 조치를 선호했다. 

또한 직원 수가 5,000명 이상인 기업은 신중한 태도를 취하는 경향이 높았다(75%가 너무 빠른 움직임이 더 위험하다고 응답). 소규모 기업은 느리게 움직이는 것이 더 큰 위험(62.8%)이라고 답했다.

생성형 AI 사용을 억제하는 요인
생성형 AI에 대한 기업의 관심을 억제할 가능성이 높은 요인은 법적 문제였다. 전체 41%, IT 리더 중 42%가 생성형 AI 결과물과 관련된 법률 문제를 주요 억제 요인으로 꼽았다. 법률 문제에는 저작권 문제, 프라이버시 위반, 제대로 학습되지 않거나 구현되지 않은 AI 시스템의 환각 현상(hallucination)과 그에 따른 책임 등이 포함된다.

그러나 비 IT 리더들은 데이터에 대한 기업의 통제력 상실을 가장 우려(40%)했다. 반면 IT 리더는 23%만이 이를 우려했다. 이는 IT 리더가 데이터 손실 방지를 위한 기술적 옵션을 더 잘 알기 때문일 가능성이 높다. 혹은 온프레미스 또는 프라이빗 클라우드에서 생성형 AI 모델을 학습하고 실행해 기업 데이터를 안전하게 보호할 역량이 있기 때문일 수 있다. 

직원이 허가 없이 생성형 AI를 사용하는 것에 대한 우려는 IT 리더(22%)가 비 IT 리더(14%)보다 높았다. 비 IT 리더의 경우 승인되지 않은 초기 실험으로 이점도 얻을 수 있다고 여기지만, IT 리더의 경우 정보 유출, 지적 재산권 침해 등 여러 문제들을 처리해야 하는 입장이기 때문에 차이가 발생했을 가능성이 있다.

한편, 생성형 AI는 단숨에 나타나는 실수와 오류로 그동안 많은 지적을 받아왔다. 하지만 설문 응답자의 13%(IT 부문 14%, 비 IT 부문 9%)만이 생성형 AI 결과의 신뢰 부족에 대해 우려했다.

기업이 생성형 AI를 업무에 도입하는 방법
설문조사의 응답자 대다수인 90%는 기업에서 어떤 식으로든 생성형 AI 관련 프로젝트를 진행 중이거나 막 시작한 상태라고 답했다. 

응답자에 따르면 기업 내에서 가장 활발하게 진행되고 있는 생성형 AI 관련 프로젝트는 직원 교육 및 숙련(51%가 진행 중, 38%가 막 시작한 상태)이었다. 업종으로는 금융 서비스 업계(59%)에서 가장 많은 교육 프로그램을 진행하고 있었다. 직원 교육 다음으로는 생성형 AI 도구를 제공하는 업무(50% 진행 중, 38% 이제 막 시작)의 비율이 높았다. 두 프로젝트는 모두 IT 부서와 관련된 업무로 볼 수 있다. 따라서 이미 프로젝트를 진행하고 있다고 응답한 비율도 IT 리더가 비 IT 리더보다 더 높았다. 

하지만 비 IT 리더가 프로젝트를 시작했다고 응답한 비율이 IT 리더보다 훨씬 높은 업무도 있었다. 이를테면 생성형 AI 정책 및 가이드라인을 수립하는 작업이다. 이 작업을 시작했다고 언급한 비 IT 리더와 IT 리더의 응답 비율은 65% 대 42%였다. 또 사용 사례를 파악하는 업무 역시 비 IT 리더의 응답률이 더 높았다(59% 대 39%). 그중 사용 사례를 이미 파악했을 가능성이 가장 높은 산업은 리테일(49%) 분야였다. 기술 및 제조(42%) 분야와 금융 서비스(32%) 분야가 뒤를 이었다.  

지출을 ‘생성’하는 생성형 AI
올해 조직이 어떤 분야에 AI 투자를 할 것인지 묻는 질문에 “아무 분야에도 투자하지 않을 것”이라고 답한 응답자는 단 한 명(제조, 생산 혹은 유통 업계 IT 리더)이었다. 

응답자의 76%는 AI 지원 애플리케이션에 대한 투자를 늘릴 계획이다. 68%는 데이터 과학자나 프롬프트 엔지니어 같은 AI 인재를 충원할 계획이며, 68%는 보안 지출을 늘릴 예정이다. 55%는 AI 관련 클라우드 지출을 늘릴 것이라고 답했다. 51%는 AI 워크로드를 실행하기 위해 인프라를 업그레이드하겠다고 답했다. 

기업 규모별로는 소규모 기업일수록 AI 관련 보안에 지출이 필요(72% 대 63%)하다고 생각하는 것으로 나타났다. 

IT 리더와 비 IT 리더의 지출 계획도 차이가 있었다. IT 리더는 AI 지원 애플리케이션(79% 대 65%), AI 인재 충원(69% 대 63%), 보안(70% 대 57%)에 더 지출이 필요하다고 답했다. 반면 비 IT 리더는 클라우드 서비스(69% 대 51%), 인프라 업그레이드(59% 대 49%)에 더 지출해야 한다고 답했다. 

파운드리 설문조사는 지난 7월 진행됐다. 생성형 AI에 대한 준비 및 활용 현황을 기업 경영진에게 물었다. 설문조사에 관심을 갖고 참여한 응답자 447명 중 90%가 최고 경영진(CEO, CIO, CTO, CSO, CISO)이었다. 그 외 응답자는 관리자, 이사, 부사장 등이었다. 응답 기업들은 주로 제조, 생산, 유통, 리테일 또는 금융 서비스 분야였으며, 조직 내 직원 수는 평균 3,750명이었다. ciokr@idg.co.kr