Offcanvas

AI / 머신러닝|딥러닝 / 보안

블랙베리 "기업 중 4분의 3이 사내 챗GPT 금지 고려... 보안 정책 마련해야"

2023.08.09 Michael Hill  |  CSO
사내에서 생성형 AI의 사용을 금지하거나 이를 고려하고 있는 기업의 3분의 2가 해당 조치가 장기적 또는 영구적일 것으로 보고 있다. 
 
ⓒ Getty Images Bank

블랙베리의 최근 설문조사에 따르면, 글로벌 기업의 4분이 3이 직장 내에서 챗GPT 및 기타 생성형 AI 애플리케이션의 사용을 금지하거나 이를 고려하고 있다. 데이터 보안, 프라이버시, 기업 평판에 대한 위험 요소 때문이다. 조사에 의하면 생성형 AI 금지 조치를 시행하거나 고려 중인 기업의 61%가 해당 조치에 대해 장기적 또는 영구적일 것으로 보고 있다. 설문조사는 북미(미국 및 캐나다), 유럽(영국, 프랑스, 독일, 네덜란드), 일본, 호주의 IT 의사 결정권자 2,000명을 대상으로 진행됐다.

블랙베리의 조사에 앞서 OWASP는 생성형 AI 챗봇의 기반이 되는 대규모 언어 모델(LLM)의 10가지 주요 보안 및 안전 문제를 보고한 바 있다. 비즈니스에서 AI 기술은 급격한 성장과 채택을 반복하고 있다. 기업은 직원들의 생성형 AI 사용에 대한 구체적인 보안 정책을 마련해야 하는 현실에 직면했다. 이러한 측면에서 블랙베리의 조사 결과가 주목을 받고 있다. 많은 사람이 궁금해하는 핵심 질문은 생성형 AI가 새로운 섀도우 IT의 시대를 어느 정도까지 열고 있는가다.

-> 허용과 권장? 금지와 모니터링?··· 4인의 CIO가 말하는 '셰도우 AI와 씨름하기'

보안 우려로 인한 생성형 AI 사용 금지 
설문조사에 참여한 IT 의사 결정권자 대다수는 업무 환경에서 생성형 AI 애플리케이션이 효율성(55%)과 혁신(52%)을 높이고 창의성(51%)을 향상시킬 수 있는 기회라고 인식했다. 하지만 안전이 보장되지 않은 생성형 AI 앱이 기업 IT 환경에 사이버 보안 위협을 가할 것이라고 우려한 응답자는 83%에 달했다. 블랙베리는 이러한 우려가 기업의 생성형 AI 전면 금지 조치를 이끈다고 진단했다. 응답자의 81%는 사이버 범죄자에게 속수무책으로 당하지 않기 위해 사이버 보안을 강화하는 도구로 생성형 AI를 사용하는 데 찬성했다. 80%는 직원들이 업무용으로 사용하는 애플리케이션을 조직이 통제할 권리가 있다고 생각했다. 

블랙베리의 사이버 보안 CTO 시시르 싱은 직장에서 사용하는 생성형 AI 애플리케이션에 대해 조직이 신중하면서도 유연하게 대처해야 한다고 말했다. 그는 “직장에서 생성형 AI 애플리케이션을 금지한다는 것은 잠재적인 비즈니스 이점까지 차단한다는 의미다. 플랫폼이 활성화되고 규제가 효력을 발휘하면 조직 정책도 유연해질 필요가 있다. 관건은 업무 환경에서 사용하는 애플리케이션의 모니터링 및 관리를 위한 도구를 제대로 마련하는 것이다”라고 말했다. 

CISO는 혁신을 가로막지 않으면서 위협에도 잘 대응하는 AI 정책 개발해야
보안 정책을 적절하게 수립해 비즈니스와 발을 맞추고, 직원의 생성형 AI 사용을 관리하는 것은 오늘날 CISO의 최우선 의제가 돼야 한다. CISO의 과제는 생성형 AI 같은 기술의 비즈니스 도입을 포용하고 지원할 뿐만 아니라, 혁신을 저해하지 않으면서 효과적으로 위험 요소에 대응하는 사이버 보안 정책을 개발하는 데 있다. 만약 생성형 AI가 어떻게 발전하는지 1~2년 정도 지켜봐도 추후에 적절한 보안 정책을 마련할 수 있다고 생각한다면, 섀도우 IT로 인해 벌어지는 일들을 신중하게 살펴봐야 한다. 승인되지 않은 기기를 기업이 안일하게 관리할 때 보안 사고가 종종 발생했기 때문이다. ciokr@idg.co.kr

 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.