Offcanvas

AI / 디지털 트랜스포메이션 / 머신러닝|딥러닝 / 보안 / 훈련|교육

“AI 정책 조항 이렇게 만드세요”··· 美 비영리기관 RAI, AI 정책 템플릿 문서 공개

2024.06.07 Paul Barker   |  CIO
책임감 있는 AI 연구소(Responsible AI Institute, RAI)의 AI 정책 템플릿은 타 템플릿에 비해 구체적인 조항을 제시하며 AI 가이드라인을 보다 쉽게 만들 수 있도록 지원한다.
 
RAI AI 정책 템플릿 예시 ⓒ RAI

RAI가 책임 있는 AI 정책을 개발하는 데 쓸 수 있는 AI 정책 템플릿을 5일 공개했다.

RAI는 미국 비영리 기관으로 회원사와 함께 책임 있는 AI 개발에 필요한 연구를 주도하고 있다. RAI 회원사로는 AWS, 보스턴 컨설팅 그룹, ATB 파이낸셜, 쉘 등이 있다. RAI는 많은 조직이 AI 안전망과 윤리 정책을 수립하는 데 어려움을 겪고 있다고 보고 이에 도움을 주기 위해 AI 정책 템플릿을 공개했다.

RAI에 따르면, 이번에 공개된 템플릿은 특정 산업에 국한되지 않고 다양한 조직이 활용할 수 있으며, 조직은 비즈니스 요구 사항에 따라 필요한 부분만 일부 활용할 수 있다.

RAI 템플릿은 데이터 관리, 위험 관리 및 조달을 위해 필요한 정책, 거버넌스, 프로세스 정보를 포함하고 있다. 또한 미국 국립표준기술연구소(NIST)가 만든 AI 위험 관리 프레임워크(Risk Management Framework, RMF)와 ISO/IEC 42001의 AI 관련 지침을 준수할 수 있도록 구성됐다.
                          
작년 초 공개된 NIST의 AI 프레임워크는 AI 제품 및 서비스의 설계, 개발, 사용 및 평가에 신뢰성을 높일 수 있도록 설계됐다. ISO/IEC 42001은 조직 내에서 인공지능 관리 시스템(AIMS)을 수립, 구현, 유지 및 지속적으로 개선하기 위한 요구 사항을 명시하고 있다.

RAI는 “AI 기술 도입은 이미 빨라지고 있지만 책임 있는 AI 정책은 혁신의 속도를 따라잡지 못하고 있다”라고 설명했다.

복잡한 AI 솔루션이 급증하는 가운데 기업은 AI 가드레일과 윤리 정책을 개발하고 수립하는 데 어려움을 겪고 있다. 실제로 데이터 통합 플랫폼 업체 크릭(Qlik)이 2024년 발표한 연구에 따르면, 74%의 기업이 책임 있는 AI에 대한 포괄적이고 조직 차원의 접근 방식이 아직 부족하다고 밝혔다. IBM이 2023년 발표한 조사에 따르면, AI를 사용하는 기업 중 44%만이 윤리적 AI 정책을 개발하고 있었다.

RAI의 정책 및 배포 총괄인 하다사 드루카치는 CIO닷컴과의 인터뷰에서 “조직이 AI 프레임워크를 적절히 마련하지 않으면 일관되지 않고 불투명한 방식으로 AI를 도입하게 된다”라며 “이 과정에서 다양한 문제와 윤리적 딜레마를 마주할 수 있다. 또한 재정 환경에도 부정적인 영향을 초래할 수 있다”라고 말했다.

AI 정책 구성에서 임원의 역할
드루카치는 책임 있는 AI 정책을 개발하는 데 있어 CIO 역할은 책임 수준 및 조직의 규모와 시기에 따라 달라질 수 있다고 밝혔다.

드루카치는 “AI를 도입할 때 각 경영진이 어떤 역할을 맡을지 생각해 보면 좋다. 다만 AI를 총괄하는 담당자가 반드시 CIO일 필요는 없다. CTO가 될 수도 있고 최고 AI 책임자(CAIO)가 될 수도 있다. 기업 상황에 따라 적합한 인물이 맡아야 한다”라고 설명했다.

AI 정책 템플릿은 이전에도 종종 공개됐다. 대표적으로 거브AI코우리션, AI가디언이라는 기관이 AI 정책 템플릿을 배포한 바 있다. 드루카치는 또한 RAI의 템플릿은 기존 기관이 만든 것과는 차이가 있다고 말했다. 드루카치는 “기존 프레임워크는 구현 지침 없이 큰 틀의 기본 조항만 제공하지만, RAI의 템플릿은 실행 가능한 정책 문구를 제공한다”라고 밝혔다.

RAI는 “AI 프레임워크는 매우 광범위한 것부터 구체적인 것까지 다양한 부분을 다룬다. 조직은 필요한 부분만 잘라내어 붙여 넣을 수 있다”라며 “가령 대형 기술 기업은 이미 많은 정책을 수립해 놨을 수 있다. 무조건 구체적이어야 할 필요도 없고, 상황에 맞게 조정하면 된다”라고 설명했다.

RAI의 템플릿은 AI 프로젝트 관련 구성원을 고려해 개발됐다. 드루카치는 “RAI는 조직이 현장에서 AI 거버넌스 측면에서 직면하고 있는 문제를 이해하고, 질문을 던지고, 고충을 이해하려고 노력하고 있다”라며 “그런 의미에서 RAI의 AI 정책 템플릿은 조직이 현재 시행하고 있는 프레임워크, 부족한 부분, 해결할 수 있는 부분에 대한 이해를 바탕으로 만들어졌다”라고 밝혔다.

AI 정책 템플릿은 RAI 공식 홈페이지에서 다운로드받을 수 있다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.