Offcanvas

AI / 머신러닝|딥러닝 / 애플리케이션

“사내 챗GPT 구축해 ‘AI 네이티브’로 전환 중”··· 미 정부 기관 R&D센터 마이터 사례

2024.06.24 Paula Rooney  |  CIO
비영리 R&D 센터인 마이터(MITRE) 코퍼레이션은 생성형 AI 도구의 자체 버전을 구축해 설계상 안전하고 강력한 생산성 향상 기능을 도입했다.
 
ⓒ MITRE

미국 정부 기관의 비영리 R&D 센터인 마이터는 오랫동안 연구원들이 IBM의 왓슨 AI 기술을 사용해 왔다. 이 때문에 2022년 11월 오픈AI가 GPT 3.5를 기반으로 챗GPT를 출시했을 때 이미 AI 기술에 익숙했다. 마이터가 이 기술을 활용하려는 앞선 조직으로서 약 한 달 뒤 마이터챗GPT(MITREChatGPT)를 출시한 것은 놀라운 일이 아니었다.

보안이 강화된 내부 개발 버전 마이크로소프트 오픈AI GPT-4를 기반으로 한 마이터챗GPT는 조직 내 주요 생성형 AI 도구의 앞선 사례로 주목받고 있다. 2023년 5월 처음 공개된 이 프로젝트는 65년 역사의 마이터가 갖고 있는 지식 기반 및 도구와 통합됐다. 이를 바탕으로 마이터는 10,000여 명의 인력 중 60% 이상을 생산에 투입했으며, IT 리더십 및 혁신 부문에서 2024 CIO 100 어워드를 수상했다.

R&D와 마이크로소프트의 긴밀한 파트너십을 보완하는 해당 도구는 미 국방부, 연방항공청, 국토안보부 등 6개 연방 지원 기관의 정보 요청을 처리하도록 개선됐다. 또한 연구팀은 법률 및 정책 문서를 신속히 분석해 몇 주가 아닌 하루 만에 중요 기관에 변경 계획을 전달할 수 있게 됐다.

한편 마이터의 유명한 프로젝트로는 FAA 항공 교통 관제 시스템 개발과 사이버 범죄 공격 기법 모음인 마이터 ATT&CK 프레임워크가 있다.

최근에는 버지니아에 위치한 엔비디아 DGX 슈퍼포드에 투자해 기후 과학, 의료 및 사이버 보안에 대한 연구를 가속화할 예정이다. 또한 이 AI 데이터센터 포드는 마이터의 연방 AI 샌드박스 및 테스트베드 실험을 위한 AI 지원 애플리케이션과 대규모 언어 모델(LLM)을 구동하는 데 사용될 예정이다.

‘AI 네이티브’ 운영 목표
마이터의 혁신 및 실험 책임자인 드보라 유먼스와 마이클 첸클은 이 진화하는 플랫폼을 사용해 연구 조직을 정부 기관에 효율적이고 지능적이며 중요한 데이터를 제공하는 ‘AI 네이티브 조직’으로 전환하는 것을 목표로 하고 있다.

부즈 앨런 해밀턴(Booz Allen Hamilton)에서 17년간 근무하고 마이터에 합류해 2023년 8월 CIO로 임명된 유먼스는 “AI는 우리 미래의 큰 부분을 차지한다. 마이터는 올해 AI 전략과 정책에 대해 CIO실과 CTO가 공동으로 주도하는 전략을 갖고 있으며, 앞으로 마이터를 AI 네이티브 조직으로 만드는 데 주력할 것”이라고 밝혔다.

첸클은 이런 노력의 일환으로 방대한 데이터 인트라넷에서 LLM을 활용해 차별화된 가치를 창출할 것이라고 언급했다. 마이터챗GPT의 초기 출시 이후 마이터는 지식 및 프로젝트 리포지토리 전반에 걸쳐 도구를 통합하고 사용 사례를 교육 및 공유하기 위한 전사적 사용자 그룹을 설립해 역량을 강화해 왔다.

첸클은 2024년 6월까지 마이터챗GPT가 수천 개의 문서에 대한 분석과 추론을 수행하고, 엔터프라이즈 프롬프트 라이브러리를 제공하며, 프로젝트에서 GPT-3.5 API를 사용할 수 있게 했다고 설명했다. 이후에는 용량이 큰 문서를 위해 GPT-4와 검색 증강 생성(RAG)을 사용하는 기능을 배포했다고 그는 덧붙였다.

첸클은 “기업 전체에 생성형 AI를 안전하게 배포하는 데 있어 초기 단계였기 때문에 위험을 감수해야 했다”라며, 마이터가 실험실과 연구 센터에서 생성된 정보로부터 질문에 답하기 위해 IBM 왓슨과 같은 AI 기반 시스템을 사용한 경험이 있었기에 오픈AI의 GPT-4도 신속히 배포할 수 있었다고 말했다. 다시 말해 마이터에 자금을 지원하는 연방 기관의 정보 요청이 있을 때마다 처음부터 다시 시작할 필요가 없었다.

유먼스는 마이터가 챗GPT를 적극적으로 도입함으로써 직원들의 워크로드를 지원하고 보고서를 더 빠르게 작성할 뿐만 아니라, 비영리 단체의 방대한 데이터 저장소에서 데이터 마이닝을 위해 하드웨어에 상당히 투자한 덕분에 분석 수준도 높아질 것이라고 말했다.

유먼스는 “마이터의 연방 AI 샌드박스를 위한 엔비디아 DGX 슈퍼포드(DGX SuperPOD) 지원을 발표한 뒤, 연방 스폰서로부터 많은 정보 요청이 있었다. 지식 자산에 액세스할 수 있는 인트라넷에 마이터챗GPT를 통합하면 모든 직원이 마이터의 관련 데이터와 연결되는 데 유용하다”라고 설명했다.

보안이 중요
마이터가 보유한 데이터는 보안에 민감하다. 따라서 프로젝트에서는 마이터의 챗GPT 버전을 안전하게 만들고, 기밀 정보에 대한 액세스를 제공하지 않도록 보장하는 것이 첫 번째 과제였다.

애저(Azure) 오픈AI 서비스를 사용하는 마이터는 엄격한 보안 요구 사항을 충족하기 위해 로깅을 줄이고 보안 제어를 추가하기 위해 마이크로소프트와 협상을 진행했다.

유먼스는 “일반 퍼블릭 버전에 의존해 정보를 비공개로 유지하는 것보다 우리가 관리하는 보안 마이크로소프트 애저 테넌트에 챗GPT 인스턴스를 두는 것이 보안을 보장하는 데 매우 중요했다. 이 환경에서 어떤 유형의 정보를 공유할 수 있는지에 대한 가이드라인이 있다”라고 말했다.

회사에 따르면 마이터챗GPT는 연구 및 보고서 작성 시간을 절약할 뿐만 아니라 코딩 지원, 아이디어 생성, 문제 해결 기능, 오류를 중이는 품질 보증 개선 기능도 제공한다. 매사추세츠주 베드포드에서 주요 R&D센터를 운영하고 있는 마이터는 평균적으로 주요 작업을 완료하는 데 걸리는 시간이 10%에서 30%까지 단축됐다고 밝혔다.

또한 마이터는 프롬프트 작성법을 교육하고 직원들이 프롬프트 엔지니어링의 미묘한 차이를 이해할 수 있도록 돕기 위해 매월 AI 워크숍을 개최하고 있다. 유먼스에 따르면 최근에는 전사적으로 두 번째 기술 교류 회의를 개최해 마이터챗GPT의 혁신을 공유하고 보안 요구 사항에 대한 지짐을 강화했다.

유먼스에게 보고하는 CISO인 빌 힐은 조직의 인포섹(infosec)팀과 함께 마이터챗GPT를 통과시키기 위해 노력해 왔다. 유먼스는 “CISO가 조직의 다른 부서와 긴밀히 협력하고 있으며, 생성형 AI 활동 초기부터 CISA의 보안 설계 원칙을 준수하기 위해 큰 변화를 단행했다. 우리는 개발팀과 연계해 처음부터 보안을 고려하며 개발하고 있다”라고 설명했다.

가트너의 부사장 겸 AI 애널리스트인 치라그 데카테는 마이터의 생성형 AI 플랫폼, 강력한 AI 하드웨어, 방대한 리포지토리에 대한 수요가 늘어날 것이라고 전망했다.

데카테는 “정부 기관은 모든 가드레일이 내장된 상태로 생성형 AI를 신중히 활용하려고 한다. 현재 가트너가 조사한 바에 따르면 정부 기관들은 구글과 오픈AI 같은 혁신 기업의 멀티모달 기술을 포함한 생성형 AI 혁신을 활용해 일선 직원의 생산성과 효율성을 개선하고, 복잡한 프로세스를 간소화하도록 설계된 혁신적인 파일럿을 구축하려 하고 있다. 마이터의 생성형 AI 혁신은 정부 기관이 가치 중심 솔루션을 구축하는 여정에서 탐색할 수 있는 도구 세트의 본보기다”라고 말했다. ciokr@idg.co.kr
 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.