AI로 물든 ‘MS 이그나이트 2023’… IT 리더가 주목할 11가지 포인트

마이크로소프트(MS)가 연례 개발자 컨퍼런스 ‘이그나이트 2023’에서 코파일럿(Copilot)의 생성형 AI 기능을 크게 강화할 것이라고 밝혔다.
 

MS가 지난 14일 이그나이트(Microsoft Ignite) 2023 개발자 컨퍼런스를 열고 대규모 업데이트를 발표했다. 오는 17일까지 진행되는 행사는 약 600개 세션 중 절반 이상이 어떤 형태로든 인공 지능을 다룬다. 이를 ‘AI그나이트(AIgnite)’라고 부르는 이들까지 나타났다.

애저(Azure)에서 대규모 언어 모델(LLM)을 랭글링하는 새 AI 기능, 코파일럿에 추가된 생성형 AI 어시스턴트, 새 하드웨어, 개발자가 소규모 언어 모델(SLM)을 배포하는 데 도움이 되는 도구 등 MS가 이번 행사에서 발표하는 신제품의 핵심에는 대부분 생성형 AI가 있다. 

IT 리더가 이그나이트 2023에서 주목해야 할 주요 AI 소식을 소개한다.

1. 빙챗(Bing Chat) 엔터프라이즈의 변화
오픈AI가 지난 9월 챗GPT 엔터프라이즈를 출시했을 때, 불과 2달 전 출시된 MS의 빙챗 엔터프라이즈에 문제를 일으킬 가능성이 제기됐다. 두 제품의 유사성 때문이었다. 빙챗 엔터프라이즈의 브랜드가 조만간 사라질 예정이다. 하지만 기능은 코파일럿에 통합돼 계속 유지된다.

이름 변경과 함께, MS의 엔트라(Entra) 클라우드 기반 ID 관리 서비스를 이용하는 조직의 경우 챗봇 내에서 사용되는 상업용 데이터를 보호할 수 있는 기능 등을 코파일럿에서 이용할 수 있다. 새 코파일럿은 다음달 1일부터 일반에 공개된다. 

2. 코파일럿 어 고고(a go-go)
물론 MS 제품 브랜드는 단순하지 않으며 코파일럿이 단 하나의 제품으로 존재하는 것도 아니다. 다이나믹스365(Dynamics 365)의 코파일럿, M365용 코파일럿, 깃허브 코파일럿, 비바(Viva) 코파일럿, 그리고 이번에는 서비스용 코파일럿과 영업용 코파일럿까지 추가됐다.

서비스용 코파일럿(Copilot for Service)은 컨택 센터의 상담원이 고객 정보 및 지식창고 문서를 수집하고, 팀즈, 아웃룩 및 세일즈포스(Salesforce), 서비스나우(ServiceNow), 젠데스트(Zendesk) 등 서드파티 시스템과 통합하도록 돕기 위해 제작됐다. 

혼란스럽게도 MS는 이미 영업을 위한 코파일럿을 제공하고 있다. 이번에 공개된 영업용 코파일럿(Copilot for Sales)은 M365용 코파일럿 라이선스가 포함된 다른 제품으로, 영업 직원이 사용자 지정 브리핑 문서를 작성해 고객 미팅을 준비하는 데 도움을 준다. 

3. 시스템 관리자를 위한 코파일럿
코파일럿은 M365 사용자뿐만 아니라 관리자에게도 유용하다. 향후 업데이트를 통해 비즈니스용 엣지(Edge) 관리 인터페이스에 코파일럿이 추가돼 관리자가 업무용 브라우저에 대한 권장 정책 및 확장 기능을 사용할 수 있게 될 예정이다. 셰어포인트 및 팀즈를 비롯한 다른 M365 제품에는 이미 코파일럿이 지원되고 있다. 또한 M365 애플리케이션에 코파일럿 기능이 도입된 후 사용자의 업무 방식이 어떻게 바뀌는지 추적할 수 있는 MS 비바의 새 적응 대시보드도 있다.

4. M365용 코파일럿에 추가된 기능
새 기능에 대해 코파일럿은 이미 M365 앱을 강화하기 시작했다. 내년에는 더 많은 기능이 출시될 예정이므로 CIO는 사용자의 질문에 대한 답변을 준비해야 한다.

예를 들어 내년부터 팀즈는 실시간 모임 내용을 가져와 메모로 요약하고 화이트보드에 노트를 정리하는 기능을 도입한다. 이를 통해 모임이 진행됨에 따라 화이트보드에 추가할 아이디어를 더 제안할 수 있도록 한다. 또한 미팅 노트는 대화형 문서가 돼 참가자가 미팅이 끝난 뒤 특정 지점에 대한 자세한 정보를 요청할 수 있다. 서면 기록 유지의 위험성을 우려하는 조직은 기본적으로 또는 미팅별로 기능을 해제할 수 있다.

MS는 또한 서드파티 공급업체 플러그인 및 커넥터에 코파일럿을 개방해 지라(Jira), 트렐로(Trello), 컨플루언스(Confluence), 프레시웍스(Freshworks) 등 데이터를 가져오고 인용할 수 있도록 할 예정이다.

5. 코파일럿을 만들기 위한 코파일럿 스튜디오
오픈AI는 챗GPT와 유사한 인터페이스를 통해 챗봇(GPT)을 사용자 지정할 수 있게 업데이트했다. 이제 MS도 더 많은 코파일럿을 만들고 사용자 지정할 수 있는 코파일럿 스튜디오(Copilot Studio)를 출시했다. 코파일럿 스튜디오에서는 음성 인식 및 감정 분석을 비롯한 애저(Azure) 기능에 액세스할 수 있다. 파워플랫폼(Power Platform) 커넥터 및 파워오토메이트(Power Automate) 워크플로우를 통해 더 정교한 기능을 추가할 수도 있으며, 이러한 거버넌스 도구로 IT 부서가 계속 통제할 수 있도록 지원한다. 

6. 사람들은 코파일럿을 포기할 생각이 없다
MS는 매년 업무 트렌드 지수를 발표해 왔다. 올해에는 초기 코파일럿 사용자를 대상으로 한 설문조사와 관찰 연구도 포함됐다. 

설문조사 참여자들은 코파일럿에 열광한 것으로 나타났다. 70%는 이를 사용해 생산성이 향상됐다고 답했고, 77%는 포기하고 싶지 않다고 했다. 22%는 이 도구로 하루에 30분 이상 시간을 절약했다고 응답했다.

MS의 최고 커뮤니케이션 책임자인 프랭크 X. 쇼는 행사에 앞서 설문조사 결과를 발표하면서 “이러한 시간 절약은 매우 놀라운 일이지만, 이렇게 돌려받은 시간을 현명하게 사용하는 것도 모든 사람에게 중요하다”라고 말했다.

관찰 연구에 따르면 코파일럿 사용자는 정보를 27% 더 빨리 찾을 수 있었으며 놓친 미팅을 거의 4배 더 빠르게 따라잡을 수 있었다.

코파일럿이 계속 업데이트된다면 향후에는 절약된 시간으로 무엇을 할 수 있는지 사용자에게 조언하는 기능도 기대할 만하다. 하루에 30분 이상 시간을 절약했다는 응답자 중 약 절반은 그 시간을 집중 업무에 사용했다고 답했으며, 6분의 1은 더 많은 회의에 사용했다고 답했다.

7. 생성형 AI 자격 증명(credentials)
이 영역은 이제 막 떠오르고 있기 때문에 누가 무엇을 알고 있는지 평가하기 어렵다. MS는 AI를 포괄하는 MS 응용 기술(Microsoft Applied Skills)에서 새로운 자격 증명을 제공할 예정이다. 자격 증명은 애저 오픈AI 서비스(Azure OpenAI Service)를 사용한 AI 개발, 애저 AI 문서 인텔리전스(Azure AI Document Intelligence)를 사용한 문서 처리 시스템 제작, 애저 AI 언어(Azure AI Language)를 사용한 자연어 처리 도구 빌드, 애저 AI 비전(Azure AI Vision) 시스템 빌드 등을 다룬다. 

8. 애저에서 생성형 AI 운영 간소화
지난 5월 빌드에서 MS는 생성형 AI 애플리케이션을 구축하기 위한 통합 시스템인 애저 AI 스튜디오(Azure AI Studio)를 발표했다. 이번 행사에서 마침내 플랫폼의 프리뷰가 출시됐다. 개발자는 다양한 전용 및 오픈소스 LLM 중에서 선택할 수 있고, 벡터 임베딩을 위해 MS 패브릭 원레이크(Microsoft Fabric OneLake) 및 애저 AI 검색(Azure AI Search) 등 데이터 소스를 선택해 전체 모델을 재학습할 필요 없이 실시간 데이터로 응답을 미세 조정할 수 있다. 또한 배포된 후 모델 성능도 모니터링할 수 있다. 

9. 엔터프라이즈 AI 워크로드를 위한 새 애저 칩
MS는 AI 워크로드에 맞게 조정된 새 칩으로 애저 인프라를 업데이트하고 있다. ND MI300 v5 가상 머신이 AI 모델 및 트레이닝, 생성 추론을 가속화하기 위해 곧 AMD의 최신 GPU인 인스팅트 MI300X에서 실행될 예정이다. 엔비디아(Nvidia)의 새로운 NVL 변형 H100 칩은 현재 프리뷰 버전인 NC H100 v5 가상 머신을 구동한다. 이 칩은 GPU당 더 많은 메모리를 제공해 데이터 처리 효율을 개선한다.

MS는 자체 맞춤형 칩도 추가하고 있다. 대표적으로는 애저 마이아(Azure Maia)가 있다. 이는 오픈AI 모델, 깃허브 코파일럿, 챗GPT와 같은 AI 교육 및 추론 워크로드를 가속화하도록 설계됐다. 일반(AI가 아닌) 워크로드를 담당하는 보완 제품으로는 애저 코발트(Azure Cobalt)가 있다.

10. 윈도우 AI 스튜디오(Windows AI Studio)로 쉽게 개발하는 소규모 AI 앱
애저 AI 스튜디오는 LLM에 중점을 두지만, 특정 작업을 위해 학습되고 PC 또는 모바일 디바이스에서 로컬로 실행할 수 있을 만큼 작은 규모의 생성형 AI 모델에도 관심이 높아지고 있다. MS는 개발자가 SLM을 사용자 지정하고 배포할 수 있도록 '윈도우 AI 스튜디오'를 출시할 예정이다. 윈도우 AI 스튜디오에는 클라우드 또는 네트워크 엣지에서 모델을 실행할 수 있는 옵션, 실행 위치에서 동기화 상태를 유지할 수 있는 프롬프트 오케스트레이션 기능 등이 제공된다.

11. 지식 관리를 위한 생성형 AI 사용
MS의 비바 인게이지(Viva Engage) 엔터프라이즈 커뮤니케이션 도구는 직원들이 자주 묻는 질문에 대한 주제별 전문가의 답변 데이터베이스를 검색해 학습할 수 있도록 지원한다. 연말까지 출시될 예정인 비바 답변 업데이트에는 다른 소스에서 가져온 학습 파일을 기반으로 AI를 사용해 답변 및 답변에 대한 질문을 생성하는 옵션이 추가된다. 이를 통해 기업은 기존 지식 관리 플랫폼에서 빠르게 전환하거나 다른 시스템에서 보유한 리소스를 공유할 수 있다. ciokr@idg.co.kr