기계학습 구현을 쉽게!··· 머신러닝 프레임워크 13종

ⓒ Getty Images Bank  최근 많은 기업이 경쟁이라도 하듯이 인공지능(AI) 이니셔티브를 발표하고 있다. 디지털 전환의 핵심을 AI로 보고, 새로운 비즈니스 기회를 만들고 고객 경험을 높이는데 AI를 활용하는 것이다. 물론 이렇게 전사적으로 AI를 앞세우는 것을 보고 우려를 표하는 이들도 있다. 왜 그럴까? AI 프로젝트는 단순히 전략을 마련하고 투자를 강화한다고 성공하는 영역이 아니기 때문이다. 특히 업계 전문가들은 ‘AI 프로젝트 중 상당수가 연구 단계를 넘어 프로덕션 수준까지 이어지지 못한다’라는 점을 가장 큰 문제로 지적한다. AI 프로젝트 대부분이 실패하는 이유는 현장을 보면 알 수 있다.    사람, 프로세스, 기술이라는 문제 AI 프로젝트가 원활하게 진행되려면 사람, 프로세스, 기술에 대한 경험, 인프라 및 플랫폼이 필요하다. 이 중 어느 한 요소라도 빠지면 안 되며, 모든 요소가 조화를 이루어야 한다. 문제는 사람, 프로세스, 기술은 의지와 예산이 있다고 바로 내재화할 수 있는 역량이 아니란 점이다.  먼저 사람 즉, 전문 인력부터 살펴보자. AI 프로젝트를 시작하려면 기업은 내부에 AI 전문가가 얼마나 있는지 확인해야 한다. 가령 GPU 클러스터 및 고속 병렬 파일시스템 기반 스토리지를 구축해 운영할 수 있는 인프라 담당자가 있는가? AI 및 머신러닝 모델 훈련과 추론을 위해 데이터 파이프라인을 구축하고 지원할 데이터 전문가가 있는가? 모델을 개발하고 최적화하여 애플리케이션에 적용할 개발자가 충분히 있는가? 이런 요소를 따지다 보면 기업은 필요한 인력 대부분을 새로 충원해야 한다는 것을 깨닫는다. 그렇다고 인력 없이 바로 AI 프로젝트를 진행할 수는 없다. 경험이 풍부한 전문가가 없다면, 다음과 같은 문제를 마주칠 것이다.    “A 기업은 자연스러운 인공지능 챗봇을 구현하기 위해 자연어 처리(NLP)를 담당하는 AI 팀을 구성하고 자체적으로 AI 엔진을 구축했다. 이후 실제 비즈니스 환경에 엔진을 적용하려고 보니 참조 아키텍처와 운영환경 등을 갖추는 것이 필요했다. 하지만 AI 팀이 자체적으로 아키텍처를 구현하고 운영 환경을 만들어 가는 것은 현실적으로 어려웠다. 해당 분야의 내부 전문가가 부재했기 때문이다. 상용화 제품을 만들어 주는 AI 솔루션 업체와 협력을 할까 고민했지만 그렇게 하면 기존에 만든 엔진은 쓸 수 없었다. 거기다 비용을 들여 솔루션을 구매해야 한다는 점도 큰 문제였다. A 기업은 자체 구축한 AI 엔진을 활용해 서비스를 만들고 운영할 방안이 절실했다.” 이번에는 프로세스를 알아보자. 프로세스는 비즈니스와 의사결정 및 협업, 이 두 가지로 나누어 살펴볼 수 있다. 기업의 AI 이니셔티브가 성공하려면, 기존 비즈니스 로직과 먼저 결합돼야 한다. 즉, 기업의 비즈니스 프로세스 그리고 해당 프로세스에 맞춰 흐르는 데이터를 AI와 연결 지어야 한다. 흔히 AI 프로젝트 계획을 수립할 때, 데이터 세트가 충분하다고 생각하지만 막상 뚜껑을 열어 보면 AI 모델 훈련과 추론에 필요한 데이터가 턱없이 부족할 때가 많다. 이런 경우 십중팔구 AI 데이터 파이프라인 구축을 위한 내부 시스템이 제대로 연계되어 있지 않다.  의사결정 및 협업 프로세스 문제는 보통 COE(Center of Excellence) 같이 중앙에서 투자와 프로젝트를 관리하는 조직이 없어 생긴다. 일종의 사각지대가 발생한 건데, 이런 경우 중복 투자가 발생해 자원이 낭비되고, 기껏 투자한 AI 시스템이 사일로화되기도 한다. 구체적으로 프로세스상의 문제가 있으면 다음과 같은 상황이 생긴다.    “B 기업은 현업 주도하에 AI를 비즈니스에 적용하려 했지만 복잡한 비즈니스 프로세스, 즉 수많은 인터페이스와 다양한 데이터 흐름 때문에 서비스 구축에 어려움을 겪고 있다. 또한 도입 과정에서 살펴보니 이곳저곳 중복되거나 사일로화된 AI 솔루션과 시스템이 상당했다. 현업 부서에서 서로 다른 시스템을 두고 있고, 관리 부서는 제각각이었다. B 기업은 레거시 시스템을 쉽게 연동하는 한편 다양한 AI 서비스, 사용 사례, 데이터 수집 및 가공을 통합하고 관리할 방안을 모색하고 있다.” AI 기술은 비즈니스와 기술 측면에서 각각 생각해 볼 수 있다. 먼저 비즈니스 절차 측면에서 AI 이니셔티브 수립은 IT 부서만 주도한다고 다 되는 것은 아니다. 임원, 실무 담당자, IT 팀까지 모두 힘을 모아야 제대로 된 이니셔티브를 수립할 수 있다. 하지만 다양한 부서가 업무를 협의하고 의견을 취합하는 그런 이상적인 협업 문화를 갖춘 기업은 사실상 많이 없다.  기술 측면에서 기업은 최적의 AI 기술과 솔루션을 선정하고, 다양한 레거시 시스템과 연계할 수 있는 인터페이스를 개발해야 한다. 또한 실제 서비스 애플리케이션을 구현하고 최적화도 해야 한다. 따라서 다양한 AI 기술, 데이터 통합 관리 기술, 쿠버네티스, ML옵스(MLOps) 등을 다룰 수 있는 능력이 필요하다. 기업 IT 팀 상당수에게 이런 기술은 낯설고 어려운 주제다.  그런 면에서 AI는 새로운 도전 분야다. 인프라, 언어, 프레임워크, 라이브러리, 개발 환경까지 이전과는 다르게 기술을 다룬다. 거기에 기술 발전 속도까지 빠르다. 가령 AI는 관리부터 개발에 이르기까지 오픈 소스 중심으로 혁신이 이뤄진다. 운영자가 ML옵스 플랫폼을 직접 구축하려면 다양한 오픈 소스 기술을 활용해야 한다. 개발 영역 또한 프레임워크, 라이브러리, 도구 등 오픈 소스를 잘 알아야 한다. 오픈 소스 기술 비중이 높으면 그 변화의 속도를 따라가는 데 피로감을 느끼기 쉽다. 상용 솔루션 역시 빠르게 발전하기에 막상 도입 검토, 구현, 안정화를 하고 나면 새로운 기술 트렌드가 나와 있다. 그런 경우, 힘들게 구축한 기술이 어느새 낡은 시스템이 되어 버린다.   “C 기업은 데이터 분석 기반 QA 모니터링을 하기 위해 Bi-LSTM(Bidirectional Long Short Term Memory)을 활용한 STT(Speech-to-Text) 솔루션을 도입했다. 문제는 솔루션을 구매해 서비스를 구축한 이후 발생했다. 해당 솔루션을 도입한 지 불과 2년 만에 엔드투엔드 방식의 새로운 STT 솔루션이 출시됐고, 이전 STT 솔루션보다 인식률이 훨씬 더 높아진 것이다. C 기업은 더 좋은 성능의 솔루션으로 교체하고 싶지만, 비용이 부담되는 것은 물론, 이미 기존 솔루션으로 구축된 시스템을 버리고, 새롭게 처음부터 개발하는 부분 때문에 이러지도 저러지도 못하는 상황이다.” 멀고도 먼 내재화의 길  앞서 소개한 사례처럼 AI 이니셔티브를 성공적으로 운영하는 것은 매우 어렵다. 내재화를 고집하면 할수록 성공에서 더 멀어질 수 있다. 즉 내재화를 하다 보면 다음과 같은 요소에 모두 대응해야 한다.   AI 역량 내재화 과정에서 고려하는 사항. ⓒ 코그넷나인 그렇다면 어떻게 해야 계획 또는 이미 진행 중인 AI 프로젝트를 프로덕션 수준으로 구현할 수 있을까? 바로 ‘핵심 목표’에 집중해야 한다. 기업은 AI 기술 전문 조직이 아니다. 기업이 집중해야 하는 핵심 목표는 ‘비즈니스 성과를 내기 위해 AI 기술을 어디에 도입할지 결정하고, 도입 후 성과를 낼 수 있을지 그 타당성을 확인하고, 구체적인 AI 서비스를 기획하고 구현하는 것’이다.  핵심 목표와 기술 내재화를 모두 성취할 수 있다면 좋겠지만, 그러기엔 너무 큰 비용, 시간, 노력이 필요하다. 핵심 목표에 우선순위를 두면 프로젝트를 보다 효율적으로 운영할 수 있다. 그리고 내재화는 중장기 과제로 가져가야 한다. 핵심 목표에 집중하기 위해 내재화 외에 당장 선택할 수 있는 대안이 있을까? 다행히 있다. 바로 ‘AI 매니지드 서비스와 플랫폼’이다. 성공적인 AI 도입을 위한 ‘AI 매니지드 서비스, 그리고 플랫폼’ 기사를 통해 AI 매니지드 서비스와 플랫폼의 의미와 특징을 확인해보자. 

ⓒ Getty Images Bank 엔데믹 시대를 맞이해 하이브리드 업무 환경을 구축하는 기업이 늘고 있다. 특히 최근에는 개인의 업무 환경 외에도 회의실 환경도 온·오프라인 구분없이 최적화되고 있다. 대표적으로 마이크로소프트는 협업 소프트웨어 팀즈를 회의실에서 사용할 수 있도록 최적화된 ‘팀즈룸(MTR, Microsoft Teams Room)’을 선보여 경쟁력을 높이고 있다. 국내 최초이자 최대의 팀즈 기반 체험센터 토탈 AV(Audiovisual) 솔루션 업체인 주신에이브이티(주신AVT)는 ‘팀즈룸’ 체험센터를 운영하며, 하이브리드 헙업 공간의 방향성을 제시하고 있다. 경기도 하남시에 위치한 팀즈룸 체험센터에는 현대적으로 꾸며진 다양한 업무 공간이 마련돼있다. 약 100평으로 이뤄진 팀즈룸 체험센터는 8인석의 허들룸(소회의실) 2개, 15인석의 보드룸, 간단하게 서서 미팅을 하는 스탠드업, 30인석 규모의 교육장, 타운홀미팅을 위한 오픈 공간 등으로 구성됐다. 모든 공간에는 팀즈에 특화된 MTR(Microsoft Teams Room) 기기가 설치돼있다.   팀즈 체험센터에 설치된 회의실 종류. ⓒ 주신에이브이티 회의실에 들어갈 때 가장 눈에 띄는 것은 외부에 설치된 터치패널이다. 터치패널은 회의실 사용 및 예약 여부를 보여준다. 따로 PC나 모바일에 접속할 필요 없이 터치패널에서 바로 회의실 예약도 할 수 있다. 사용자가 회의실을 예약하면 팀즈에 바로 관련 정보가 연동되며, 자동으로 온라인 팀즈 회의도 예약된다. 이런 시스템 덕에 회의실에 들어설 때는 팀즈 세션을 예약할 필요 없이 입장하면 된다. 아울러, 모든 회의실에는 사내 와이파이와 연동된 무선 프레젠테이션(Wireless Presentation)이 설치돼 있기 때문에 자료를 무선으로 쉽게 공유할 수 있다.   회의실 밖에 설치된 팀즈 터치패널. ⓒ 주신에이브이티 규모가 좀 더 큰 회의실에선 코디네이티드 미팅(Coordinated Meeting)을 도입할 수 있다. 팀즈룸 디바이스를 하나의 공간에 2개 이상 적용한 코디네이티드 미팅에선 MTR에 연결된 메인 스크린을 통해 영상 회의 참여자의 얼굴을 볼 수 있고, 서피스 허브에서 바로 문서를 공유하고 함께 편집할 수 있다. 온·오프라인 구분 없이 모두가 한 공간에 있듯이 대화를 하며 자료를 공유할 수 있으니 회의 몰입도가 극대화된다는 장점이 있다. 회의에서 사용하는 마이크는 중앙 천장에 설치돼있어 테이블에 따로 복잡한 음향 기기를 두지 않고, 넓은 공간을 확보할 수 있다. 또한 참석자의 위치에 상관없이 높은 오디오 품질이 제공된다.   코디네이티드 미팅(Coordinated Meeting)을 운영할 수 있는 회의실 예시. ⓒ 주신에이브이티 스탠딩 공간은 공식적인 미팅이 아닌 실무자가 즉석에서 모여 간단하게 업무 협의를 하기 좋은 회의실이며, 예약 없이 바로 이용할 수 있다. 스탠딩 공간에는 물리적인 화이트보드가 구비돼 있으며 화이트보드 내용은 팀즈의 인텔리전트 카메라 캡처(Intelligent camera capture) 기능을 활용해 최적화해서 보여준다.  체험센터에서 가장 큰 면적을 차지하는 이벤트홀 천장에는 마이크 3개와 스피커 12개가 설치돼있다. 그 덕에 발표자와 청중은 따로 마이크를 이용하지 않고 서로의 음성을 또렷하게 들을 수 있다. 이때 강사용 추적 카메라는 무대 위 강사의 움직임을 따라 촬영하며, 청중용 추적 카메라는 천장 마이크와 연동되어 화자의 위치를 파악한다.   스탠딩 협업 공간(왼쪽)과 이벤트 홀(오른쪽) ⓒ 주신에이브이티 IT팀부터 인사팀까지, 필요한 모든 정보를 제공 주신에이브이티의 체험센터는 국내외 언론사와 웨비나를 통해 다양하게 소개된 바 있다. 체험 센터 방문객은 범용 PC에 카메라, 마이크, 스피커 등을 연결하여 회의실에서 팀즈를 사용하는 BYOD 형태와 MTR을 사용하는 형태의 차이점을 명확히 파악할 수 있었다고 설명한다. 지금까지 삼성, 현대, LG, SK, GS, KT 등 대기업은 물론 중견기업, 외국계 기업 소속의 IT 및 인사·총무 부서의 담당자가 팀즈룸 체험센터에 방문했다. IT 담당자는 체험 센터를 통해 MTR의 품질, 성능, 보안 등 기술적 측면을 상세하게 확인했으며, 인사총무 담당자는 상황별 예시를 확인하며 실제 효율성과 운영 방안을 꼼꼼하게 검토했다.   체험센터를 방문했던 한 유통 전문 대기업의 시스템 기획 파트장은 “자료를 통해 알고 있던 MTR과 팀즈 기반 회의실 환경을 직접 눈으로 보고 실제 장비를 구동하며 UI와 품질 등을 확인하니, 팀즈 환경을 회의실에 적용하는 계획을 더욱 구체적으로 수행할 수 있었다”라며 “새로운 시스템을 업무에 적용하고 세부 전략을 세울 때는 담당자가 먼저 체험해 보는 것이 매우 중요하다고 생각한다”라고 밝혔다.  팀즈룸 체험 센터 관련 질문은 주신에이브이티 공식 이메일(info@jsavt.co.kr)로 문의하면 된다.    

ⓒ 주신에이브이티 코로나19 사태는 교육 시장을 완전히 바꾸고 있다. 온라인 교육은 점점 더 일상으로 자리 잡고 있으며, 앞으로 코로나19가 종식된다 해도 예전처럼 오프라인 강의만 진행되는 교육은 없어질 가능성이 높다. 그러다 보니 교육 업계는 온라인과 오프라인을 접목한 학습 환경에 대해 높은 관심을 보이고 있다.    하이브리드 강의가 중요한 이유 하이브리드 교육은 온라인과 오프라인 수강생이 한 공간에 실시간으로 모여 진행하는 교육을 말한다. 온라인 교육은 장소와 거리의 제약이 없다는 장점이 있으나, 강사와 수강생이 친밀하게 소통하기 어렵다는 한계가 있다. 그렇다고 예전처럼 다수의 수강생이 밀폐된 공간에서 수업을 하기에는 아직 안전상의 문제가 있다. 그런 면에서 하이브리드 교육은 양질의 교육과 안전성, 두 가지 모두를 확보하는 수단으로 떠오르고 있다.  하이브리드 교육의 장점은 무엇일까? 일단 교육 운영 기관 입장에서는 물리적인 공간의 확장 없이 수강생 수를 늘릴 수 있다. 여기에 온라인 교육의 장점, 즉 장소와 거리 상관없이 수업을 들을 수 있고, 학생마다 맞춤 교육이 가능하다는 부분을 접목할 수 있다. 오프라인 강의를 진행하지 못하는 강사가 있다면, 온라인으로 초빙할 수도 있다. 무엇보다, 온라인에서는 양방향 교육을 진행하더라도 수강생의 분위기를 파악하거나 즉각적인 반응을 얻는 데 한계가 있는데, 오프라인 현장에 모인 학생과 소통하면서 단점을 보완할 수 있다. 교육 수강생 관점에서도 장점이 많다. 오프라인으로 참여하는 수강생은 온라인으로만 참여할 때보다 몰입도 및 참여도를 높일 수 있으며, 온·오프라인 참여자와 다양한 협업을 통해 더욱 쉽게 문제를 해결할 수 있다. 코로나19 사태 이후, 모일 수 있는 인원 수가 제한되는 경우가 있는데, 온라인 수업을 접목하면 이런 단점이 사라진다. 화이트보드 등의 디지털 도구를 사용하여 강사와 수강생이 온·오프라인 구분 없이 문서나 판서 내용을 보다 효과적으로 공유하는 것도 가능하다.   하이브리드 강의실 구축 방법 하이브리드 강의실을 구축하라면 IT 인프라는 물론 시청각(AV) 관련 기술이 함께 필요하다. 예를 들어 마이크로소프트 팀즈(Teams) 같은 화상 회의 소프트웨어를 구동할 수 있는 전용 디바이스, 편리하게 강의실을 제어할 수 있는 터치패널, 네트워크로 연결되는 천장형 마이크 및 스피커, 강사의 움직임을 자동 추적하며 촬영하는 카메라, 학생이 질문하면 즉각적으로 화자를 추적하는 카메라 및 마이크 연동 시스템 등이 설치돼야 한다. 여기에 무선 기반 화면 공유 시스템이나 자동 번역 시스템, 녹화 시스템 등도 추가로 갖출 수 있다.    하이브리드 강의실 예시. ⓒ 주신에이브이티   하이브리드 강의실 시스템 구성   자료를 띄우고 자료 위에 판서를 할 수 있는 전자 칠판 (대형 강의실인 경우, 전자칠판 내용을 출력하는 프로젝터 등의 메인 스크린이 별도로 필요) 온라인으로 참석한 학생을 볼 수 있는 영상 회의 스크린 강사의 움직임을 추적하여 온라인 참석자에게 화면을 전송하는 추적 카메라 강사의 위치에 상관없이 발언 내용을 명료하게 전달 및 확성하고, 학생의 음성도 확성하는 천장형 마이크(소규모 강의실인 경우 음성 확성은 필요 없을 수 있음) 강사의 음성, 동영상 컨텐츠의 소리, 온라인 학생의 음성을 강의실 내에 확성하기 위한 천장형 스피커(소규모 강의실인 경우 음성 확성은 필요 없을 수 있음) 외국어가 포함된 동영상 또는 외국인 강사를 위한 자동 번역 시스템(청각 장애인을 위한 자동 자막기 포함) 강의장 내 참석자의 노트북과 휴대폰의 화면을 쉽게 공유할 수 있는 무선 화면공유 시스템 강의 내용 녹화 시스템 온라인 화상회의 소프트웨어 구동을 위한 PC  영상편집 또는 LMS와 연동되는 시스템    하이브리드 강의를 위한 교육장 예시. ⓒ 주신에이브이티 토탈 AV(Audiovisual) 솔루션 업체인 주신에이브이티(주신AVT)는 팀즈 기반의 하이브리드 강의장 체험센터를 구축해 새로운 교육 환경을 보여주고 있다. 방문객은 체험 센터를 통해 팀즈를 활용한 최적화된 교육 현장의 예를 확인할 수 있다.  팀즈룸 체험 센터 관련 질문은 주신에이브이티 공식 이메일(info@jsavt.co.kr)로 문의하면 된다.    

ⓒ Getty Images Bank  기업은 AI 프로젝트를 운영할 때 목표했던 성과를 도출하기 위해 전력을 다한다. 하지만 노력에 비해 프로덕션에서 운영하는 케이스가 적거나 제대로 된 성과를 얻지 못할 때가 있다. 이렇게 되면 ROI 측면에서 손해는 매우 커진다. 컴퓨팅 자원, 인력, 시간 등 소중한 기업 자산은 낭비되고, 개발 환경을 구축해 모델을 구현하고, 훈련용 자원과 데이터를 확보하는 데 들어간 리소스는 의미가 없어진다. 그렇다면 AI 프로젝트가 성공적인 프로덕션 수준으로 이어지고 비즈니스 성과를 제대로 만들려면 무엇을 개선해야 할까? 이 질문에 대한 답은 ‘AI 매니지드 서비스와 플랫폼’에서 찾을 수 있다.    ‘AI 매니지드 서비스’란 무엇인가 클라우드 매니지드 서비스(Cloud Managed Service)는 들어봤어도, AI 매니지드 서비스(AI Managed Service)는 생소한 사용자가 꽤 있을 것이다. 클라우드 매니지드 서비스는 전통적인 온프레미스 시스템을 클라우드로 이전하면서 겪는 어려움을 해결하기 위해 등장했다. 클라우드 수요가 늘다 보니 이를 관리하는 전문 기술이 클라우드 매니지드 서비스 형태로 나타난 셈이다. ‘사례로 살펴보는 AI 역량 내재화가 어려운 이유’ 기사에서 소개한 것처럼 기업의 AI 도입 과정은 클라우드 도입 과정과는 또 다른 방면으로 복잡하고 어렵다. 다시 말해 AI를 도입하기 위해서는 다음과 같은 요소를 세심하게 따져봐야 한다.   기업 내 어느 비즈니스 영역에 AI를 도입할 예정인가 도입했을 때 비즈니스 효과를 제대로 얻을 수 있는가 선정한 과제를 어떤 서비스 형태로 기획할 것인가 서비스를 구현할 때 필요한 최적의 AI 기술과 솔루션은 무엇인가 AI 학습을 위한 데이터는 어떻게 준비할 것인가 기존 내부 시스템(레거시)과 어떻게 연계할 것인가 정해진 시간 내에 빠르게 구축할 수 있는가 안정적으로 서비스를 오픈하고 운영까지 진행할 수 있는가 기업을 대신해 위와 같은 요소를 처음부터 끝까지(End-to-End) 알아서 처리해주는 것이 바로 ‘AI 매니지드 서비스’다. 모든 요소를 대신해줄 뿐만 아니라, 특정 요소에 대해서만 도움을 받을 수도 있다. 따라서 기업은 모든 AI 역량을 내재화할 필요 없이 다양한 경험과 전문성을 지닌 AI 매니지드 서비스 전문 업체와 파트너십을 맺으면서, 원하는 결과를 보다 효율적으로 도출할 수 있다. AI를 도입하다 보면, 과제 선정이 완료된 후 학습 데이터를 준비하고, 서비스를 구현 및 운영하는 영역까지 모두 유기적으로 연결되어야 한다는 것을 알 수 있다. 따라서 AI 매니지드 서비스도 그런 광범위한 기술 영역을 수용하는 플랫폼이 있어야 한다. 솔루션이나 시스템별로 서비스가 따로 지원된다면 진정한 AI 매니지드 서비스라고 볼 수 없다.   성공적인 AI 도입을 위한 필수 요소, AI 매니지드 서비스 ‘플랫폼’ AI 매니지드 서비스 플랫폼을 이용하면, 데이터 과학자, 모델러, 아키텍트, 개발자 등 AI 프로젝트를 진행하는 데 필요한 인력을 최소로 유지하면서, 서비스를 구축하고 안정적인 운영을 지속할 수 있다. 코그넷나인(Cognet9)은 수년간 다양한 AI 프로젝트로 쌓은 경험과 전문성을 바탕으로 AI 매니지드 서비스를 제공하고 있다. 2022년 4월에는 AI 매니지드 서비스 플랫폼인 ‘플러그넷(Plugnet)’을 출시했다.  AI 도입 과정은 크게 1) AI 도입 과제 선정 및 타당성 입증, 2) 서비스 설계 및 학습 데이터 준비 및 관리, 3) AI 서비스 구현(애플리케이션 개발), 4) AI 운영 관리 등 총 4단계로 정의할 수 있다. 도입 과제 선정과 타당성 입증은 별도의 비즈니스 가치 평가(Business Value Assessment) 방법론에 따라 진행하고, 서비스 설계와 운영 관리 단계는 관련 툴이나 솔루션을 사용한다.  그럼 서비스 설계 단계부터 살펴보자. 서비스 설계를 위해 AI 아키텍트는 서비스에 필요한 유스 케이스별 아키텍처를 수립한다. 이를 위해 유사한 아키텍처를 참조하고 분석해 새로운 아키텍처를 수립하고 세부 사항을 설계한다. 이런 과정은 서비스 구현의 근간이 되기 때문에 설계 후 사전 검증까지 완료하는 데 시간이 오래 걸린다. 실제 현장에서는 경험과 전문성을 갖춘 아키텍트가 부족하기 때문에 대부분이 외부 전문가의 도움을 받는다.  플러그넷은 AI 마켓플레이스를 통해 사전에 검증되고 정의된 다양한 AI 서비스 아키텍처를 제공한다. 이를 활용하면 새롭게 구축할 서비스를 위한 아키텍처를 빠르고 간편하게 수립할 수 있을 뿐만 아니라 공통 업무 분야에서 재사용이 가능해 동일한 작업을 여러 팀에서 각각 따로 할 필요가 없어진다.    코그넷나인의 AI 매니지드 서비스 플랫폼 구조 ⓒ 코그넷나인 설계가 끝났다면 학습 데이터를 준비하고 관리해야 한다. AI에 필요한 데이터는 레거시 시스템, 데이터 레이크, 외부 데이터 등 다양한 원천에서 수집되고 학습 가능한 형태로 가공된다. 동시에 지속적으로 공급돼야 한다. 이런 작업은 워낙 복잡하고 손이 많이 가다 보니, 자칫 효율성이 떨어진다는 문제에 직면할 수 있다. 지속 가능한 방식으로 학습 데이터를 처리하고 자동 공급(feeding)하려면 파이프라인이 필요한데, 이를 위한 플랫폼이 없다면 같은 작업을 매번 반복해야 한다.  플러그넷은 데이터 관리 체계를 지원한다. 다시 말해 데이터 수집, 정제, 가공(라벨링)에 걸친 학습 데이터셋 구축 과정을 전담 데이터 팀 없이 플러그넷으로 관리할 수 있다. 특히 서비스 성능을 유지하고 개선하려면 학습 데이터를 지속적으로 제공받는 것이 필요한데, 플러그넷은 ‘AI 학습 데이터 피더(Feeder)’라는 기능으로 준비된 학습 데이터를 지속적으로 제공한다. 또한, 프로젝트 단위가 아니라 전사에서 추진하는 모든 AI 프로젝트가 단일 플랫폼을 이용하여 데이터 수집, 가공, 분석, 활용을 할 수 있게 도와준다. 서비스 구현 과정의 경우 최적의 AI 기술과 솔루션을 찾는 것이 중요하다. AI 매니지드 서비스가 없다면 기업은 직접 기술을 테스트하고 비교하면서 최적의 AI 기술과 솔루션 조합을 선택해야 한다. 또한 서비스를 위해 필요한 AI 모델을 개발하고 학습시켜 배포해야 한다. 배포 후에는 지속적인 반복 학습을 통해 최적화하면서 서비스 성능을 유지하고 개선하는 과정이 필요하다. 프로젝트가 많은 경우 모델과 서비스를 배포하고 형상 관리를 하면서 다양한 도구를 사용하는데, 그 과정에서 관리가 복잡하고 어려워지곤 한다.  플러그넷은 최적의 AI 기술과 솔루션 조합 선정을 위해 표준 어댑터를 제공한다. 기업은 표준 AI 커넥터와 표준 레거시 커넥터를 활용하면서 다양한 AI 기술과 솔루션을 기존 레거시와 연계하여 테스트하고 비교하며, 궁극적으로 최상의 기술 조합을(Best of Breed) 선택할 수 있다. 서비스 배포 후 최신 AI 기술을 적용할 때에도 표준 어댑터를 통해 서비스 애플리케이션의 재개발 없이 손쉽게 기술을 관리할 수 있다. 서비스에 필요한 AI 모델 또한 플랫폼을 통해 직접 서비스와 함께 배포하고 형상 관리를 할 수 있다.   마지막으로 서비스 운영 및 관리 단계를 보자. 보통 부서별로 배포한 모델과 서비스는 담당 부서가 개별적으로 모니터링하고 관리하는 것이 일반적이다. 이런 경우 관리가 복잡하고 어려울 뿐만 아니라 공통적으로 사용 가능한 부분을 따로 이용하면서 비용이 낭비된다.  플러그넷은 관리 화면을 제공하기에 다양한 AI 서비스를 통합 모니터링하고 측정할 수 있다. 현재 사용 중인 다양한 AI 기술, 솔루션, 서비스를 일괄 관리할 수 있는 셈이다. 거기다 중복 비용을 제거해 비용 절감도 가능하다.    핵심 목표에 집중하도록 도와주다 지금까지 살펴본 바와 같이 AI 매니지드 서비스 플랫폼은 AI 도입을 위해 활용하는 여러 오픈 소스 도구와 AI 개발 및 운영 솔루션을 하나의 플랫폼에서 제공한다. 마치 AI 도입을 위한 ‘맥가이버 만능칼’ 같은 역할을 하는 것이다. 서비스 아키텍처 설계, 데이터 플랫폼 기반의 학습 데이터 파이프라인 운영, 개발 환경 구축 및 관리, 그리고 서비스의 안정적 운영과 지속적인 개선 등의 모든 과정은 최소한의 전문 인력과 AI 매니지드 서비스 플랫폼에 맡겨진다. 따라서 기업은 AI 도입에 필요한 인력과 시스템을 갖추기 위해 드는 노력을 줄이고, AI 도입을 왜 하는지, 무엇을 위해 하는지, 비즈니스 목표는 무엇인지, 타당성은 있는지 등에 보다 집중할 수 있다.  AI 매니지드 서비스 플랫폼은 AI 도입 후 최신 AI 기술과 솔루션을 추가로 적용하려 할 때도 매우 유용하다. 대대적인 시스템이나 애플리케이션 개편 없이 플랫폼에서 제공하는 AI 표준 어댑터로 손쉽게 교체가 가능하기 때문이다. AI 기술 수준을 최신으로 유지하려면 개발부터 시스템 고도화까지 복잡하고 어려운 과정을 겪는데, AI 매니지드 서비스 플랫폼은 그 안에서 소요되는 시간과 비용을 줄여준다.   규모와 산업에 관계없이 앞으로 기업은 AI를 보다 활발하게 도입할 가능성이 크다. 반면 여전히 시장에서 AI 전문 인력은 그 수요를 충족하기에 턱없이 부족한 상황이다. 설령 지금부터 전문 인력을 양성한다 해도 현업에서 그 역량을 발휘하게 되기까지 많은 시간이 걸린다. 시장에서 살아남기 위해 기업은 마냥 기다릴 수 없다. AI 도입을 통해 시장 경쟁력을 확보하고 성장 동력을 지속적으로 가져가고자 하는 기업에게 AI 매니지드 서비스와 AI 매니지드 서비스 플랫폼은 우선 선택사항이 될 것이다.

ⓒ 마이크로소프트 하이브리드 업무환경에 대한 관심이 고조되면서 기업 협업용 애플리케이션을 회의실에서 활용하려는 움직임이 늘고 있다. 이때 소프트웨어뿐만 아니라 하드웨어도 설치할 수 있는데, 마이크로소프트의 회의실 전용 팀즈(Teams) 디바이스를 활용하면 보다 쉽게 하이브리드 업무 환경을 구축할 수 있다. 현재, 다양한 제조사가 마이크로소프트와 협업하여 안드로이드와 윈도우 기반의 팀즈룸(MTR, Microsoft Teams Room) 디바이스를 내놓고 있다.   소, 중, 대회의실용 다양한 MTR 장비  중소규모의 회의실에는 주로 카메라, 마이크, 스피커가 모두 포함된 일체형 비디오 사운드바가 사용된다. MTR 기반 카메라는 회의실에 들어온 전체 인원을 자동으로 화면에 담는 오토 프레이밍(Auto-Framing) 기능을 기본 지원한다. 모델 종류에 따라 화자의 음성과 얼굴을 인식하여 개별 화자를 추적하는 기능도 이용할 수 있다. 마이크와 스피커는 6~8명이 발언하고 음성을 듣는 데 충분한 사양을 제공한다.    중소회의실용 MTR 장비 (왼쪽부터 Crestron BX30, MMX30, Poly X30, X50, Rally Bar). ⓒ 주신에이브이티 회의실이 큰 경우, 더 많은 참석자의 얼굴과 음성을 선명하게 전달하기 위해 높은 사양의 카메라, 마이크, 스피커를 이용해볼 수 있다. 카메라 화소 수가 적을 경우, 디지털줌으로 일정 배율 이상 확대했을 때 화면이 일그러질 수 있는데, MTR 장비를 만드는 폴리(Poly)나 크레스트론(Crestron)사의 카메라는 2,000만 화소 이상의 센서를 탑재하여 화면을 확대한 상태에서도 화질이 저하되지 않도록 지원한다. 여기에 마이크는 최대 6미터 거리의 발언자 음성을 인식하고 스피커 또한 음영지역 없이 원격지의 음성을 회의실에 전달할 수 있어, 20인석 규모 회의실에서도 충분히 이용할 수 있다. 로지텍(Logitech)은 광학줌 렌즈와 팬틸트(Pan-Tit) 기능을 탑재한 PTZ 카메라, 확장 마이크, 스테레오 스피커로 구성된 대회의실용 MTR 패키지 장비를 공급한다.   대회의실용 MTR 장비 (왼쪽부터 Crestron MX70, Poly Studio Large RoomKit, Logitech Rally Plus). ⓒ 주신에이브이티 회의의 시작과 끝, 더 나아가 회의실 전체를 제어하는 터치 콘솔 MTR 장비의 핵심은 팀즈가 실행되는 전용 PC와 사용자 UI(User Interface)를 제공하는 터치패널이다. 터치패널은 제조사의 모델에 상관없이 마이크로소프트에서 제공하는 동일한 소프트웨어가 탑재돼있다. 터치패널을 이용하면 회의 시작, 초대, 참석, 자료 공유, 카메라 및 마이크 제어, 화면 레이아웃 변경 등 팀즈의 모든 기능을 쉽게 사용할 수 있으며 모든 사용자가 동일하게 경험할 수 있다. 이런 장점 때문에 회의실에는 일반 PC가 아닌 MTR 기기를 도입하는 경우가 많다.  일부 모델은 회의실에 설치된 영상 및 음향 장비와 조명, 디스플레이까지 제어가 가능한 소프트웨어를 탑재하여 터치패널에서 한꺼번에 조정할 수 있다. 이런 경우, 각 시스템을 위한 리모트 컨트롤러를 두지 않고 팀즈 터치패널 하나로 회의실 내에서 모든 것을 관리할 수 있다.    MTR 터치패널의 기본 UI(왼쪽)과 통합제어 기능이 들어간 MTR 터치패널(오른쪽). ⓒ 마이크로소프트 더 넓은 공간과 다양한 요구사항을 충족해주는 MTR의 확장성 초대형 회의실을 운영하기 위해서는 다양한 브랜드의 고성능 카메라, 마이크, 스피커를 이용할 때가 있다. 이와 같이 다양한 기기와의 통합을 위한 특화된 MTR 장비도 있다. 가령 크레스트론(Crestron)의 C100은 MTR의 핵심 구성품인 PC와 터치패널로만 구성되어 마이크로소프트의 인증을 받은 영상 및 음향(AV) 장비를 다양하게 연동할 수 있다.    다양한 영상 및 음향 장비와 연동한 MTR 구축 예시 ⓒ 주신에이브이티 판서 내용이나 공동 문서 등을 자주 공유하는 회의에서는 마이크로소프트의 서피스 허브(Surface Hub)를 활용하면 좋다. 서비스 허브는 50인치와 85인치 두 가지 모델로 제공되며, 팀즈 외에도 원드라이브, 오피스, 화이트보드 등 다양한 애플리케이션을 연동해 협업을 극대화할 수 있다. 이런 구성을 통해 일반 회의실뿐만 아니라 다목적 공간, 교육장, 강당 등을 협업 공간으로 업그레이드할 수 있다.   마이크로소프트 서피스 허브가 적용된 다목적룸. ⓒ 주신에이브이티 하이브리드 업무 관련 기술이 다양해지면서, 이제 장비 사양이나 자료를 확인하는 것 이상으로 기술을 직접 체험하고자 하는 사용자도 많아지고 있다. 토탈 영상/음향(AudioVisual) 솔루션 및 협업 기술을 제공하는 주신에이브이티(주신AVT)는 MTR 체험 센터를 운영하며 방문객이 하이브리드 업무 공간에 대한 아이디어를 얻을 수 있게 컨설팅을 제공한다.  팀즈룸 체험 센터 관련 질문은 주신에이브이티 공식 이메일(info@jsavt.co.kr)로 문의하면 된다.