2015.12.24

기고 | 인공지능에의 안전한 접근법, '집단 AI'에 쏠리는 관심

Greg Freiherr | CIO
인간의 능력을 증폭시켜 집단을 ‘수퍼 전문가’로 기능하게 하는 새로운 종류의 인공지능이 부상하고 있다. 초기 의료 논문에 따르면 ‘집단 AI’라고 불리는 이 접근법은 개별 전문가보다 우수한 성과를 기록했다. 특히 인간을 배제한 스마트 머신이 가진이 잠재적 위험성에 대한 대안으로 주목받고 있다.

Credit: pixabay



오늘날 정상급 지성들이 스마트 기기들을 바라보는 시선에는 우려가 깃들어 있다.

BBC와의 인터뷰에서, 실험 물리학자 스티븐 호킹(Stephen Hawking)은 “온전한 인공 지능의 개발은 인류의 종말을 불러올 수 있다”라고 이야기했다. 기업가이자 탐험가인 엘론 머스크(Elon Musk)는 여기에서 한 발 더 나아가 “인공 지능의 개발을 통해 우리는 지상에 악마를 불러올 수도 있다”라고 경고하기도 했다.

이번 달 초 머스크는 비영리 인공지능(AI, Artificial Intelligence) 연구 기관인 오픈 AI(Open AI)의 설립을 발표하며 그 목적에 대해 “선진적 디지털 지능을 통해 인류 전체에 효익을 전달할 방안을 모색하는 것”이라 설명했다.

그리고 몇 주 전에는 IBM이 아파치 소프트웨어 재단(Apache Software Foundation) 오픈소스 라이선싱 방식으로 시스템ML(SystemML)이라는 이름의 자체 기계 학습(ML, Machine Learning) 기술을 공개했다.

시스템ML은 빅 데이터 내 패턴 인식을 목적으로 개발된 도구로, 스파크(Spark) 소프트웨어의 지원을 받아 피트니스 트래커나 전자의료기록(EMR) 시스템 등 복수의 소스로부터 수집되는 데이터를 분석한다.

두 프로젝트는 모두 AI를 보다 안전하게 이용하는 것을 목적으로 하고 있다. 이런 노력들 가운데서도 루이스 로젠버그(Louis Rosenberg)의 아이디어는 안전성의 측면에서 특히 돋보인다.

로젠버그는 ‘인간과 이해를 공유하지 않는 일종의 외계 지능’이 아닌, 알고리즘을 통해 인간 지성을 확장함으로써 ‘일반적인 인간 그룹을 고도의 전문 지성으로 변모시킬 수 있는 인공 지능’을 제안한다.

로젠버그는 이러한 접근법을 ‘집단 AI(swarm AI)’라 명명했다. 집단 AI는 의사 결정 과정에 있어 인간이 핵심적인 역할을 담당하며, 의사 결정 고리에서 인간이 빠지게 되면 AI 자체가 멈춰버리는 방식으로 동작한다.

로젠버그의 회사는 이 알고리즘에 기반해 유나니머스 AI(Unanimous AI)라는 상품을 개발했다. 개발사의 설명에 따르면 유나니머스 AI는 인간의 직관과 감정, 감각, 그리고 지식을 증진함으로써 한 명의 전문가가 도출하는 것보다 탁월한 결론을 도출할 수 있게 하며, 궁극적으로 집단의 결집을 가능케 한다.

이 방법론이 특히 많은 효익을 가져다 줄 것으로 기대되는 분야는 의학 및 의료 IT다. 이들 분야는 AI의 영향력에 가장 먼저 관심을 가지고 있는 영역들이기도 하다.

의료 업계는 이전부터 학습 기계를 통해 의료 기록 검토 및 정보 시스템 간 데이터 공유, 그리고 환자 진단 및 치료와 관련한 의사 결정 지원 과정을 개선할 방법을 모색해 왔다.

IBM은 의료진의 환자 진단 활동을 지원하는 과정을 지원하는 왓슨 헬스(Watson Health) 솔루션의 출범을 준비 중에 있으며, 샌프란시스코 기반의 한 스타트업 업체가 호주 및 아시아 시장에 출시한 엔리틱(Enlitic)이라는 솔루션은 심층 학습 알고리즘을 통해 의료 이미지 내 질병 패턴을 포착함으로써 화상 진료를 행하는 의료진들의 활동을 지원한다.

이 시스템들은 기계 학습에 의지하는 전통적인 AI에 기반을 두고 있다. 로젠버그는 이러한 전통적인 AI의 대안으로 집단 AI를 제안하며, 이것이 기존 AI의 모든 장점을 동일하게 취하면서 그것의 단점들은 해결했다고 설명했다. 그는 또 집단AI가 가까운 시일 내에 FDA 승인을 획득하는 유일한 인공 지능이 될 것이라 전망했다.

로젠버그는 “전통적인 AI 시스템에 열광하는 이들은 의사들의 (진단) 활동을 낮게 평가하는 경향이 있는 듯 하다. 의학 진단이란 결코 규정에 기반한 단순한 의사 결정이 아니다. 집단 AI를 통해 우리는 확장된 지성의 효익은 누리면서도 우리 인간의 본질적인 감각과 가치, 이해 역시 보존할 수 있을 것이다”라고 말했다.

그에 따르면 의학 진단 활동에 집단 AI를 적용한 초기 실험들은 희망적인 결과를 보여줬다. 유방 X선 사진 해석에 방사선의의 집단 지성을 적용해 위양성, 위음성율이 유의미한 수준으로 감소한 것이 한 사례다.

해당 연구를 주제로 퍼블릭 라이브러리 오브 사이언스(Public Library of Science)지에 상호 심사 논문을 기고한 필진은 “개별 방사선의가 마주하는, 의사 결정 정확성과 관련한 근본적인 한계점 가운데 하나를 극복하는데 이 집단 AI가 기여했다. 그들의 연구는 공동 혹은 집단 지성이 유방 X선 검사의 효과를 개선함을 입증했다. 또 이외의 의학적 의사 결정들을 개선할 잠재력 역시 가지고 있음을 시사한다”라고 결론지었다.

골격 이상 진단율을 높이기 위한 또 다른 방사선의들의 시도 역시 있었다. 제 9회 국제 집단 지성 컨퍼런스에서 연구진은 “환자의 정상/비정상 여부를 구분하는 실험에서, 알고리즘의 정확도는 방사선의들의 평균적인 정확도에 비해 월등히 높았다”라고 보고했다.

물론 실제 의료 환경에서 매 검진 때마다 방사선의들을 모아 함께 문제를 판단하기란 현실적으로 어려운 일이겠지만, 인간 집단 지성이 아닌 집단 AI라면 보다 다양한 경우에 보편적으로 적용이 가능할 것이라고 로젠버그는 설명한다.

일상적인 업무는 이전과 같은 방식으로 처리하되, 그 과정에서 마주하게 되는 복잡한 사례들에 대해서는 별도로 표시해 추후 집단 AI에 적용하는 것이 로젠버그가 제안하는 현실적인 방식이다. 이러한 방식은 진단 결과 개선에 뿐 아니라 참가자들의 지식 개발에도 기여할 수 있다.

로젠버그는 “이 ‘집단’이라는 개념을 투표와 혼동하는 이들도 많다. 투표가 구성원들 간의 차이를 드러내는 방식인데 반해, 집단 AI란 그룹이 하나의 결론을 도출하는데 도움을 주는 개념이다”라고 설명했다.

집단 AI의 홍보를 위해 로젠버그는 지난해 유나니머스 AI라는 기업을 설립했다. 유나니머스 AI의 기조는 “함께 생각하는” 조직을 구현한다는 것이다. 로젠버그는 개인 역량의 총합을 능가하는 집단의 힘을 보여주는 사례로 자연 속에서 발견되는 각종 무리, 떼, 군집, 집단을 이야기한다. 그리고 유나니머스 AI는 인류의 ‘지적 집단’ 형성을 도와주는 특별한 인프라스트럭처라고 설명했다.

로젠버그는 “집단의 힘이 개인보다 강하다는 것은 자연의 법칙이다. 인간뿐 아니라 자연의 다른 생물종들 역시 집단을 이뤄 최적의 의사 결정을 내리는 방식을 따라왔다. 우리의 역할은 사람들이 각자의 관점과 의견, 지식을 공유하도록 연결고리를 놓아주는 것뿐이다”라고 말했다.

한편 집단 AI는 참여자 중 누군가가 투표를 제안하면 자동으로 프로세스를 종료하는 방식으로 자신들의 알고리즘을 투표 방식과 구별 짓는다. 구성원들 사이의 투표 대신, 집단 AI는 멤버들이 지속적으로 밀고 당길 수 있는 일종의 사이버 ‘퍽(puck)’을 사용한다. 컴퓨터 스크린에서 실시간으로 움직이는 이 퍽을 통해 구성원들은 그룹이 서로 다른 가능성들에 얼마나 가까워졌는지, 혹은 멀어졌는지를 시각적으로 확인할 수 있다. 즉 의료 진단을 예로 들자면, 특정 소견의 정확도에 대한 집단의 믿음과 확신 정도에 따라 퍽의 위치가 이동하는 것이다.

로젠버그는 “집단 AI 인프라스트럭처는 집단의 모든 구성원들이 다른 모든 이들의 생각을 동시적으로 확인할 수 있도록 함으로써 결과적으로 집단의 판단을 가장 잘 반영하는 방향으로 결정이 수렴하도록 한다”라고 설명했다.

기계 지능의 위협은 제거하면서 분석 역량을 개선할 가능성 역시 가짐으로써 집단 AI는 기계 학습의 매력적인 대안으로 주목 받고 있다. 집단 AI는 현재 베타 테스트 단계로로, 빠르면 내년 안에 상용화될 것으로 전망이다.

* IDG 기고자 네트워크 회원인 Greg Freiherr은 스미소니언 우주과학 매거진 및 이미징 테크놀로지 뉴스 등의 전문 필진으로 활약하고 있다. ciokr@idg.co.kr
 



2015.12.24

기고 | 인공지능에의 안전한 접근법, '집단 AI'에 쏠리는 관심

Greg Freiherr | CIO
인간의 능력을 증폭시켜 집단을 ‘수퍼 전문가’로 기능하게 하는 새로운 종류의 인공지능이 부상하고 있다. 초기 의료 논문에 따르면 ‘집단 AI’라고 불리는 이 접근법은 개별 전문가보다 우수한 성과를 기록했다. 특히 인간을 배제한 스마트 머신이 가진이 잠재적 위험성에 대한 대안으로 주목받고 있다.

Credit: pixabay



오늘날 정상급 지성들이 스마트 기기들을 바라보는 시선에는 우려가 깃들어 있다.

BBC와의 인터뷰에서, 실험 물리학자 스티븐 호킹(Stephen Hawking)은 “온전한 인공 지능의 개발은 인류의 종말을 불러올 수 있다”라고 이야기했다. 기업가이자 탐험가인 엘론 머스크(Elon Musk)는 여기에서 한 발 더 나아가 “인공 지능의 개발을 통해 우리는 지상에 악마를 불러올 수도 있다”라고 경고하기도 했다.

이번 달 초 머스크는 비영리 인공지능(AI, Artificial Intelligence) 연구 기관인 오픈 AI(Open AI)의 설립을 발표하며 그 목적에 대해 “선진적 디지털 지능을 통해 인류 전체에 효익을 전달할 방안을 모색하는 것”이라 설명했다.

그리고 몇 주 전에는 IBM이 아파치 소프트웨어 재단(Apache Software Foundation) 오픈소스 라이선싱 방식으로 시스템ML(SystemML)이라는 이름의 자체 기계 학습(ML, Machine Learning) 기술을 공개했다.

시스템ML은 빅 데이터 내 패턴 인식을 목적으로 개발된 도구로, 스파크(Spark) 소프트웨어의 지원을 받아 피트니스 트래커나 전자의료기록(EMR) 시스템 등 복수의 소스로부터 수집되는 데이터를 분석한다.

두 프로젝트는 모두 AI를 보다 안전하게 이용하는 것을 목적으로 하고 있다. 이런 노력들 가운데서도 루이스 로젠버그(Louis Rosenberg)의 아이디어는 안전성의 측면에서 특히 돋보인다.

로젠버그는 ‘인간과 이해를 공유하지 않는 일종의 외계 지능’이 아닌, 알고리즘을 통해 인간 지성을 확장함으로써 ‘일반적인 인간 그룹을 고도의 전문 지성으로 변모시킬 수 있는 인공 지능’을 제안한다.

로젠버그는 이러한 접근법을 ‘집단 AI(swarm AI)’라 명명했다. 집단 AI는 의사 결정 과정에 있어 인간이 핵심적인 역할을 담당하며, 의사 결정 고리에서 인간이 빠지게 되면 AI 자체가 멈춰버리는 방식으로 동작한다.

로젠버그의 회사는 이 알고리즘에 기반해 유나니머스 AI(Unanimous AI)라는 상품을 개발했다. 개발사의 설명에 따르면 유나니머스 AI는 인간의 직관과 감정, 감각, 그리고 지식을 증진함으로써 한 명의 전문가가 도출하는 것보다 탁월한 결론을 도출할 수 있게 하며, 궁극적으로 집단의 결집을 가능케 한다.

이 방법론이 특히 많은 효익을 가져다 줄 것으로 기대되는 분야는 의학 및 의료 IT다. 이들 분야는 AI의 영향력에 가장 먼저 관심을 가지고 있는 영역들이기도 하다.

의료 업계는 이전부터 학습 기계를 통해 의료 기록 검토 및 정보 시스템 간 데이터 공유, 그리고 환자 진단 및 치료와 관련한 의사 결정 지원 과정을 개선할 방법을 모색해 왔다.

IBM은 의료진의 환자 진단 활동을 지원하는 과정을 지원하는 왓슨 헬스(Watson Health) 솔루션의 출범을 준비 중에 있으며, 샌프란시스코 기반의 한 스타트업 업체가 호주 및 아시아 시장에 출시한 엔리틱(Enlitic)이라는 솔루션은 심층 학습 알고리즘을 통해 의료 이미지 내 질병 패턴을 포착함으로써 화상 진료를 행하는 의료진들의 활동을 지원한다.

이 시스템들은 기계 학습에 의지하는 전통적인 AI에 기반을 두고 있다. 로젠버그는 이러한 전통적인 AI의 대안으로 집단 AI를 제안하며, 이것이 기존 AI의 모든 장점을 동일하게 취하면서 그것의 단점들은 해결했다고 설명했다. 그는 또 집단AI가 가까운 시일 내에 FDA 승인을 획득하는 유일한 인공 지능이 될 것이라 전망했다.

로젠버그는 “전통적인 AI 시스템에 열광하는 이들은 의사들의 (진단) 활동을 낮게 평가하는 경향이 있는 듯 하다. 의학 진단이란 결코 규정에 기반한 단순한 의사 결정이 아니다. 집단 AI를 통해 우리는 확장된 지성의 효익은 누리면서도 우리 인간의 본질적인 감각과 가치, 이해 역시 보존할 수 있을 것이다”라고 말했다.

그에 따르면 의학 진단 활동에 집단 AI를 적용한 초기 실험들은 희망적인 결과를 보여줬다. 유방 X선 사진 해석에 방사선의의 집단 지성을 적용해 위양성, 위음성율이 유의미한 수준으로 감소한 것이 한 사례다.

해당 연구를 주제로 퍼블릭 라이브러리 오브 사이언스(Public Library of Science)지에 상호 심사 논문을 기고한 필진은 “개별 방사선의가 마주하는, 의사 결정 정확성과 관련한 근본적인 한계점 가운데 하나를 극복하는데 이 집단 AI가 기여했다. 그들의 연구는 공동 혹은 집단 지성이 유방 X선 검사의 효과를 개선함을 입증했다. 또 이외의 의학적 의사 결정들을 개선할 잠재력 역시 가지고 있음을 시사한다”라고 결론지었다.

골격 이상 진단율을 높이기 위한 또 다른 방사선의들의 시도 역시 있었다. 제 9회 국제 집단 지성 컨퍼런스에서 연구진은 “환자의 정상/비정상 여부를 구분하는 실험에서, 알고리즘의 정확도는 방사선의들의 평균적인 정확도에 비해 월등히 높았다”라고 보고했다.

물론 실제 의료 환경에서 매 검진 때마다 방사선의들을 모아 함께 문제를 판단하기란 현실적으로 어려운 일이겠지만, 인간 집단 지성이 아닌 집단 AI라면 보다 다양한 경우에 보편적으로 적용이 가능할 것이라고 로젠버그는 설명한다.

일상적인 업무는 이전과 같은 방식으로 처리하되, 그 과정에서 마주하게 되는 복잡한 사례들에 대해서는 별도로 표시해 추후 집단 AI에 적용하는 것이 로젠버그가 제안하는 현실적인 방식이다. 이러한 방식은 진단 결과 개선에 뿐 아니라 참가자들의 지식 개발에도 기여할 수 있다.

로젠버그는 “이 ‘집단’이라는 개념을 투표와 혼동하는 이들도 많다. 투표가 구성원들 간의 차이를 드러내는 방식인데 반해, 집단 AI란 그룹이 하나의 결론을 도출하는데 도움을 주는 개념이다”라고 설명했다.

집단 AI의 홍보를 위해 로젠버그는 지난해 유나니머스 AI라는 기업을 설립했다. 유나니머스 AI의 기조는 “함께 생각하는” 조직을 구현한다는 것이다. 로젠버그는 개인 역량의 총합을 능가하는 집단의 힘을 보여주는 사례로 자연 속에서 발견되는 각종 무리, 떼, 군집, 집단을 이야기한다. 그리고 유나니머스 AI는 인류의 ‘지적 집단’ 형성을 도와주는 특별한 인프라스트럭처라고 설명했다.

로젠버그는 “집단의 힘이 개인보다 강하다는 것은 자연의 법칙이다. 인간뿐 아니라 자연의 다른 생물종들 역시 집단을 이뤄 최적의 의사 결정을 내리는 방식을 따라왔다. 우리의 역할은 사람들이 각자의 관점과 의견, 지식을 공유하도록 연결고리를 놓아주는 것뿐이다”라고 말했다.

한편 집단 AI는 참여자 중 누군가가 투표를 제안하면 자동으로 프로세스를 종료하는 방식으로 자신들의 알고리즘을 투표 방식과 구별 짓는다. 구성원들 사이의 투표 대신, 집단 AI는 멤버들이 지속적으로 밀고 당길 수 있는 일종의 사이버 ‘퍽(puck)’을 사용한다. 컴퓨터 스크린에서 실시간으로 움직이는 이 퍽을 통해 구성원들은 그룹이 서로 다른 가능성들에 얼마나 가까워졌는지, 혹은 멀어졌는지를 시각적으로 확인할 수 있다. 즉 의료 진단을 예로 들자면, 특정 소견의 정확도에 대한 집단의 믿음과 확신 정도에 따라 퍽의 위치가 이동하는 것이다.

로젠버그는 “집단 AI 인프라스트럭처는 집단의 모든 구성원들이 다른 모든 이들의 생각을 동시적으로 확인할 수 있도록 함으로써 결과적으로 집단의 판단을 가장 잘 반영하는 방향으로 결정이 수렴하도록 한다”라고 설명했다.

기계 지능의 위협은 제거하면서 분석 역량을 개선할 가능성 역시 가짐으로써 집단 AI는 기계 학습의 매력적인 대안으로 주목 받고 있다. 집단 AI는 현재 베타 테스트 단계로로, 빠르면 내년 안에 상용화될 것으로 전망이다.

* IDG 기고자 네트워크 회원인 Greg Freiherr은 스미소니언 우주과학 매거진 및 이미징 테크놀로지 뉴스 등의 전문 필진으로 활약하고 있다. ciokr@idg.co.kr
 

X