칼럼 | MS 리콜 논란으로 재조명된 IT 부서의 핵심 역할

마이크로소프트(MS)의 AI 기능 '리콜'은 혁신적 기술의 잠재력과 동시에 그 위험성을 여실히 보여주는 사례다. 이를 통해 AI 시대 IT 부서가 무엇을 고민해야 하는지 살펴보자.
 

AI는 새로운 ‘디지털’이 되어가고 있다. 공급업체들은 제품의 실제 기능과 무관하게 일단 소개 문구에 AI를 붙이고 있다. 몇 년 전 ‘디지털’이라는 용어를 남발했던 상황과 유사한 셈이다. AI에 대한 명확한 정의의 부재는 이러한 AI 용어의 남용을 더욱 부추기고 있다.

얼마 전 MS가 출시한 AI 기능 ‘리콜’을 살펴보자. 이 기능은 컴퓨터 화면의 스냅샷을 주기적으로 저장하고 색인을 생성하여 사용자가 원할 때 검토할 수 있게 한다. MS는 개인정보 유출 우려에 대해 모든 데이터가 로컬의 암호화된 파일에 저장되므로 안전하다고 주장하며 “해커가 저장된 스크린샷에 접근하려면 기기에 물리적으로 접근하여 잠금을 해제하고 로그인까지 시도하는 작업을 거쳐야 한다”라고 설명했다.

그러나 이러한 주장에는 의문의 여지가 있다. 멀웨어를 통해 피해자의 PC를 원격으로 제어할 가능성이 존재하기 때문이다. 물리적 접근만이 유일한 취약점이라고 생각하는 것은 안이한 발상이다.

무엇이 잘못일까?
MS는 적어도 12년 동안 가상 데스크톱 기술(VDI)을 판매한 회사다. 그럼에도 VDI에서 리콜 기능을 사용하는 상황을 배제했다. 물론 엄밀히 말하면 VDI 외에도 이미 보안 취약점이 사용자의 실수로 설치된 멀웨어를 통해 발생되고 있다. 외부 공격자가 리콜 기능을 통해 중요 데이터를 탈취할 가능성은 충분히 있다.

사용자 입장에서 리콜 기능을 안심하고 쓰려면 MS의 개발자, 나아가 MS 기업 차원에서 시스템에 숨겨진 백도어를 만들지 않을 것이라는 믿음이 있어야 한다. 하지만 MS가 라이선스 조건을 일방적으로 변경할 수 있는 권한을 보유하고 있다는 점을 고려하면, MS에 대한 완전한 신뢰를 갖기는 어려울 수밖에 없다.

필자는 ‘더 코그너티브 엔터프라이즈’라는 책을 공동 저술한 스콧 리와 함께 ‘지식 피라미드’라는 개념을 외부에 강조한 바 있다. 지식 피라미드는 데이터를 정보, 지식, 판단, 그리고 지혜로 변환하는 과정을 설명하는 개념적 모델이다. 데이터를 가장 아래에 두고, 그 위에 정보를, 그 다음에 지식을, 판단을, 그리고 가장 높은 곳에 지혜를 두고 있다. 리콜은 데이터를 기억하는 능력을 높인다. 즉 가장 가치가 낮은 층이다.

리콜 기능은 토르(Tor) 브라우저 사용자의 프라이버시를 침해할 수 있는 부작용도 있다. 토르의 보안 기능을 우회하여 모든 스크린샷을 캡처할 수 있기 때문이다. 이런 부분은 MS가 적극적으로 공략하는 시장은 아니지만 엣지 브라우저의 인프라이빗(InPrivate) 모드에서도 문제가 될 수 있다.

또한, 기업 환경에서는 리콜 데이터와 관련된 소유권 문제가 발생할 수 있다. 대부분의 기업은 직원 기기에 저장된 모든 정보를 회사 자산으로 간주하므로, 기업 담당자가 내부 직원의 리콜 데이터를 열람하려 할 경우 윤리적 문제가 제기될 수 있다.

이 모든 상황의 배경에는 MS 직원은 AI의 잠재력을 강조하며, 낙관주의에 빠져 열정적으로 AI 기술 구현에 투자하고 있는 것으로 보인다. 사실 이는 MS와 그 기술을 지지하는 기업들이 AI로 해야 할 일이기도 하다.

IT의 역할은 가용한 정보 기술을 활용해 비즈니스 문제를 해결하고 기회를 모색하는 것이다. IT 공급업체는 이미 개발된 것을 넘어 새로운 가능성을 탐구하고, ‘가능하다’를 ‘작동한다’로 바꾸어 그 잠재력을 실현해야 한다.

다만 지식 피라미드에서 가장 중요한 두 단계인 판단력과 지혜가 결여되어 있다. 리콜 프로젝트에 관여한 모든 이들이 ‘할 수 있다’와 ‘좋은 생각이다’의 차이를 인식했어야 했다.

대응 방법
이러한 비판에도 불구하고 리콜이 모든 상황에서 가치가 없는 것은 아니다. 예를 들어, 필자는 아마추어 자연 사진작가로서 최근 촬영 사진 중에 동물 사진만 쉽게 찾을 수 있다면 리콜을 매우 유용하게 이용할 것 같다. 취미 사진작가로서 이 기능을 위해 리콜의 위험을 감수할 수 있다.

또한, 코카콜라의 광고 대행사인 WPP(WPP)의 관리자가 인터넷상에서 코카콜라 병이 등장한 모든 장면을 찾고 싶어 한다면 어떨까. 이런 경우 리콜이 큰 도움이 될 것이다.

다만 리콜의 장점이 잠재적 위험을 상쇄할 만큼 충분한지는 신중히 고려해야 할 문제다. 이는 과거 윈도우 PC를 표준으로 사용하는 기업에서 마케팅 부서가 광고 제작을 위해 매킨토시를 사용했던 상황과 유사하다. 당시 CIO들은 마케팅 팀을 설득하여 윈도우 표준 환경으로 통일하는 데 많은 시간과 노력이 소요될 것을 우려했다.

어떤 면에서 이제부터라도 리콜 기능을 팀에 도입하고 싶어 할 관리자를 거절할 준비를 시작하는 것이 좋다. 리콜을 원하는 팀이 곧 존재할 것임은 분명하기 미리 대비하자는 것이다. CIO는 회사에 이로운 계획을 승인받는 것만큼이나, 부적절한 제안을 거절하는 소위 ‘네거티브 세일’에도 능숙해야 한다. 특정 행동을 하지 말도록 설득하는 능력 역시 CIO의 중요한 역량이다.

혹시 주변에 말끝 때마다 ‘맞아요. 하지만…’이라고 말하는 사람이 있는가? 리콜 같은 AI 기능을 도입할 때 그런 사람의 태도를 일부 받아들이면 좋다. IT 부서는 종종 모든 잠재적 위험성을 근거로 새로운 기회를 거부하는 ‘제로 리스크’를 지나치게 추구한다. 이는 바람직하지 않은 방식이다.

모든 위험을 100% 피하려는 태도는 피해보자. 리콜과 같이 명확하지 않은 위험이 있으면서도 잠재적 가치가 있는 기술을 마주했을 때, 분석가와 경영진에게 도전 과제를 제시해 보자. ‘위험을 예방하거나 최소화하면서도 새로운 기능의 이점을 최대한 활용할 방법을 모색하라’라고 요청하자. 소규모 시범 프로젝트에서라도 시도해 볼만한 가치가 있다.
ciokr@idg.co.kr