글쓰기를 절대 AI에 맡기면 안 되는 이유

머신의 글쓰기 실력이 일취월장하고 있다. 쓰다 만 문장을 완성하고 이메일에 답장을 대신 써주기도 한다. 새 보고서는 물론 심지어 소설도 써낸다. 그러나 머신이 글을 쓸 능력이 있다고 해서 쓰게 내버려 두어서는 안 된다.
 

앞으로 10년간 기업에 큰 변화를 일으킬 기술 혁명이 인공지능(AI)에서 시작되고 있다. AI를 활용할 때 가장 강력한 힘을 발휘할 분야는 의사결정 지원이다. 업무를 하는 동안 알고리즘을 통해 계속해서 지식과 조언을 받는 것이다. 가트너는 2021년에 'AI 증강'만으로 2조 9,000억 달러에 이르는 비즈니스 가치가 창출될 것으로 전망한다.

이런 비즈니스 가치에는 기업 보안도 포함된다. 사이버 범죄자가 더 강력한 악성코드를 개발하기 위해 AI를 사용할 것이 뻔하므로 기업 보안에도 AI가 필요하다. 이밖에 AI는 제조, 설계, 운송을 비롯한 수많은 분야에서 우리에게 도움이 될 것이다. 분명 AI는 기업에 엄청난 도움이 될 것이다. 그러나 우리가 이렇게 AI와의 협업할수록 인간의 지능을 보호하는 것도 점점 중요해진다. 특히 인간의 지능을 가장 크게 위협하는 요소는 바로 글을 쓰는 소프트웨어다.

서서히 AI로 넘어가는 업무 글쓰기
AI 업무 글쓰기가 주류로 자리 잡기 시작한 것은 4년 전 구글 스마트 답장 기능이 등장한 시점이다. 대부분의 이메일에 답장할 수 있는 몇 가지 관용구 옵션이 구글 인박스 사용자에게 제공됐다. 이 기능은 아직도 지메일에 존재한다. 클릭 한 번이면 “고마워!”, “보내 줄게”, “금요일로 하자!” 같은 답장을 할 수 있다.

작년에는 스마트 작성 기능이 추가됐다. 문장을 시작하면 나머지 부분이 알아서 작성된다. 구글이 제시해 주는 말 중에서 탭 키를 눌러 선택하면 된다. 이 기능을 사용하면 시간을 아낄 수 있다. 그러나 답장이 재미없어진다. 포괄적이고 누구도 짜증 나거나 기분 나쁘게 만들지 않도록 구글에서 신경 쓰고 있기 때문이다. 예를 들면 “그” 또는 “그녀”와 같이 성별이 구분되는 대명사를 절대 사용하지 않는다. 또한, 수백만 명의 다른 지메일 사용자가 똑같은 문구를 사용하는 것도 재미없는 또 다른 이유다. 그만큼 천편일률적이다.

구글만 이러는 것이 아니다. 라이트키(Lightkey)는 구글의 스마트 작성 기능과 유사한 윈도우 애플리케이션을 만들었다. 클라우드 기반 툴인 '퀼봇(Quillbot)'도 있다. 사용자가 작성한 내용(또는 다른 사람의 글을 복사해 붙여넣은 내용)을 바꿔서 써준다. 이렇게 만들어진 문장은 대개 어색하다. 머신은 언어적 감각이 없기 때문이다. 스토리AI(StoryAI)는 오픈 AI 기반의 도구다. 사용자가 이야기의 시작 부분을 쓰면 나머지 부분을 써 준다. 필자는 시험 삼아 이 칼럼의 시작 문단을 붙여넣어 보았다. 스토리AI가 쓴 칼럼을 읽고 누가 더 잘 썼는지는 여기서 읽고 직접 판단할 수 있다.

주로 사람이 읽을 금융 기사를 작성하는 AI가 있는가 하면 그 기사를 읽고 자동 거래 시스템에 정보를 제공하는 AI도 있다. 우습기도 하고 슬프기도 한 상황이다. AI가 글을 쓰기도 하고 읽기도 하는 것이다. 이러다가는 언젠가 AI가 인간을 거래 시장에서 몰아내고 돈을 다 차지하는 날이 올지도 모른다. 자동 글쓰기 기능은 시간이 지날수록 향상될 뿐 아니라 우리가 글쓰기에 이용하는 툴에 내장되는 경우도 늘어날 것이다. 글쓰기를 그냥 기계에 맡기려는 유혹은 늘어나기만 할 것이다. 이것이 왜 문제일까?
 
글쓰기를 AI에게 맡기는 것의 문제점
글쓰기를 AI에게 맡기는 가장 큰 문제는 글쓰기가 단순히 글쓰기가 아니라는 것이다. 글쓰기는 읽기, 쓰기, 사고를 아우르는 문해력의 한 요소다. 글쓰기에는 고치는 과정이 필요하다. 그러다 보면 사고가 명확해진다. 우리는 생각을 한다. 생각한 것을 글로 쓴다. 우리가 글로 쓴 것을 읽다 보면 사고의 오류를 깨닫거나, 최소한 사고 표현 방식의 오류를 알게 된다. 우리의 생각이 명확하고 정확하게, 충분히 표현될 때까지 글을 고친다. 이러한 행위는 분석하고 창조하며 올바른 의사 결정을 내리고 인생과 업무에 발전을 이뤄나가는 인간 능력의 핵심이다.

문해력과 사고는 상호 연결돼 있다. 이것이 바로 조지 오웰의 소설 '1984'에 제시된 신어(Newspeak) 개념의 핵심이다. '1984'에 등장하는 전체주의 정부는 복잡한 사고가 불가능하도록 언어에 제한을 가했다. 대중을 굴복시키고 무기력하게 만들기 위해 '사고의 폭을 줄이기' 위해서다. 업무 이메일이라고 해도 글을 쓰다 보면 우리 자신의 생각을 정면을 대면하게 되고, 이를 통해 명확하게 사고하는 능력이 함양된다.

글쓰기는 논리와 일관성을 갖고 말할 수 있는 바탕이 되기도 한다. 실제로 주변을 보면 글을 잘 쓰는 사람이 대체로 말도 잘한다는 것을 알 수 있다. 글쓰기는 기억력에도 도움이 된다. 따라서 의사소통을 AI에게 맡기면, 메뉴에서 옵션을 선택하는 것은 우리라고 해도 “우리”가 한 말을 잊어버리기 쉬워진다.

더 중요한 것은 글쓰기 능력은 사용하지 않으면 잃어버린다는 점이다. 글쓰기를 AI 시스템에 맡기면 스스로 글을 쓰는 능력이 서서히 후퇴할 수 있다. 글쓰기 툴에 글쓰기를 맡긴 결과 우리는 문해력이 퇴화하고 비판적 또는 분석적 사고가 아닌 피상적인 느낌을 기준으로 의사 결정을 하기 시작한다.

비판적인 능력은 이모티콘 사용 같은 습관에 의해 이미 포박된 상태다. 말 대신 만화 그림을 사용하면 구체적인 생각 대신 애매 모호한 느낌이 전달된다. 그러니 애초에 구체적인 생각을 할 필요가 없다. 문자 메시지 언어, SMS 줄임말, 자동 고침, 이모티콘 등을 사용하면서 세상은 점점 더 '바보의 나라'가 되고 있다. 이러한 현상을 직장에서 더 심화하는 것이 바로 업무 메일을 대신 써 주는 AI이다.

사람마다 읽고 쓰는 능력은 매우 큰 차이가 있다. 한쪽 끝은 사고와 의사소통을 향상하는 언어와 문해력을 갖춘 완전한 인간인 반면, 다른 한쪽 끝은 인간이라고 하기 어렵다. AI가 제공하는 말을 꼭두각시처럼 아무 생각 없이 반복하는 '에코보그(echoborg)'에 불과하다. 따라서 우리는 나쁜 쪽 끝이 아닌 좋은 쪽 끝으로 갈 수 있도록 노력해야 한다.
  요즘에는 AI에 대한 공포감이 조장되는 일이 흔하다. 인간은 AI에게 일자리를 빼앗길 것이고 결국 AI의 애완동물로 전락할 것이라는 말까지 나온다. AI 기술에 대한 이러한 공포는 머신이 시간이 지날수록 더 똑똑해질 것이라는 사실에 근거한다. 그러나 정작 더 걱정해야 할 것은 AI로 인해 우리가 더 바보가 될 수 있다는 점이다. AI로 인해 바보가 되는 가장 효율적인 방법은 글쓰기 작업을 AI에게 전적으로 맡기는 것이다. 그러면 우리의 비판적 기능과 창의적 기능이 퇴화하고 만다. 우리는 모두 지극히 재미없는 존재로 전락하고 AI의 애완동물이 되기에도 부족한 존재가 될지 모른다.

AI로 인해 우리가 모두 쓸모없는 존재로 전락할 것이 걱정된다면 오늘부터라도 매일 할 수 있는 일이 있다. AI가 '떠먹여 주는' 말을 받아들이지 마라. 어떤 형태이든 자동 글쓰기는 거부하라. 직접 글을 쓰라. 그리고 스스로 사고하라. 머신이 날이 갈수록 똑똑해지는 것이 위험한 것이 아니다. 인간이 날이 갈수록 바보가 되는 것이 훨씬 더 위험하다. ciokr@idg.co.kr