'첫 챗봇 구축·도입은 이렇게'··· 6가지 팁

비즈니스 가치에 부합하도록 빌드 프로세스를 최적화
소더스트롬은 ‘기회’가 포착되면, 늦추지 말고 그 즉시 이를 추구해야 한다고 강조한다. 그는 “흔히 다음처럼 생각한다. ‘완벽한 봇을 만들어야 한다. 앞으로 액세스 할 모든 데이터에 대해 생각해야 한다. 그리고 다양한 요구 사항에 대한 자료를 만든 다음 봇을 빌드하기 시작하고, 일년 정도 후에 봇을 배포하면 모든 사람들이 크게 만족할 것이다.’ 그러나 이런 생각은 잘못됐다. 그런 식으로 되지 않는다”라고 말했다.

그는 빨리 빌드하고 빨리 실패하는 방식이 좋다고 말했다. 이에 나사는 모든 챗봇 프로젝트를 규모가 작은 ‘스타트업’ 프로젝트로 추진한다. 소더스트롬은 “가능한 빨리 추진을 해 봇을 빌드하는 방식이다”라고 설명했다.

물론 나사의 봇은 사용자나 개발자 등 내부 인력이 내부 비즈니스 문제를 해결하기 위해 사용되는 것들이다. 버라이즌의 쿠마는 소비자나 고객이 사용하는 봇은 이보다 더 시간을 투자하는 것이 좋다고 말했다.

버라이즌은 ‘믹스 앤 매치(Mix and Match)’라는 데이터 요금제에 대해 안내를 하는 동일한 이름의 봇 개발에 수 개월의 시간을 투자했다. 버라이즌이 데이터 요금제를 개발하는 동안 개발자들이 챗봇을 훈련시켰다. 마케팅 부문도 관여했다. 쿠마는 “통상 제품을 개발하면서 동시에 웹사이트를 빌드한다. 같은 원리로 요금제, 챗봇 개발, 마케팅을 동시에 진행했다”라고 설명했다.

버라이즌 프로젝트에 더 많은 기간이 소요된 또 다른 이유는 아무 것도 없는 상태에서 봇을 빌드했기 때문이다. 그는 “먼저 핵심 AI 개발자들이 참여했다. 그리고 실제 대화에 대해 디자인을 한 엔지니어, 대화 디자이너가 참여했다. 이후 사람들이 새로운 표현에 대해 입력을 한 후에는 봇을 재훈련 시키는 팀원들이 참여했다”라고 설명했다.

소더스트롬의 팀은 규모가 훨씬 더 작다. 그는 “해당 분야 전문가는 소수에 불과하다. 여기에 더해, 참여한 엔지니어들은 모두 해야 할 다른 일이 있다. 따라서 나사는 챗봇 디자인은 독자적으로 처리하지만, 자연어 인식 부분은 아마존 렉스(Amazon Lex)를 사용한다”라고 전했다.

보안을 고려
소더스트롬이 내부적으로 시간을 투자하기 고집한 한 분야가 있다. 다름 아닌 보안이다. 시드 볼트의 셔드로프는 “이런 시스템을 신뢰할 수 있어야 일을 추진할 수 있다”라고 강조했다. 이런 이유로 개념이 확정되었지만 개발이 시작되기 전, 셔드로프가 나사 사이버보안에 관여한다. 그는 “반드시 사이버보안이 포함되어야 한다. 보안 문제가 봇 운영을 정지시킬 수 있기 때문이다”라고 설명했다.

사실 나사는 정부 기관이기 때문에 다른 선택지가 없다. 소더스트롬은 “민간 산업과 다르게, 특정 규칙과 규정을 준수하고 있음을 증명해야 한다. 따라서 이런 것들을 실험 및 시험할 때 규칙과 규정을 염두에 둔다”라고 설명했다.

그는 이어 “챗봇이 충분히 안전하지 못하거나, 규정에 부합하지 않는다면 나사는 이를 사용할 수 없다”라고 덧붙였다. 금융 기관인 캐피털 원 또한 봇 출시 전에 규제 당국에 봇을 보여줘야 했다.

소더스트롬은 “규제가 덜한 산업인 경우에도, 사용자 정보가 유출되고 이로 인해 폐업의 위기를 맞을 수 있기 때문에 봇을 안전하게 만들어야 한다”라고 강조했다. 인증, 데이터를 저장할 장소, 사용자가 불필요한 개인 식별 정보(PII)를 입력하지 않도록 교육할 필요가 있는지 여부 등을 생각해야 한다는 주문이다. 또 더 안전하게 만들기 위해 봇의 기능을 제한할지 여부도 고려해야 한다. 예를 들어, 캐피털 원의 봇은 잔고를 확인할 수 있지만 송금을 할 수 없도록 되어있다.

지속적으로 조정 및 트레이닝(훈련)을 한다
보안 문제를 해결하고 비즈니스 부문 사용자에 대한 정책을 확정한 후에도 극복해야 할 문제점이 남아 있다. 개발자들이 잘 알고 있는 챗봇 관련 문제이다. 봇의 데이터 처리와 마케팅 방식에 있어, 편향을 없애는 문제, 지속적으로 훈련을 하는 문제가 여기에 해당된다.

예를 들어, 캐피털 원의 봇은 ‘비서’에 대한 성적인(성별) 전형이 없도록 중립적으로 만들어져 있다. 지역적인 편향도 존재할 수 있다. 음성 앱을 사용한 경험이 있는 남부 사람이면 잘 알고 있을 것이다. 국가가 같아도 지역에 따라 사용하는 표현이 다를 수 있다. 사회적 계층, 교육 수준과 배경, 남성과 여성 사이에도 이런 차이가 존재한다.

버라이즌의 쿠마와 그의 팀은 이런 문제를 다루고 있다. 이를 위해, 개발자들이 새로운 용어와 표현을 지속적으로 추가하고 있다. 그는 “지속적으로 봇을 훈련시킨다. 챗봇 개발은 ‘지속적인 프로세스’이다. 끝이 없는 프로세스다”라고 강조했다.