Offcanvas

AI / 디지털 트랜스포메이션 / 머신러닝|딥러닝 / 비즈니스|경제

법조계가 직면한 생성형 AI 과제… 법률 서비스 기업 렉시스넥시스 사례

2023.12.04 Paula Rooney  |  CIO
법률 정보 서비스 기업 렉시스넥시스(LexisNexis)는 생성형 AI가 불러온 가공할 혁신에 직면해 있다. 그렇기 때문에 CTO 제프 라일은 경쟁에서 앞서 나가기 위해 빠르게 기술을 수용하며 개선하고 있다.
 
Jeff Reihl CTO ⓒ LexisNexis

생성형 AI의 파괴적 위협을 막기 위해 청사진을 찾는 IT 리더라면 렉시스넥시스의 EVP 겸 CTO 제프 라일이 제공하는 팁을 참고할 만하다. 잠재적으로 시장에 혼란을 불러올 기술에 앞서 나가기 위해 기술을 빠르게 도입하는 방법이다.

렉시스넥시스의 법률 및 비즈니스 데이터, 분석 서비스 포트폴리오는 1970년대 초 설립된 이래 구글 검색, 오픈소스 소프트웨어 등 여러 경쟁 위협에 직면해 왔다. 지금 렉시스넥시스의 가장 강력한 적은 무엇보다 생성형 AI다.

라일은 40년 가까이 IT 리더로 일하면서 경험한 어떤 기술보다 생성형 AI가 훨씬 빠르게 진화하고 있다고 인정했다. 새로운 현실에 대응하기 위해 그는 지난 3월 오픈AI의 GPT-4가 출시된 후 회사 최고 경영진과 함께 전략을 논의했다. 회의의 결론은? 새로운 혁신에 정면으로 대응하기 위해 회사의 모든 연간 목표를 다시 작성하고 우선순위를 재조정하기로 했다.

라일은 “모두가 이 일에 매달렸다. 대화형 기능, 답변의 포괄성, 데이터 생성 기능 등 모든 면에서 획기적인 솔루션이었다. 따라서 우리는 대대적인 피벗을 단행했다. 생성형 AI는 역량 자체로 큰 충격을 줬다”라고 말했다. 

렉시스넥시스의 핵심 비즈니스는 법률, 보험, 금융 회사를 비롯해 정부 및 법 집행 기관에 정보와 분석을 수집하고 제공하는 데 있다. 이를 고려할 때 생성형 AI의 위협은 현실적인 영향을 미칠 수 있다. 하지만 라일은 오늘날 범용 대규모 언어 모델(LLM)의 불완전성과 더불어, 자체 데이터 및 고유 도구가 있기에 렉시스넥시스가 생성형 AI의 발전에 대응할 수 있다고 확신했다. 렉시스넥시스는 서비스에 사용하는 LLM을 강화하고 사용자 맞춤화하기 위해 연마했다. 여기에는 앤트로픽(Anthropic)의 클로드AI(Claude AI)와 마이크로소프트 애저(Azure)의 GPT-4도 포함된다.

렉시스넥시스의 기술자 2,000여 명과 데이터 과학자 200여 명은 생성형 AI를 활용하고 회사의 글로벌 고객 기반에 더 많은 가치를 더하는 고유 기능을 통합하기 위해 매진했다. 하지만 이러한 시도가 완전히 새로운 것은 아니었다. 렉시스넥시스는 2018년에 구글이 자연어 처리(NLP) 모델 제품군인 버트(BERT)를 발표한 직후 이를 지원했으며, 챗GPT 역시 공개 당시부터 함께해 왔다. 라일은 렉시스넥시스가 이제 주요 LLM 대부분을 지원하게 됐다고 밝혔다.

라일은 “최종 사용자이고 대화형 검색의 일부인 경우, 쿼리 중 일부는 단일 트랜잭션으로 애저의 챗GPT-4와 AWS의 앤트로픽 모두로 전송된다. 쿼리를 입력하면 질문의 유형에 따라 2곳 모두에 전달되며, 최적의 LLM을 선택할 수 있다. 렉시스넥시스는 AWS와 애저를 사용한다. 고객이 묻는 질문에 답할 수 있는 최적 모델을 선택한다”라고 설명했다.

지난달 렉시스넥시스는 자체 생성형 AI 솔루션인 렉시스+AI(Lexis+ AI)를 출시했다. 이 솔루션은 AI의 환각(hallucination)을 최소화하고 변호사들이 정확한 최신 법률 판례에 액세스할 수 있도록 링크된 법률 인용을 제공한다. 현재 수많은 LLM에서 발견되는 약점을 보완할 것으로 기대되고 있다.

혁신을 위한 기반 마련
라일은 2015년 클라우드 마이그레이션을 시작하지 않았다면 이것이 불가능했을 것이라고 말했다. 렉시스넥시스는 AWS를 주로 사용하지만, 오피스(Office) 등 마이크로소프트 플랫폼을 사용하는 고객을 위해 애저도 제공한다.

하지만 클라우드에 도달하기까지는 가파른 오르막길이 있었다.

라일이 2007년 렉시스넥시스에 입사했을 때, 핵심 플랫폼을 포함한 회사 인프라의 약 절반이 메인프레임에 기반하고 있었다. 렉시스넥시스는 미국에 2개의 초대형 데이터센터를 운영하고 있었고, 여러 기업을 인수한 여파로 형식이 매우 다양한 기술과 데이터를 보유하고 있었다. 

라일에 따르면, 당시 렉시스넥시스의 IT 리더들은 모든 인프라를 XML 기반 개방형 시스템으로 교체하기 위해 이사회에 수억 달러를 지원해 달라고 요청했다. 결과적으로 데이터 대부분을 메인프레임에서 개방형 시스템으로 리프트 앤 시프트(lift-and-shift) 방식으로 마이그레이션했으며, 동시에 자체 검색 기능과 인덱싱 및 자동화를 도입했다. 하지만 애플리케이션이 클라우드에 최적화돼 있지 않아 마이크로서비스를 위한 재설계가 필요했다.

렉시스넥시스는 2020년 대규모 비용 절감을 위해 마지막 메인프레임을 폐쇄하고 클라우드 플랫폼에 모든 역량을 집중했다.

일부 워크로드는 여전히 데이터센터에서 실행되지만, 렉시스넥시스가 활용하는 데이터의 대부분은 법원 서류, 로펌, 뉴스 소스, 웹사이트 등 50,000개 이상의 소스에서 회사의 자체 콘텐츠 제작 시스템으로 유입되고 있다. 라일에 의하면 이 서비스의 편집진이 자체 콘텐츠를 개선하고 풍부하게 만들며, 자동화를 통해 클라우드 워크플로우에 가치를 더하고 있다. 

렉시스넥시스는 클라우드 전환 이후 상당한 비용 절감, 확장성, 민첩성, 혁신 속도 등의 이점을 얻었다. 그중에서도 자체 생성형 AI 애플리케이션에 머신러닝과 LLM을 신속하게 도입할 수 있다는 점에 주목할 만하다.

라일은 “AI에 대한 초기 작업의 일부가 클라우드에서 시작됐다. NLP와 기본적인 머신러닝을 통해 이 작업을 수행했으며, 시간이 지남에 따라 딥 러닝으로 발전했다”라고 언급했다.

이러한 변화에 있어 언급할 수 있는 또 다른 주요 측면은 직원의 역량을 강화하고 새로운 인재를 확보하려는 회사의 노력이다. 렉시스넥시스의 팀 구성은 UX 디자이너, 제품 관리자, 소프트웨어 엔지니어에서 주제별 전문가, 법률 및 법률 언어를 이해하는 IP 변호사, 200명에 가까운 데이터 과학자 및 머신러닝 엔지니어로 바뀌었다.

라일은 렉시스넥시스가 디지털 트랜스포메이션에 총 14억 달러를 투자했다고 밝히며, 이를 투자할 만한 가치가 있었다고 말했다.

렉시스넥시스는 앞서 언급한 대로 지난 10월 생성형 AI 기능이 강화된 멀티모델 LLM 솔루션인 렉시스+AI를 미국 시장에 출시했다. 법률 업계를 위해 세밀하게 조정된 렉시스+AI 플랫폼은 시중에 있는 몇 안 되는 AI SaaS 플랫폼 중 하나다. 검색 증강 생성 엔진을 탑재해 환각을 제거하고, 정교한 대화형 검색 기능을 제공하며, 법률 문서 초안 작성, 사례 요약, 문서 업로드 등의 기능이 있다. 이를 통해 사용자가 법률 문서에서 핵심 인사이트를 몇 분 안에 분석, 요약, 추출할 수 있다고 렉시스넥시스는 설명했다.

라일은 이 플랫폼이 베타 버전에 참여한 고객과 공동 개발한 결과물이라며, 프롬프트와 검색을 개선하고 변호사에게 중요한 프라이버시 보호와 특정 검색을 사내에 보관하도록 보안을 구현하는 데 도움을 받았다고 전했다.

향후 렉시스넥시스의 주요 과제는 다른 조직이 직면한 문제와 마찬가지로 충분한 인재를 찾는 것이다. 라일은 “인력이 부족하기 때문에 데이터에 대한 통찰력을 갖춘 인재를 양성하고 있다”라며, 현재 200명의 데이터 과학자가 근무하고 있으며 내년에 해외 시장으로 제품을 확장할 준비를 하고 있다고 밝혔다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.