Offcanvas

AI / 디지털 트랜스포메이션 / 머신러닝|딥러닝 / 빅데이터 | 애널리틱스 / 클라우드

불확실성 시대 생존 해법은 '데이터 최적화'··· 美 항공사의 변혁 사례

2022.11.04 Thor Olavsrud  |  CIO
美 제트블루 항공(JetBlue Airways)은 온프레미스 데이터 웨어하우스와 씨름한 끝에 데이터를 클라우드로 마이그레이션하여 여러 이점을 누리고 있다. 
 
코로나19 팬데믹 여파로 항공 및 여행 업계는 큰 변화와 불확실성을 겪었다. 지난 2020년 제트블루 항공은 (자사의) 경쟁 우위가 IT, 특히 데이터 운영을 통합하고, 고객 피드백을 반영하며, 날씨 및 지연의 다운스트림 영향을 줄이고, 항공기 안전을 보장할 수 있는 ‘데이터 스택’을 트랜스포메이션하는 데 달려 있다고 판단했다.
 
ⓒJetBlue

이 회사의 데이터 엔지니어링 부문 책임자 애슐리 반 네임은 “2020년부터 데이터 스택 트랜스포메이션을 시작했다. 목표는 거의 실시간으로 더 많은 데이터에 액세스하고, 모든 중요 시스템의 데이터를 한 곳에 통합하며, 고급 분석 제품을 구축할 수 없었던 컴퓨팅 및 스토리지 한계를 없애는 것이었다”라고 말했다.

앞서 제트블루의 데이터 운영은 핵심 시스템의 정보를 저장하는 온프레미스 데이터 웨어하우스를 중심으로 이뤄졌다. 데이터는 데이터 세트에 따라 매일 또는 매시간 업데이트됐지만 여전히 데이터 지연 문제가 발생했다. 그는 “매우 제한적이었다. 실시간 데이터를 사용하여 셀프 서비스 보고 제품을 구축할 수 없었다. 모든 운영 보고는 운영 데이터 스토리지 계층을 기반으로 구축돼야 했다. 이 계층은 보고 목적으로 할당할 수 있는 컴퓨터 양이 제한돼 있었다”라고 언급했다. 

데이터 가용성과 쿼리 성능도 문제였다. 온프레미스 데이터 웨어하우스는 스토리지와 컴퓨팅이 사전 프로비저닝된 물리적 시스템이었기 때문에 쿼리와 데이터 스토리지가 리소스를 두고 싸워야 했다. 그는 “애널리스트가 필요한 데이터를 쿼리하지 못하도록 할 수 없었기 때문에 웨어하우스에서 원하는 만큼의 추가 데이터 세트를 통합할 수 없었다. 실질적으로 ‘컴퓨팅’ 요구사항이 스토리지보다 우선시됐다”라고 설명했다.

또 시스템은 한 번에 32개의 동시 쿼리까지 실행하도록 제한됐으며, 이에 따라 매일 쿼리 대기열이 생성돼 쿼리 실행 시간이 길어졌다. 

제트블루의 해법은? 클라우드였다.

실시간에 가까운 데이터 엔진
제트블루는 데이터 클라우드 전문 업체 스노우플레이크(Snowflake)와 협력해 데이터 스택을 트랜스포메이션했다. 먼저 제트블루의 데이터를 레거시 온프레미스 시스템에서 스노우플레이크 데이터 클라우드로 옮겼다. 이 덕분에 가장 시급한 문제는 완화할 수 있었다고 반 네임은 말했다.

 
Ashley Van Name ⓒJetBlue
그다음 제트블루의 데이터 팀은 애널리스트가 이전에 온프레미스 시스템에서 액세스할 수 없었던 중요 데이터 세트를 통합하는 데 주력했다. 데이터 팀은 제트블루의 항공기 이동 시스템, 승무원 추적 시스템, 예약 시스템, 알림 관리, 체크인 시스템 등을 망라하여 애널리스트가 쓸 수 있는 50개 이상의 실시간 데이터 피드를 만들었다. 이러한 피드의 데이터는 소스 시스템에서 수신한 후 1분 이내에 스노우플레이크를 통해 제공된다.

그는 “스노우플레이크를 통해 데이터 제공을 효과적으로 확장했다. 온프레미스 웨어하우스에서 사용할 수 있었던 것의 500% 이상이었다”라고 언급했다.

반 네임에 따르면 제트블루의 데이터 트랜스포메이션 여정은 이제 막 시작됐다. 그는 데이터를 클라우드로 이동하는 것이 퍼즐의 한 조각일 뿐이라고 말했다. 다음 과제는 애널리스트가 해당 플랫폼에서 사용 가능한 데이터와 쉽게 상호작용할 수 있는 방법을 확보하는 것이다. “지금까지 데이터 제공을 정제, 구성, 표준화하기 위해 많은 작업을 했지만 여전히 가야 할 길이 남았다. 데이터가 통합되고 정제되면 데이터 큐레이션으로 초점을 옮겨야 한다”라고 반 네임은 전했다.

이어 데이터 큐레이션은 모든 애널리스트가 제트블루의 데이터와 상호작용하는 데 중요하다면서, “데이터 세트에 관한 일반적인 질문에 답할 수 있는, 사용하기 쉬운 단일 ‘사실’ 테이블을 구축하면 기존에 존재했던 진입 장벽이 사라질 것”이라고 그는 덧붙였다.

데이터는 머신러닝 모델을 위한 입력값으로도 사용되고 있다. 제트블루의 데이터 과학 및 애널리틱스 부문 책임자 프라단 라부루는 “내부 데이터 과학 이니셔티브를 가속하기 시작했다. 지난 1년 반 동안 새로운 데이터 과학팀이 구성됐고, 스노우플레이크에 있는 데이터를 활용하여 운영 상태를 예측할 뿐만 아니라 고객 및 고객의 선호도를 자세하게 파악할 수 있는 머신러닝 알고리즘을 구축하고 있다”라고 설명했다.

라부루는 데이터 과학팀이 현재 제트블루의 효율성을 조정하기 위해 대규모 AI 제품도 개발하고 있다고 밝혔다. 그는 “이 제품은 머신러닝 제품에 사용된 기능 저장소를 갱신하고자 데이터 엔지니어링 팀과 데이터 과학팀의 협력으로 구축된 2차 선별 데이터 모델을 기반으로 한다. ML 제품의 여러 파생 생태계가 예측 인사이트를 통해 제트블루의 각 팀을 지원하기 위한 장기 전략의 토대를 형성한다”라고 말했다.

변화 대응하기
제트블루는 약 2년 전 스노우플레이크로 이전했다. 반 네임은 지난 1년 동안 플랫폼의 내부 채택률이 (월간 활성 사용자 기준) 약 75% 증가했다고 밝혔다. 또 사용자가 작성한 셀프 서비스 보고의 수도 20% 이상 늘어났다고 전했다.

 
Sai Pradhan Ravuru ⓒJetBlue
라부루는 그의 팀이 동적 가격 책정 및 고객 개인화와 관련된 2가지 머신러닝 모델을 프로덕션 환경에 배포했다고 언급했다. 신속한 프로토타이핑과 반복을 통해 데이터 모델 및 ML 제품을 더 빠르게 운영할 수 있다고 그는 덧붙였다. 

“또 쿼리 지연 시간(초당 쿼리 수)에 상관없이 구축된 큐레이션 데이터 모델은 데이터 과학자, AI 및 ML 엔지니어가 개발한 ML API용 온라인 기능 저장소 솔루션을 제공한다. 필요에 따라 실시간 스트리밍 파이프라인을 전략적으로 활용하기 위해 데이터가 밀리초 단위로 또는 일괄적으로 제공된다”리고 라부루는 설명했다.

반 네임은 모든 기업에 저마다의 문제가 있지만 데이터 기반의 사고방식은 대규모 변화를 지원하기 위한 주된 구성요소라고 강조했다. 특히, 경영진이 현재의 문제와 이를 완화하는 데 도움이 될 시장의 기술 옵션을 이해하도록 하는 게 중요하다고 그는 말했다.

그는 “대규모 조직에 존재하는 모든 데이터 문제에 관한 인사이트를 확보하기가 어려울 순 있다. 제트블루에서는 데이터 사용자를 대상으로 매년 설문조사를 실시해 피드백을 받고 있다. 이를 통해 전략을 수립하고, 아울러 잘 하고 있는 영역과 개선할 영역을 파악하고 있다. 피드백을 받는 것은 쉽다. 이를 실천에 옮길 때 실질적인 변화를 만들 수 있다”라고 말했다.

또한 반 네임은 전사적으로 데이터를 활용할 수 있는 리더와의 직접적인 협력이 필수적이라고 권고했다. “데이터 스택은 사용자에게 제공하는 가치만큼 가치를 갖는다. 기술 데이터 리더로서 완벽하고 정확한 정보를 선별하는 데 시간을 할애할 수 있지만 아무도 이를 활용해 의사결정을 하거나 정보를 지속적으로 확인하지 않는다면 실질적인 가치가 없는 셈이다. 데이터를 활용할 수 있는 리더와의 관계 구축은 전체적인 가치를 실현하는 데 도움이 될 것”이라고 그는 말했다. ciokr@idg.co.kr
 
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.