‘비정형 데이터에서 가치 창출’··· 앞선 기업 2곳의 이야기

엔터프라이즈 데이터 활용은 오늘날 IT 리더들의 최대 관심사다. 데이터 기반 비즈니스 의사결정을 강화하고자 하는 조직에서 IT 리더는 데이터가 놓여있는 위치나 형태에 관계없이 데이터에서 가치를 창출하는 방향으로 데이터 전략을 고안해야 한다.

그러나 많은 기업에서 텍스트, 비디오, 오디오, 소셜 미디어, 이미징, 센서 및 기타 형식의 비정형 데이터는 활용되지 않고 있다. 오늘날 기업 데이터의 90%가 비정형 데이터인 것으로 추정된다. 이러한 가운데 파운드리의 조사에 따르면 IT 리더의 61%가 비정형 데이터 관리가 조직에게 골칫거리라고 답했으며, 24%는 비정형 데이터를 분석 목록에 올리지도 않는다고 답했다.

그럼에도 불구하고 비정형 데이터 리소스는 비즈니스 인사이트를 얻고 문제를 해결하는 데 매우 유용할 수 있다. 핵심은 이러한 가치를 창출하는 방법을 알아내는 것이다. 이러한 방대한 정보 리소스를 능숙하게 활용하는 조직은 주요 비즈니스 프로세스에 실행 가능한 인사이트를 제공할 수 있다.

오늘날 창의적인 기업들이 어떻게 비정형 데이터를 비즈니스 가치로 전환하고 있는지 살펴보고, 조직에서 비정형 데이터를 활용하는 방법에 대한 몇 가지 팁을 알아본다.

게임 창작 개선
모바일 게임 개발 회사인 레트로스타일 게임즈에서 비정형 데이터는 비즈니스 성장과 게임 개선에 유효한 ‘노다지’임이 입증되었다고 이 회사의 데이터 애널리스트인 이반 코노발은 말했다.

레트로스타일 게임즈가 비정형 데이터를 활용하는 다양한 방법 중 가장 영향력 있는 것은 콘셉트 아트 수집과 오디오 데이터 확보다.

코노발은 “게임 개발자의 창작 과정은 스케치, 무드 보드, 콘셉트 아트에서 시작되는 경우가 많다. 이러한 작업은 체계적이지는 않지만 게임에서 표현하고자 하는 본질을 포착한다. 이러한 작업이 다른 작업물들 사이에서 손실되지 않도록 하고, 향후 게임 속편 작업 시 쉽게 찾을 수 있도록 고급 이미지 인식 도구를 사용한다”라고 말했다.

이 도구는 캐릭터, 풍경 또는 기타 요소 등 아트워크의 다양한 요소를 분류하고 자동으로 태그를 지정한다. 코노발은 “이를 통해 아티스트와 개발자가 관련 아트워크를 빠르게 찾을 수 있어 디자인 일관성을 확보하고 개발 과정의 속도를 높일 수 있다. 또한 이 시스템을 통해 회사 아트워크 개발에 관한 정보를 저장할 수 있어 신입 직원을 교육할 때 매우 유용하다”라고 말했다.

오디오 데이터와 관련해 그는 음성 연기가 플레이어의 게임 세계 경험에 핵심적인 역할을 한다고 말했다. 그는 “게임 내 대화, 배경음, 플레이어 음성 채팅에서 방대한 양의 데이터를 수집한다. 음성 인식과 사운드 분석을 통해 분위기나 감정과 같은 뉘앙스를 추출한다”라고 전했다.

예를 들어, 특정 대화에서 플레이어가 흥분한 상태로 음성 채팅에 계속 참여한다면 개발자는 이에 주목한다. 마찬가지로 환경과 일치하지 않는 배경 소음과 같은 이상 현상도 식별하여 해결한다.

코노발은 “이 오디오 데이터에서 얻은 인사이트는 게임의 오디오 경험을 개선하는 데 직접적으로 활용된다. 이로써 플레이어가 지속적으로 게임플레이에 감정적으로 몰입하고 환경과 상호 작용할 수 있도록 했다”라고 말했다.

그에 따르면 게임의 역동적인 특성으로 인해 게임에서 생성되는 데이터도 역동적이다. 게임 내 채팅 감정 분석과 같은 기능은 플레이어의 부적절한 행동을 걸러 내기 위해 실시간 처리가 필요하다. 그는 “우리는 아파치 카프카와 같은 스트림 처리 프레임워크를 활용하여 이 문제를 해결했다. 이를 통해 게임 진행자는 새로운 패턴과 문제에 실시간으로 대응할 수 있다”라고 말했다.

과제 중 하나는 ‘양’이다. 게임이 출시되고 업데이트될 때마다 처리해야 하는 비정형 데이터의 양이 기하급수적으로 증가한다. 코노발은 “이렇게 많은 양의 데이터는 저장과 효율적인 처리 측면에서 심각한 문제를 야기한다”라고 전했다.

이 문제를 해결하기 위해 레트로스타일 게임즈는 데이터 레이크에 투자했다. 코노발은 “이를 통해 방대한 양의 비정형 데이터를 저장할 수 있을 뿐만 아니라 효율적으로 쿼리하고 분석할 수 있게 됐다. 데이터 과학자와 개발자에게 필요한 정보에 즉시 액세스할 수 있다”라고 말했다.

생성형 AI 지원
직원 인식 및 경험 소프트웨어 제공업체인 워크휴먼은 클라우드 기반 플랫폼에서 다양한 방식으로 비정형 데이터를 활용하고 있다고 애널리트스 책임자 겸 전무이사인 제시 해리어트는 전했다.

해리어트는 “비정형 데이터는 가장 만연한 데이터 형태이지만 효과적으로 활용하기는 가장 어렵다”라며 이야기를 시작했다.

워크휴먼 클라우드에는 전 세계 직원들이 함께 일하는 사람에 대한 긍정적인 피드백을 공유하는 수백만 개의 칭찬 메시지가 포함되어 있다.

해리어트은 “직원들은 각자의 언어로 칭찬 메시지를 공유하기 때문에 각 칭찬은 완전히 독특하다. 우리는 이 데이터를 사용하여 직원들이 조직에서 어떻게 협업하는지, 메시지에서 가장 자주 언급되는 주제는 무엇인지, 조직 전체에 걸쳐 칭찬의 형평성이 있는지 등을 더 잘 정의하는 데 도움이 되는 AI 모델을 구동한다”라고 설명했다.

또한 대규모 언어 모델(LLM)을 사용하여 시간 경과에 따른 칭찬 추세를 요약하고 효과적인 칭찬 메시지를 위한 언어를 제안하기도 한다.

해리어트는 “내가 특히 자랑스럽게 생각하는 이니셔티브 중 하나는 칭찬 수상자에게 상을 보내기 전에 무의식적으로 편향된 수상 언어를 식별하고 수정을 제안하는 AI 기반 코칭 도구인 인클루전 어드바이저이다”라고 말했다.

비정형 데이터에서 가치를 창출하는 데 있어 큰 어려움 중 하나는 조직이 중점을 두는 비즈니스 사용 사례에 대해 신뢰할 수 있고 유효한 교육 데이터에 대한 액세스가 제한되어 있다는 점이다.

해리어트는 “대량의 비정형 데이터를 보유할 수는 있지만 모델을 생성하고 검증할 수 있는 효과적인 학습 데이터가 없으면 진행 상황과 품질이 저하될 것이다. LLM을 활용하면 확실히 도움이 될 수 있지만, 기존 LLM으로는 회사 고유의 비즈니스 사례가 효과적으로 포착되지 않는다”라고 말했다.

해리어트는 “LLM에서도 학습 데이터의 편향성 문제가 여전히 존재할 수 있다. 워크휴먼에는 이러한 문제를 해결하기 위해 데이터 주석, 증강, 검증을 담당하는 언어학 팀이 있다. 또한, 대규모 다국적 고객과 협력하여 모델이 의미 있고 유용한 결과를 도출할 수 있도록 지원한다”라고 말했다.

비정형 데이터를 가치로 전환하기 위한 팁
해리어트, 코노발 및 기타 데이터 전문가가 비정형 데이터로 작업할 때 성공을 보장하는 방법을 공유했다.

1. 이니셔티브를 비즈니스 성과와 연결하라. IT 리더는 비정형 데이터를 활용하기 위한 이니셔티브가 비즈니스 요구사항과 긴밀히 연계되어 있고 경영진의 후원을 받고 있는지 확인해야 한다.

해리어트는 “팀에서 비정형 데이터에 대한 창의적인 사용 사례를 가지고 있음에도 불구하고 주요 비즈니스 결과와의 연관성이 명확하지 않아 지원을 받지 못하는 경우가 너무 많다. 사용 사례가 왜 중요한지, 어떻게 직간접적으로 비즈니스 이익을 창출할 수 있는지에 대해 조직을 교육하는 것은 리더의 책임이다”라고 말했다.