2021.04.05

“인공지능 실무 배치의 유일한 해법”··· ‘AI 엔지니어링’을 아시나요?

Bob Violino | CIO
AI란 무엇일까? 일반적으로 기계가 사람의 사람처럼 생각하고, 사람을 닮은 행동을 하도록 프로그래밍한 것으로 정의된다. 즉 인공지능(AI)은 학습을 통해 문제를 해결하는 능력 등 사람의 지성과 관련된 특성 및 특징을 가진 모든 시스템을 일컫는 개념이다.

인공지능 기능을 이용하면 기업은 많은 혜택을 누릴 수 있다. 제품과 서비스를 강화하거나, 효율성을 개선하는 것, 수동 프로세스를 자동화하거나 더 나은 의사결정을 내리는 것 등이다. 

그러나 IT와 비즈니스 리더들은 ‘과장’와 ‘현실’을 능숙히 구분해야 한다. 가트너가 지적했듯, AI가 실제 가치를 발휘하도록 만드는 데 어려움을 겪는 기업과 조직들이 많다. 기업 리더들은 기술이 가져올 혜택을 과대평가하는 반면 복잡성은 과소평가하는 경향이 있다.

가트너는 2020년 초 미국과 독일, 영국 소재 기업과 조직의 고위 임원 600여 명을 설문조사한  결과에 따르면, 1/3이 넘는 조직들이 AI를 배치해 활용하고 있고, 절반 이상은 12개월 이내에 AI를 배치할 계획이다. 여기에 더해, 2년 내에 AI를 배치할 계획이라고 밝힌 비율은 약 1/3이다.

가트너는 조직이 AI 이니셔티브를 프로토타입에서 프로덕션 단계로 발전시키기 위해 투자하는 평균 기간은 9개월이라고 전했다. 또 AI 분야에 숙련된 인력이 크게 부족하지만, 이런 인재 부족은 AI의 성공적인 배치를 가로막는 주된 장벽은 아니며, AI 애플리케이션의 성공을 제한하는 요소는 명확한 성과가 없는 것이라고 지적했다.
 
Image Credit : Getty Images Bank

전략을 ‘엔지니어링’
실제로 기업들은 AI를 프로토타입에서 프로덕션 단계로 효율적으로 발전시키는 과정에서 통합, 보안, 프라이버시 문제 등의 여러 도전과제에 직면하곤 한다.

AI 엔지니어링이 이와 관련해 중요한 역할을 할 수 있다고 카네기 멜론 대학의 소프트웨어 공학 연구소(Software Engineering Institute, SEI) 산하 이머징 기술 센터 디렉터이자 내셔널 AI 엔지니어링 이니셔티브(National AI Engineering Initiative)의 리더인 맷 개스턴은 강조했다.

그는 “AI 엔지니어링이란 신뢰할 수 있는 AI 시스템을 설계, 구축, 테스트, 배포, 운영, 발전시키는 방법에 관한 프로세스, 도구, 모범 사례이다”라고 설명했다.

개스턴은 “AI 자체는 머신러닝 같이 지능형 모델이나 기능을 구현하는 특정 AI 기법들에 관한 것이다. AI 엔지니어링은 이런 지능형 모델이나 기능을 비즈니스와 운영, 사명에 대한 솔루션을 제공하는 완전히 기능하는 시스템으로 전환해준다”라고 설명했다.

가트너의 VP 겸 애널리스트인 에릭 브레테녹스는 AI 엔지니어링을 2021년 가장 중요한 전략적 기술 트렌드 중 하나로 꼽았다. 그는 AI 엔지니어링이 전사적으로 여러 조직과 분야를 결집해 여러 AI 기법들을 통합적으로 운영할 때 가치를 창출할 수 있는 더 명확한 경로를 제공한다고 강조했다.

고객사들의 AI 엔지니어링 전략 도입에 도움을 주고 있는 브레테녹스는 견고한 AI 엔지니어링 전략이 AI 모델의 성능, 확장성, 해석 능력, 신뢰성에 도움을 주며, AI 투자 가치를 완전히 실현시킨다고 설명했다. 그는 “AI 엔지니어링은 AI를 프로덕션 단계로 발전시키고, 전사적으로 이의 사용을 통제, 관리, 모니터링하는 방법, 모범 사례, 기능, 기법들로 구성된다”라고 덧붙였다.

브레테녹스에 따르면, AI는 일반적으로 2개 주요 주기로 구분된다. 첫째, 애플리케이션의 종류에 따라 (예를 들어) 규칙 기반 모델, 최적화 모델, 자연어 처리 모델 등 ML 모델을 개발해 트레이닝 하는 주기이다. 둘째, 조직 내부에 모델을 구현해 이용하는 주기이다.

브레테녹스는 “기업들 다수가 AI 모델을 제대로 운영하지 못한다. 모델 개발은 능숙하다. 수많은 모델을 개발하곤 한다. 그러나 이 모델을 프로덕션 단계로 발전시키기 어렵다. 이 모델을 프로덕션화 하는 것을 체계화할 방법이 필요하다. 여기에 엔지니어링이 필요하다”라고 강조했다.

브레테녹스는 특정 프로젝트에 AI를 운영할 때 AI 엔지니어링이 비공식적이거나 임시적인 활동이어서는 안 된다고 말했다. 모든 AI와 머신러닝 활용에 적용되는 모범 사례가 될 수 있도록 전사적으로 공식화해야 한다는 주문이다.

개스턴은 AI 엔지니어링이 아직 초기 단계인 개념으로 향후 성장하고 성숙해질 것이라고 말했다. 또 AI 분야에서 나타나고 있는 혁신 속도에 맞춰 진화할 것이라고 전망했다. 조직들이 AI 기법이 통합된 비즈니스 솔루션을 만들어 유지관리하기 위해 AI 엔지니어링을 이용한다는 의미이다.

여기에는 비즈니스 니즈를 바탕으로 시스템 요구사항을 규정하고, 이런 요구사항에 맞는 AI 기법들을 선택하고, 시스템이 원하는 대로 계속 기능하도록 테스트 및 모니터링 도구를 활용하고, 요구사항이나 운영 환경이 변할 때 AI 시스템을 업데이트 및 진화시키는 프로세스와 프레임워크를 활용하는 것 등이 포함된다.
 

“기업들 다수가 AI 모델을 제대로 운영하지 못한다. 모델 개발은 능숙하다. 수많은 모델을 개발하곤 한다. 그러나 이 모델을 프로덕션 단계로 발전시키기 어렵다. 이 모델을 프로덕션화 하는 것을 체계화할 방법이 필요하다. 여기에 엔지니어링이 필요하다”


주요 구성요소
AI를 성공적으로 활용하기 위한 ‘열쇠’ 중 하나는 운영 단계로 발전하는 것이 단순히 기술적인 문제가 아니라 비즈니스 문제이기도 하다는 점을 인식하는 것이다.

브레테녹스는 “AI를 프로덕션 단계에 투입할 때 애플리케이션, AI 유즈 케이스, 이런 애플리케이션으로 비즈니스를 지원하는 방법에 대해 주제 전문가와 상의해야 한다. 그런 다음, 이용하는 핵심 성과 지표(KPI)가 실제 작동하는지 파악해야 한다”라고 말했다.

브레테녹스는 “비즈니스 사용자가 AI 엔지니어링 활동의 중심이 되어야 한다. 그래야 AI가 조직이 추구하는 목표에 부응할 수 있다”라고 강조했다.

기술이 중요하지 않다는 이야기는 아니다. AI 팀은 회사가 AI로 이루려는 목적을 달성할 수 있고, 기존 제품 및 다른 새로운 AI 도구와 쉽게 통합할 수 있는 도구와 기법을 선택할 수 있도록 통찰력을 발휘해야 한다.

또 다른 중요한 고려사항은 기업이 모델에 공급할 데이터 품질이다. 브레테녹스는 “데이터의 출처가 어디인가? 얼마나 신뢰할 수 있는가?”라고 반문했다.

조직이 데이터 품질을 개선하는 데 도움을 주는 비교적 새로운 개념이 데이터옵스(DataOps)이다. 이는 데이터 분석 팀이 데이터 품질을 높이고, 애자일 방법론을 매개체로 분석 사이클 시간을 줄이기 위해 이용하는 자동화된 프로세스 지향 기법이다.

데이터옵스 접근법에는 데이터 준비부터 보고까지 전체 데이터 생애주기에 적용되며, 데이터 분석 팀과 IT 운영이 서로 연결되어 있음을 인정하는 생각이 깔려있다. 

AI를 활용하려는 기업과 조직은 적절한 스킬도 보유해야 한다. 파이썬(Python)과 R, 자바(Java), C++ 같은 프로그래밍 언어, 알고리즘과 라이브러리를 포함한 M, 데이터 사이언스, 뉴럴 네트워크 아키텍처, 확률과 통계 같은 응용 수학, 로봇, 컴퓨터 비전 분야의 경험을 예로 들 수 있다. AI 분야 종사자는 우수한 커뮤니케이션 및 협력 능력, 비판적 사고와 창의성 같은 소프트 스킬도 보유해야 한다.

브레테녹스는 새로 부상하는 스킬 중 하나는 ‘ML검증’이라고 말했다. 모델 검증은 테스팅 데이터 세트로 트레이닝 된 모델을 평가하는 프로세스이다. 이 테스팅 데이터 세트를 이용하는 주된 이유는 트레이닝 된 모델의 일반적인 능력을 테스트하기 위해서이다.

브레테녹스는 “이런 사람들이 AI 모델의 생애주기 전반에 걸쳐 관여를 한다. 데이터 관점을 시작으로, 다음은 개발 관점, 그 다음은 운영 관점에서 검증을 한다. 모델을 통해 수행되는 모든 것이 유효한지, 합법적인지, 기술적으로 실현 가능한지 여부를 평가한다”라고 말했다.

한편 브레테녹스는 AI 스킬은 많은 조직들이 생각하는 것처럼 획득하기 어려운 것은 아니라고 말했다. 내부에서 올바른 인재 발굴 프로그램, 적절한 업스킬링 및 교육 체계를 운영하고, 외부 인재를 적절한 비율로 유치하면 성과를 거둘 수 있다는 설명이다. 


AI와 함께 전진하는 방법
많은 기업들이 AI가 여러 방식으로 비즈니스 가치를 제공할 수 있음을 인식하고 있으며, 이에 데이터 사이언스와 머신러닝, AI 팀을 구축하기 시작했다.

개스턴은 “팀 구축이 중요한 첫 단계이지만, 대부분의 데이터 사이언스나 ML팀이 하는 역할은 통제된 환경에서 데이터를 사용해 모델을 구현하는 것이다. 기업들이 더 전체적으로 비즈니스 솔루션을 위해 AI를 실현시키고, 운영하고, 유지관리 하는 방법을 찾는 것이 아주 중요하다. 이를 위해서는 더 다양한 인재, 관점, 경험을 가져와야 한다”라고 강조했다.

AI 엔지니어링 전략 없이도 AI 프로젝트를 추진할 수 있다. 하지만 이렇게 하면, 장기적이면서 종합적으로 기술을 성공적으로 활용할 가능성에 제약을 받을 수 있다. AI는 너무 전략적이고 강력한 도구이기 때문에 이런 위험한 방식에 맡길 수 없다.

브레테녹스는 “이것이 AI 문제를 해결하는 유일한 방법이라고 생각한다. AI 엔지니어링을 수행하지 않는다면, 모델이 프로덕션 단계로 발전할 확률은 약 35-45%에 불과할 것으로 판단한다. 나머지는 낭비하게 된다. 65% 정도의 모델이 낭비되고, 매번 처음부터 다시 시작을 하게 될 것이다”라고 말했다.

 

CIO의 프리미엄 콘텐츠입니다. 이 기사를 더 읽으시려면 개인정보 등록이 필요합니다. 이미 등록하신 분은 '본인확인'을 해주십시오.



2021.04.05

“인공지능 실무 배치의 유일한 해법”··· ‘AI 엔지니어링’을 아시나요?

Bob Violino | CIO
AI란 무엇일까? 일반적으로 기계가 사람의 사람처럼 생각하고, 사람을 닮은 행동을 하도록 프로그래밍한 것으로 정의된다. 즉 인공지능(AI)은 학습을 통해 문제를 해결하는 능력 등 사람의 지성과 관련된 특성 및 특징을 가진 모든 시스템을 일컫는 개념이다.

인공지능 기능을 이용하면 기업은 많은 혜택을 누릴 수 있다. 제품과 서비스를 강화하거나, 효율성을 개선하는 것, 수동 프로세스를 자동화하거나 더 나은 의사결정을 내리는 것 등이다. 

그러나 IT와 비즈니스 리더들은 ‘과장’와 ‘현실’을 능숙히 구분해야 한다. 가트너가 지적했듯, AI가 실제 가치를 발휘하도록 만드는 데 어려움을 겪는 기업과 조직들이 많다. 기업 리더들은 기술이 가져올 혜택을 과대평가하는 반면 복잡성은 과소평가하는 경향이 있다.

가트너는 2020년 초 미국과 독일, 영국 소재 기업과 조직의 고위 임원 600여 명을 설문조사한  결과에 따르면, 1/3이 넘는 조직들이 AI를 배치해 활용하고 있고, 절반 이상은 12개월 이내에 AI를 배치할 계획이다. 여기에 더해, 2년 내에 AI를 배치할 계획이라고 밝힌 비율은 약 1/3이다.

가트너는 조직이 AI 이니셔티브를 프로토타입에서 프로덕션 단계로 발전시키기 위해 투자하는 평균 기간은 9개월이라고 전했다. 또 AI 분야에 숙련된 인력이 크게 부족하지만, 이런 인재 부족은 AI의 성공적인 배치를 가로막는 주된 장벽은 아니며, AI 애플리케이션의 성공을 제한하는 요소는 명확한 성과가 없는 것이라고 지적했다.
 
Image Credit : Getty Images Bank

전략을 ‘엔지니어링’
실제로 기업들은 AI를 프로토타입에서 프로덕션 단계로 효율적으로 발전시키는 과정에서 통합, 보안, 프라이버시 문제 등의 여러 도전과제에 직면하곤 한다.

AI 엔지니어링이 이와 관련해 중요한 역할을 할 수 있다고 카네기 멜론 대학의 소프트웨어 공학 연구소(Software Engineering Institute, SEI) 산하 이머징 기술 센터 디렉터이자 내셔널 AI 엔지니어링 이니셔티브(National AI Engineering Initiative)의 리더인 맷 개스턴은 강조했다.

그는 “AI 엔지니어링이란 신뢰할 수 있는 AI 시스템을 설계, 구축, 테스트, 배포, 운영, 발전시키는 방법에 관한 프로세스, 도구, 모범 사례이다”라고 설명했다.

개스턴은 “AI 자체는 머신러닝 같이 지능형 모델이나 기능을 구현하는 특정 AI 기법들에 관한 것이다. AI 엔지니어링은 이런 지능형 모델이나 기능을 비즈니스와 운영, 사명에 대한 솔루션을 제공하는 완전히 기능하는 시스템으로 전환해준다”라고 설명했다.

가트너의 VP 겸 애널리스트인 에릭 브레테녹스는 AI 엔지니어링을 2021년 가장 중요한 전략적 기술 트렌드 중 하나로 꼽았다. 그는 AI 엔지니어링이 전사적으로 여러 조직과 분야를 결집해 여러 AI 기법들을 통합적으로 운영할 때 가치를 창출할 수 있는 더 명확한 경로를 제공한다고 강조했다.

고객사들의 AI 엔지니어링 전략 도입에 도움을 주고 있는 브레테녹스는 견고한 AI 엔지니어링 전략이 AI 모델의 성능, 확장성, 해석 능력, 신뢰성에 도움을 주며, AI 투자 가치를 완전히 실현시킨다고 설명했다. 그는 “AI 엔지니어링은 AI를 프로덕션 단계로 발전시키고, 전사적으로 이의 사용을 통제, 관리, 모니터링하는 방법, 모범 사례, 기능, 기법들로 구성된다”라고 덧붙였다.

브레테녹스에 따르면, AI는 일반적으로 2개 주요 주기로 구분된다. 첫째, 애플리케이션의 종류에 따라 (예를 들어) 규칙 기반 모델, 최적화 모델, 자연어 처리 모델 등 ML 모델을 개발해 트레이닝 하는 주기이다. 둘째, 조직 내부에 모델을 구현해 이용하는 주기이다.

브레테녹스는 “기업들 다수가 AI 모델을 제대로 운영하지 못한다. 모델 개발은 능숙하다. 수많은 모델을 개발하곤 한다. 그러나 이 모델을 프로덕션 단계로 발전시키기 어렵다. 이 모델을 프로덕션화 하는 것을 체계화할 방법이 필요하다. 여기에 엔지니어링이 필요하다”라고 강조했다.

브레테녹스는 특정 프로젝트에 AI를 운영할 때 AI 엔지니어링이 비공식적이거나 임시적인 활동이어서는 안 된다고 말했다. 모든 AI와 머신러닝 활용에 적용되는 모범 사례가 될 수 있도록 전사적으로 공식화해야 한다는 주문이다.

개스턴은 AI 엔지니어링이 아직 초기 단계인 개념으로 향후 성장하고 성숙해질 것이라고 말했다. 또 AI 분야에서 나타나고 있는 혁신 속도에 맞춰 진화할 것이라고 전망했다. 조직들이 AI 기법이 통합된 비즈니스 솔루션을 만들어 유지관리하기 위해 AI 엔지니어링을 이용한다는 의미이다.

여기에는 비즈니스 니즈를 바탕으로 시스템 요구사항을 규정하고, 이런 요구사항에 맞는 AI 기법들을 선택하고, 시스템이 원하는 대로 계속 기능하도록 테스트 및 모니터링 도구를 활용하고, 요구사항이나 운영 환경이 변할 때 AI 시스템을 업데이트 및 진화시키는 프로세스와 프레임워크를 활용하는 것 등이 포함된다.
 

“기업들 다수가 AI 모델을 제대로 운영하지 못한다. 모델 개발은 능숙하다. 수많은 모델을 개발하곤 한다. 그러나 이 모델을 프로덕션 단계로 발전시키기 어렵다. 이 모델을 프로덕션화 하는 것을 체계화할 방법이 필요하다. 여기에 엔지니어링이 필요하다”


주요 구성요소
AI를 성공적으로 활용하기 위한 ‘열쇠’ 중 하나는 운영 단계로 발전하는 것이 단순히 기술적인 문제가 아니라 비즈니스 문제이기도 하다는 점을 인식하는 것이다.

브레테녹스는 “AI를 프로덕션 단계에 투입할 때 애플리케이션, AI 유즈 케이스, 이런 애플리케이션으로 비즈니스를 지원하는 방법에 대해 주제 전문가와 상의해야 한다. 그런 다음, 이용하는 핵심 성과 지표(KPI)가 실제 작동하는지 파악해야 한다”라고 말했다.

브레테녹스는 “비즈니스 사용자가 AI 엔지니어링 활동의 중심이 되어야 한다. 그래야 AI가 조직이 추구하는 목표에 부응할 수 있다”라고 강조했다.

기술이 중요하지 않다는 이야기는 아니다. AI 팀은 회사가 AI로 이루려는 목적을 달성할 수 있고, 기존 제품 및 다른 새로운 AI 도구와 쉽게 통합할 수 있는 도구와 기법을 선택할 수 있도록 통찰력을 발휘해야 한다.

또 다른 중요한 고려사항은 기업이 모델에 공급할 데이터 품질이다. 브레테녹스는 “데이터의 출처가 어디인가? 얼마나 신뢰할 수 있는가?”라고 반문했다.

조직이 데이터 품질을 개선하는 데 도움을 주는 비교적 새로운 개념이 데이터옵스(DataOps)이다. 이는 데이터 분석 팀이 데이터 품질을 높이고, 애자일 방법론을 매개체로 분석 사이클 시간을 줄이기 위해 이용하는 자동화된 프로세스 지향 기법이다.

데이터옵스 접근법에는 데이터 준비부터 보고까지 전체 데이터 생애주기에 적용되며, 데이터 분석 팀과 IT 운영이 서로 연결되어 있음을 인정하는 생각이 깔려있다. 

AI를 활용하려는 기업과 조직은 적절한 스킬도 보유해야 한다. 파이썬(Python)과 R, 자바(Java), C++ 같은 프로그래밍 언어, 알고리즘과 라이브러리를 포함한 M, 데이터 사이언스, 뉴럴 네트워크 아키텍처, 확률과 통계 같은 응용 수학, 로봇, 컴퓨터 비전 분야의 경험을 예로 들 수 있다. AI 분야 종사자는 우수한 커뮤니케이션 및 협력 능력, 비판적 사고와 창의성 같은 소프트 스킬도 보유해야 한다.

브레테녹스는 새로 부상하는 스킬 중 하나는 ‘ML검증’이라고 말했다. 모델 검증은 테스팅 데이터 세트로 트레이닝 된 모델을 평가하는 프로세스이다. 이 테스팅 데이터 세트를 이용하는 주된 이유는 트레이닝 된 모델의 일반적인 능력을 테스트하기 위해서이다.

브레테녹스는 “이런 사람들이 AI 모델의 생애주기 전반에 걸쳐 관여를 한다. 데이터 관점을 시작으로, 다음은 개발 관점, 그 다음은 운영 관점에서 검증을 한다. 모델을 통해 수행되는 모든 것이 유효한지, 합법적인지, 기술적으로 실현 가능한지 여부를 평가한다”라고 말했다.

한편 브레테녹스는 AI 스킬은 많은 조직들이 생각하는 것처럼 획득하기 어려운 것은 아니라고 말했다. 내부에서 올바른 인재 발굴 프로그램, 적절한 업스킬링 및 교육 체계를 운영하고, 외부 인재를 적절한 비율로 유치하면 성과를 거둘 수 있다는 설명이다. 


AI와 함께 전진하는 방법
많은 기업들이 AI가 여러 방식으로 비즈니스 가치를 제공할 수 있음을 인식하고 있으며, 이에 데이터 사이언스와 머신러닝, AI 팀을 구축하기 시작했다.

개스턴은 “팀 구축이 중요한 첫 단계이지만, 대부분의 데이터 사이언스나 ML팀이 하는 역할은 통제된 환경에서 데이터를 사용해 모델을 구현하는 것이다. 기업들이 더 전체적으로 비즈니스 솔루션을 위해 AI를 실현시키고, 운영하고, 유지관리 하는 방법을 찾는 것이 아주 중요하다. 이를 위해서는 더 다양한 인재, 관점, 경험을 가져와야 한다”라고 강조했다.

AI 엔지니어링 전략 없이도 AI 프로젝트를 추진할 수 있다. 하지만 이렇게 하면, 장기적이면서 종합적으로 기술을 성공적으로 활용할 가능성에 제약을 받을 수 있다. AI는 너무 전략적이고 강력한 도구이기 때문에 이런 위험한 방식에 맡길 수 없다.

브레테녹스는 “이것이 AI 문제를 해결하는 유일한 방법이라고 생각한다. AI 엔지니어링을 수행하지 않는다면, 모델이 프로덕션 단계로 발전할 확률은 약 35-45%에 불과할 것으로 판단한다. 나머지는 낭비하게 된다. 65% 정도의 모델이 낭비되고, 매번 처음부터 다시 시작을 하게 될 것이다”라고 말했다.

 

CIO의 프리미엄 콘텐츠입니다. 이 기사를 더 읽으시려면 개인정보 등록이 필요합니다. 이미 등록하신 분은 '본인확인'을 해주십시오.

X