칼럼 | 생성형 AI 드림팀을 구성하는 방법

점점 더 많은 조직이 비즈니스 성과를 내는 전략으로 생성형 AI를 선택하고 있다. 생성형 AI 기술을 제대로 도입하려면 우선 전문가를 모아 팀을 구성해야 한다. 다른 기술과 달리 생성형 AI 프로젝트에서 특히 필요한 인력에는 어떤 것이 있는지 정리해 봤다.
 

혁신을 위해 이제 기업은 ‘어떤 클라우드가 가장 좋은가?’라는 질문에 매달릴 필요 없다. 대신 ‘완전히 새로운 생성형 AI 시스템을 구축하기 위해 어떻게 팀을 구성할 것인가?’라는 질문을 생각해 봐야 한다.

예산은 줄었다. 이사회는 모두가 이야기하는 강력한 생성형 AI 시스템으로 비즈니스의 작동 방식을 근본적으로 바꾸고 싶어한다. 수많은 기사에서 생성형 AI 시스템이 비즈니스를 재정의할 것이라고 전한다. 모두가 이 시스템을 간절히 원하고 있으니 기술 리더는 생성형 AI 전담팀을 구성하는 것을 시급히 고민해봐야 한다. 그렇다면 어떤 인력을 생성형 AI팀에 배치해야 할까?

초창기 클라우드 시절 겪었던 비슷한 문제
10년 전 클라우드 컴퓨팅이 본격 확산되던 시절에도 비슷한 논의가 있었다. 당시 많은 사람이 새로운 클라우드 세계로 들어가기 위해 팀을 어떻게 구성해야 할지 고민했다. 개인 차원에서도 경력 관리 방향을 정한 사람은 특정 클라우드 기술을 배우고 인증서를 획득하기 시작했다. 필자도 오래 전부터 관련 강의를 제공했으며, 많은 사람이 온라인 강의로 클라우드 기술을 배우고 이직에 성공했다.

다만 클라우드 기술 초창기 시절 클라우드 아키텍처, 설계 및 배포 담당 팀의 성적은 D 수준이었다. 기존 시스템에서 마이그레이션하든 완전히 새로운 시스템을 구축하든 마찬가지였다. 클라우드 중심 철학을 적극 활용하지 않은 부분 때문에 클라우드 마이그레이션 프로젝트 상당수가 가치를 창출하지 못했다.

아키텍처만 잘 선택해도 전체 기술에 큰 변화를 가져올 수 있다. 하지만 많은 조직이 적절한 기술을 선택하는 데 실패했다. 그렇게 되면 다른 기술로 바꿀 수 있는 충분한 자금이 마련될 때까지 기존 기술에 갇힐 수밖에 없다. 자연스레 클라우드 중심 디지털 트랜스포메이션에서 예상보다 가치를 얻지 못하는 상황이 생기기도 했다. 생성형 AI도 비슷한 연장선에서 생각해봐야 한다.

직무별 필요한 역량
클라우드 시대를 겪으면서 우리는 교훈을 얻었다. 클라우드 컴퓨팅이든 생성형 AI든, 적합한 인재를 모으는 것은 중요하다는 점이다.

AI 프로젝트를 고려하고 있다면 먼저 TF 성격의 생성형 AI 아키텍처 및 개발 전담팀을 만들어 보자. 산업별로 팀 구성 요소는 각기 다를 수 있다. 금융 업계에서 필요한 AI 개발, 헬스케어에서 필요한 AI 개발은 약간 다를 수 있다. 아쉽게도 명확한 답은 없고 ‘상황에 따라 다른’ 규칙을 적용해야 한다.

다음은 AI 프로젝트에 필요한 구체적인 직무를 정리한 내용이다. 신입 사원이든, 사내 채용이든, 컨설팅 전문 기업에서 데려온 사람이든 상관없다. 6개월~1년 기간의 생성형 AI 프로젝트를 진행할 때면 유용한 인력이다.

프로젝트 매니저는 프로젝트를 감독하지만 주도하지는 않으며, 프로젝트가 비즈니스 목표에 부합하고 제시간에 예산 범위 내에서 제공할 수 있게 도와야 한다. 이 직무는 예산 관련 문제를 처리하고 매우 복잡한 납품을 관리하는 데 매우 중요한 역할을 한다. 예를 들어, 생성형 AI 플랫폼 선택 과정에 도움을 줄 수 있다. 훌륭한 프로젝트 관리자는 어리석은 실수를 피할 수 있도록 지원한다.

AI 연구원 및 데이터 과학자는 특정 비즈니스 요구에 맞는 ‘최신 모델’을 개발하는 일을 맡는다. 또한 이들은 모델의 성능을 지속적으로 높이는 작업을 수행한다. 이들은 프로젝트의 ‘두뇌’ 역할을 하며 성공 가능성이 가장 높은 모델을 구축하고 배포하는 방법을 고안한다.

일반적으로 많은 기업이 이 업무에 적합한 인재를 구할 때 박사 학위 이상을 가진 인재를 찾으려 한다. 이는 다소 근시안적인 방식이다. 필자는 개인적으로 높은 학위가 없는 유능한 인재들과 함께 일한다. 중요한 것은 협업 능력과 업무 실력인데 학위가 없어도 유능한 직원은 많다. 물론 이건 필자의 개인적인 생각이다.

AI 엔지니어는 확장성과 유지보수성에 중점을 두고 모델을 연구 단계에서 프로덕션 단계로 가져오는 전문가다. 이들은 AI 프레임워크(생성형 AI 프레임워크 포함)와 이를 지원하는 생태계에 대한 깊은 지식이 필요하다.

따라서 다양한 프레임워크에 대한 교육을 받은 사람을 채용하는 것이 중요하다. 그렇지 않은 사람은 자신이 알고 있는 프레임워크에 맞춘 솔루션에만 활용할 것이다. 특정 프레임워크만 고집하는 경우 대부분 문제가 생긴다.

데이터 엔지니어는 파이프라인을 설계하고 모델에 고품질 데이터를 공급하는 일을 담당한다. 결국 시간이 지나면 생성형 AI 시스템은 데이터 중심 시스템이 될 가능성이 높으므로 AI 프로젝트에서 데이터 엔지니어는 필수적이다.

다시 한번 강조하지만, AI 엔지니어와 같은 이유로 단일 데이터베이스 또는 특정 기술(예: AWS 네이티브 데이터베이스만)에만 집중하는 사람을 고용해서는 안 된다. 한 가지에 치우치면 궁극적인 동급 최고의 솔루션을 놓칠 수 있다.

플랫폼 엔지니어는 플랫폼을 선택하고 설계한다. 이들은 클라우드 및 비클라우드 플랫폼 옵션은 물론 메모리, 스토리지, 프로세서를 이해하고 있어야 한다. CPU, TPU, GPU의 차이점을 이해하고 최고의 가치를 창출하는 솔루션을 만들 수 있는 엔지니어가 있으면 좋다.

물론 이런 엔지니어는 찾기가 쉽지 않다. 어떤 엔지니어는 특정 클라우드 제공업체나 서버 클러스터만 사용하겠다고 고집할 수 있다. 그렇지 않다. 다시 말하지만, 아키텍처는 그러한 편견에 갇혀서 고르면 안 된다.

AI 윤리 전문가의 역할은 AI 시스템이 윤리적 기준과 공정한 관행을 준수하는 동시에 데이터 세트와 모델의 편향성을 사전에 해결하도록 보장하는 것이다. 고소 당할 가능성을 파악하라는 것이 아니다. 아니라 언제 고소를 당할 수 있을지 알아보는 능력이 AI 윤리 전문가에게 중요하다. AI 윤리 전문가는 내부 직원이 생성형 AI라는 새로운 실험 도구로 나쁜 짓을 하지 않도록 엄격하게 관리해야 한다.

AI 제품 관리자/소유자는 비즈니스 요구 사항을 기술 사양으로 변환하고 제품 개발이 기업의 목표에 부합하는지 확인한다.

보안 및 규정 준수 책임자는 AI 시스템의 잠재적인 보안 취약점을 해결하고 회사가 모든 관련 데이터 보호법 및 업계 규정을 준수하는지 파악해야 한다.

사용자 경험(UX) 디자이너는 생성형 AI 시스템의 결과물이 사용자와 이해관계자에게 이해하기 쉽고 도움이 되도록 지원한다.

통합 전문가는 생성형 AI 시스템을 기존 IT 인프라와 워크플로우에 통합하는 개발자 또는 엔지니어다.

이 외에도 지원 및 유지보수 담당자, 비즈니스 분석가, 개발 엔지니어, 법률 자문가 등이 필요할 수 있다. 이는 전통적인 개발 과정에도 필요하지만 생성형 AI 프로젝트에서도 여전히 필요한 인력이다.

생성형 AI 아키텍트도 필요하다. 생성형 AI 아키텍트는 프로젝트와 팀을 이끌고 성과를 위해 어려운 결정을 내리기도 한다.

물론 각 회사에서 필요한 팀은 위에서 제시한 예시와 조금 다를 수 있다. 다만 일반적인 상황에서 필요한 인력일 테니 참고하길 바란다.

*필자 데이비드 린티컴은 컴퓨팅과 관련한 13권의 책을 집필한 전문가다. 가장 최근에 출판한 책은 ‘클라우드 컴퓨팅을 위한 내부 가이드(An Insider’s Guide to Cloud Computing.)’다.
ciokr@idg.co.kr