‘긴 호흡으로 차근차근’ 생성형 AI를 기업에 품는 방법

1. 개발자 생산성 노하우 향상
2. 로우 코드 및 노코드 사용자 수준 향상
3. 문서 및 데이터 이해
4. 비즈니스 사용자의 워크플로우 속도를 높이기
5. 카피라이터, 콘텐츠 마케터, 디자이너의 비서


1. 개발자 생산성 노하우 향상
코딩은 종종 예술과 과학 사이의 어딘가로 간주된다. 그럼에도 불구하고 프로그래밍에는 일상적이고 반복적인 작업이 많다. 클라우드 플랫폼과 모듈 리포지토리의 등장은 애플리케이션 작성 작업이 변화했음을 의미한다. 마치 알고리즘 개발과 마찬가지로 구성 요소와 API를 결합하고, 기존 코드를 리팩토링하고, 환경을 최적화하고, 파이프라인을 조율하는 작업들이 중요해진 것이다. 

이러한 작업의 대부분은 자동화 및 AI 지원에 적합하다. 그러나 영향과 효과를 모니터링하려면 이러한 도구를 어디에 어떻게 사용하고 있는지 알아야 한다. 본격적인 코딩 어시스턴트로 전환하기 전에 특정하고 일반적인 작업의 속도를 높여주는 일회용 도구부터 시작할 수 있다.

문서화는 매우 중요하지만 종종 간과되는 부분이기도 하다. 생성형 AI를 사용하여 코드베이스를 문서화할 수 있다. 뿐만 아니라, 문서에 채팅 인터페이스를 구축하여 개발자가 작동 방식을 묻고 사용할 수 있도록 하거나 일반적인 검색 상자를 대체할 수 있다. 이렇게 하면 일반 문서가 대화형 프로그래밍으로 전환됨에 따라 AI가 데이터를 가져와 쿼리 작성 방법 등을 보여줄 수 있게 된다.

테스트는 소홀히 다루기 쉬운 또 다른 영역이다. 자동화된 단위 테스트 생성은 훨씬 더 광범위한 테스트 범위를 확보하는 데 도움이 된다. 커밋 봇은 또한 개발자가 사용자와 다른 개발자에게 유용하기에 충분한 정보를 포함하는 메시지를 작성하는 데 도움을 줄 수 있으며, 생성형 AI는 업그레이드 및 시스템 재부팅 작업 등을 문서화하는 IT 직원에게도 도움이 될 수 있다.

또한 AI에게 원하는 것을 알려줌으로써 백엔드 로직 및 기타 상용구를 생성하여 개발자가 애플리케이션의 더 흥미롭고 창의적인 부분에 집중할 수 있도록 하는 것도 중요하다. 그리고 생성형 AI를 사용하여 자체 코드모드(대규모 코드 베이스에서 반복적이고 시간 소모적인 작업을 자동화하는 스크립트)를 작성하거나, 기업이 원하는 스타일에 더 잘 맞도록 기여 음성과 톤을 수정하는 데 도움을 요청할 수 있다. 

깃허브 코파일럿(GitHub Copilot)과 대규모 언어 모델(LLM)로 빌드 되는 IDE와 같은 코딩 어시스턴트는 이 모든 작업을 수행할 수 있다. 그러나 개발자를 대체해서는 안 된다. AI는 보안 취약점이나 성능 병목 현상, 누락, 잘못된 결정 또는 단순한 실수가 있을 수 있는 문제를 감지하지 못할 수 있다. 또 리포지토리의 학습을 기반으로 코드를 생성하기 때문에 개발자가 자신이 작성하지 않은 코드(및 그 코드가 동작하는 컨텍스트)를 이해하고 평가해야 한다.

이 밖에 기업에서 AI로 생성된 코드를 추적하여 감사하고 유용성을 평가하는 방법에 대한 고민이 요구된다. 개발자들은 깃허브 코파일럿(GitHub Copilot)을 사용할 때 생산성이 보다 더 향상되고 좌절감을 적게 느낀다고 보고했EK. 마이크로소프트는 코파일럿(Copilot) 사용자가 확인한 코드의 40%가 수정되지 않은 AI 생성 코드라고 말했다. 한편 현재는 개발자가 IDE 세션을 떠나면 해당 출처가 사라지므로 AI 도구 사용 방법을 기록하는 내부 지침을 마련할 필요가 있다.

2. 로우 코드 및 노코드 사용자 수준 향상
비즈니스 사용자는 AI 어시스턴트가 생성한 코드를 평가할 전문 지식이 없다. 그러나 로우 코드 및 노코드 환경은 각종 한계를 설정해두기에 생성형 AI 도구로 인한 문제가 발생할 가능성이 훨씬 적다.

로우 코드 앱이 데이터를 검색하고 필터링해야 하는 경우가 많다. 이미 여러 로우 코드 플랫폼은 이미 조회 쿼리를 생성하거나 반환되는 데이터(예를 들면 프로그래밍 방식으로 누락된 우편번호과 같은 것)를 정제할 수 있는 생성형 AI 기능이 추가되어 있기도 하다. 이러한 기능들은 데이터베이스 전문 지식이 없는 비즈니스 사용자도 미리 만들어진 컴포넌트에 얽매이지 않고 전문 개발자가 쿼리 문자열을 작성할 때까지 기다릴 필요 없이 더 많은 작업을 수행할 수 있게 해준다. 

센서스GPT(Census GPT)와 같은 오픈소스 도구를 사용하면 대규모 공개 데이터 세트를 더 쉽게 쿼리할 수 있다.

코드 어시스턴트는 전문 개발자만을 위한 것이 아니다. Wix 인공 디자인 인텔리전스(Artificial Design Intelligence, ADI)는 코드 생성과 생성형 디자인을 혼합하여 전체 웹사이트를 구축할 수 있으며, 유이자드(Uizard)는 웹 사이트 및 앱 프로토 타입에 대해 동일한 작업을 수행한다. 프론티(Fronty)는 이미지를 HTML 및 CSS로 변환하고 마이크로소프트 파워앱스의 익스프레스(Express) 디자인은 손으로 그린 스케치 또는 피그마(Figma) 파일을 백엔드까지 갖춘 작업 앱으로 변환한다.

오늘날 로우 코드, 노코드 플랫폼 상당수는 이미 챗GPT 및 기타 오픈AI API를 사용할 수 있도록 하고 있다. 그러나 생성된 텍스트 또는 이미지에 수반되는 경고나 안내가 로우 코드 환경에서 올바르게 표시되는 지 확인해야 한다. 또 피드백을 제공하는 방법이 있는지, 그리고 직원이 먼저 검토하지 않고 고객에게 직접 제공할 수 있는지에 대한 회사의 정책을 직원이 알고 있는지 확인해야 한다.

3. 문서 및 데이터 이해
빙 챗 덕분에 수백만 명의 새로운 사용자가 마이크로소프트의 검색 엔진에 유입되었다. 하지만 LLM이 작동하는 방식은 기본적으로 문장과 단락을 자동 완성하여 쿼리 프롬프트와 일치하는 텍스트를 생성하는 것이며, 이는 오류와 ‘환각’이 발생할 수 있음을 의미한다. 또한 원하는 정보가 존재하지 않는 경우에도 모델은 그럴듯한 정보를 생성하려고 시도한다. 

제공된 정보가 정확하고 해당 분야의 대부분의 전문가가 말하는 것과 일치하더라도 응답이 불완전하고 부정확할 수 있으며, 전문가가 아닌 경우 무엇이 누락되었는지 모를 수도 있다.

이러한 문제는 엔터프라이즈 검색에서도 큰 문제가 될 수 있다. 곧 출시될 마이크로소프트 365 코파일럿(Microsoft 365 Copilot) 도구는 마이크로소프트 그래프(Microsoft Graph)를 활용해 조직 데이터에 근거를 두고 참조를 제시함으로써 문제를 해결하려 한다. 그러나 여전히 사용자가 직접 추가해야 하는 중요한 사항을 놓칠 수 있다.