칼럼 | ‘책임감 있는 기술 개발’… 조직에 기술 윤리를 적용하는 5단계

최근 조직 내 AI 역량이 가속화되면서 윤리 프레임워크의 필요성도 대두되고 있다. 기술 윤리는 설계 및 개발에도 도움이 될 수 있다. 이를 조직에 적용하고 영향력을 발휘하도록 하는 방법을 소개한다.
 

생성형 AI 혁신은 지난 1년 동안 IT 업계의 주요 과제로 떠오르며 빠르게 발전했다. 하지만 이로 인해 또 다른 문제도 구체화됐다. IT 리더들이 오랫동안 인식하고 있었지만 프로그램적으로 해결한 사람이 드물었던, 기술 윤리(tech ethics)의 문제다. 

생성형 AI의 문제점은 점점 더 주목받고 있다. 지난 6월 열린 예일 CEO 서밋(Yale CEO Summit)에서 조사된 바에 따르면, 기업 CEO 119명 중 42%는 AI가 향후 10년 동안 인간성을 파괴할 가능성이 있다고 내다봤다. 실제로 카네기멜론(Carnegie Mellon), AI안전센터(Center for AI Safety), 보쉬AI센터(Bosch Center for AI)가 공동 발표한 보고서에는 AI 챗봇의 안전 조치를 우회해 유해하고 위험한 콘텐츠를 생성하는 방법이 얼마나 쉬운지 제시됐다. 

문명이 심각한 피해를 입을 수 있다는 전망에 직면하자, 일부 기술 리더들은 개발 중단, 법적 규제라는 2가지 대안을 제시하기도 했다.

허나 개발 중단은 비현실적이며 규제는 수립하는 데 시간이 소요된다. 기술을 안전하게 개발하고 사회적 과제에 집중하도록 공공-민간 파트너십이 구체화되기까진 적어도 수 개월이 걸릴 수 있다. 기업은 쉽게 또는 신속하게 협업을 결정하지 않기 때문이다. 

이 접근 방식은 AI 시스템을 안전하게 설계하고 개발하기 위해 분명 필요하다. 다만 기술을 활용하려는 기업은 원칙에 입각해 신중하게 접근해야 하고, 실질적인 기술 개발을 통해 지원해야 한다. 많은 이가 기술이 책임감 있게 배포되기를 원한다고 하지만, 이를 당장 실현하기란 쉽지 않다. 윤리적 기술(ethical technology)이 기술의 구현 단계가 아니라 설계와 개발 단계에서 시작되기 때문이다. 

필자는 기업에서 근무한 경험과 연구를 바탕으로, 규제가 마련되기 전에 IT 리더들이 따를 수 있는 단계별 로드맵을 제시했다. 이 로드맵에서는 윤리적이며 인도적인 기술 개발을 위한 5가지 모범 관행을 언급했으며, 규제를 기다리지 않고도 윤리적으로 기술을 개발하는 데 필요한 일련의 도구를 제공했다. 

1. 리더십이 가장 중요하다
로드맵의 1단계는 기술 윤리 리더십의 안목과 방향에 집중하는 것이다. 기술 윤리 능력을 개발하고 책임감 있는 기술 개발에 자원을 투입하기 위해서는 고위 임원진의 지원이 필요하다. 경영진은 기술 부문의 모범 윤리 관행에 대해 확실히 알고 있는가?

조직의 변화를 유도하기 위해서는 기술 윤리 책임자를 지정할 필요가 있다. 이 직책을 맡은 책임자는 기초 원칙을 중심으로 기술 윤리 성명의 작성을 주도하고, 조직의 리더가 기본적인 기술 윤리 소양과 윤리 문화 구축에 대한 의지를 갖고 있는지 확인하기 위해 솔직하게 소통할 수 있어야 한다. 이를 바탕으로 조직의 다른 구성원들에게 동참할 것을 요청해야 한다. 

2. 문화도 그만큼 중요하다
자체 조사에서는 조직 전반에 윤리가 자리잡는 데 ‘특정 조건’이 필요한 것으로 나타났다. 2번째 단계는 윤리에 대한 조직의 출발점을 파악하기 위해 현재의 문화와 관행을 중심으로 ‘기본 평가’를 수행하는 것이다. 

조직에 윤리 실천을 장려하는 환경이 갖춰졌는지 확인하는 것도 이 단계의 주요 과제다. 또한 조직의 제품 개발 관행을 검토해 설계 단계에서 윤리적 요건을 고려하고 있는지, 현재 윤리적 설계 원칙이 적용되고 있는지, 어떤 종류의 사용자 교육 및 합의가 존재하는지, 어떤 직원 개발 관행이 있는지 등의 조건도 파악해야 한다. 

3. 방향 설정을 위해 ‘전체론적(holistic)’으로 접근하라
기술 거버넌스 프레임워크에 대한 관심이 급증하면서, 기업은 자체적인 프레임워크를 확보하기 위해 나서고 있다. 프레임워크는 기업의 책임감 있는 기술 설계, 개발, 배포에 대한 방향성을 설정한다. 3단계에서 제시하는 ‘전체론적 프레임워크’는 개발 중인 기술뿐만 아니라 기술을 만드는 조직까지 고려해야 한다는 것을 의미한다.

필자는 윤리와 관련해, 조직이 가장 추상적인 수준에서 구체적이고 실용적이며 행동 지향적인 원칙으로 나아가는 데 도움이 되는 4개의 원칙 계층(기준, 지침, 구체화, 실행)을 파악했다. 이는 조직이 추구하는 가치에 따라 정책 및 제품 결정을 용이하게 하기 위한 원칙이다. 필자는 저서에서 일련의 원칙을 제시했지만, 각 조직은 전략과 성숙도에 적합한 원칙을 활용할 수 있다. 

이 단계에서는 조직이 단순이 고귀한 원칙을 명시하면 끝이라는 생각이 잘못됐다고 인식하는 것이 중요하다. 조직은 원칙을 뒷받침할 행동을 정의해야 한다. 

4. 윤리를 생활화하라
윤리가 규칙적이고 일관되게 적용되려면 조직의 관행에 스며들어야 한다. 4번째 단계에서는 윤리를 적용하는 데 필요한 사고방식과 문화를 개발하는 방법, 책임감 있는 기술을 개발하기 위한 제품 수명주기 관리 프로세스를 모두 다룬다. 이 단계의 조직은 3단계에서 개발한 프레임워크의 관점과 2단계 기본 평가에서 얻은 결과를 적용하고 있을 것이다.

만약 조직에 윤리를 제대로 적용할 수 있는 조건이 부족하다고 파악될 경우, 이 4번째 단계의 일환으로 개발할 수 있다. 먼저 직무 설명 및 성과 검토는 조직이 현재 활용 중인 책임감 있는 기술 프레임워크를 반영해 업데이트할 수 있다. 이해관계자의 윤리 가치 요구사항이 아직 정의되지 않았다면, 조직의 제품 또는 서비스 개발 주기에 추가한다. 기술 교육을 실시하고 윤리적 가치를 표준 운영 검토의 대상으로 삼는다. 이를 바탕으로 기술 사용 및 사용자 계약에 대한 회사의 정책을 개발한다. 

책임감 있는 기술 프레임워크는 조직의 모든 업무에 윤리적 의사결정을 통합하는 데 활용할 수 있다. 조직의 기술 윤리 성명은 이제 경영 관행의 기준이 되고 있으며, 윤리적 기술 책임자는 조직의 모든 의사결정 과정에 원칙을 적용할 수 있는 정책 개발을 주도하고 있다. 

5. 체계적인 조치와 관행을 적용하라
로드맵의 5번째 단계는 조직이 지속적으로 발전해 나갈 수 있도록 관행을 구축하는 것이다. 이 단계는 매년 주기적으로 수행해야 하는 작업으로, 개발된 프레임워크와 정책이 제대로 적용되고 있는지 확인하고, 프레임워크 적용과 관련된 의사소통이 조직 내외부에서 잘 이뤄지고 있는지 확인해야 한다. 2단계에서 수행한 기본 평가의 진행 상황을 업데이트하고 연도별 개선 수준을 제시해야 하는 단계다. 

여기에서 설명한 항목은 기술 자체만큼 매력적이진 않을 수 있다. 하지만 위험이 내재된 신기술을 안전하게 도입하고 지속 가능한 관행을 구축하려면 반드시 거쳐야 하는 경로다. 관행을 잘 구축하기 위해 기업인은 개발 중인 기술뿐만 아니라 업무가 이뤄지는 조직도 고려해야 한다. 이 여정은 다른 길에 비해 더 많은 시간이 소요되는 것처럼 보일 수 있다. 하지만 적절한 로드맵을 갖춘다면 길을 잃을 가능성도 크게 낮출 수 있다. ciokr@idg.co.kr