칼럼 | 준수 객체에서 정립 주체로··· CIO의 새 화두 ‘IT 윤리’

지금까지의 기업 윤리는 외부에서 정한 기존의 규칙 집합을 준수하는 수준이었다고 할 수 있다. 미래의 윤리적 IT 조직에는 새로운 길이 필요하다. 비즈니스 성패를 좌우할 수도 있는 문제다.
 

생성형 AI는 기업 윤리에 주목하게 만드는 여러 요인 중 하나다. 기업 윤리는 오늘날에도 중요하지만, 조만간 비즈니스의 기본이자 필수 요소로 부상할 가능성이 크다. 5년 후 기업이 인재를 채용 및 유지하고 수익성 있는 상품과 서비스를 설계 및 판매하는 능력은 기업의 윤리성에 대한 평가에 좌우될 것이다.

미디어 헤드라인은 사법부, 입법부, 행정부의 윤리적 문제에 관한 주장(및 반론)으로 가득하다. 도덕적 원칙과 행동에 대한 평가가 사회의 거의 모든 측면으로 확산되고 있으며, 이제 IT에도 영향을 미치고 있다. IT의 윤리성을 확보하기 위해 무엇을 해야 할까?

윤리란 자주 논의되지만 제대로 이해되지 않는 분야 중 하나다. ‘호모 에볼루티스: 다음 인간 종을 만나보세요’의 저자 후안 엔리케스는 ‘기술 시대의 윤리’라는 제목의 강연에서 많은 직원들이 출근 첫날 "무엇이 옳고 그른지"에 대해 지루한 산문으로 선언하는 거대한 윤리 매뉴얼을 받는다고 한탄하며 이야기를 시작했다. 이러한 관행은 신입 직원들에게 다른 사람이 만든 기존의 규칙을 준수하는 것이 윤리의 시작과 끝이라는 잘못된 신호를 보낼 뿐이라는 지적이다. 몹시 잘못된 신호라고 그는 강조했다.

IT 윤리의 목적과 이유
직원들에게 윤리 매뉴얼을 의례적으로 전달하는 관행과 관련해 몇 가지 흥미로운 질문을 제기할 만하다. 첫째, 누가 이 매뉴얼을 작성하고 기업 내 윤리를 모니터링할 책임이 있는가? 둘째, IT 전문가를 위한 윤리 매뉴얼 버전이 있는가?

하버드대학교 존 F. 케네디 정부대학원의 윤리 대학 센터 책임자인 데니스 톰슨의 연구에 따르면, 우리는 적어도 세 가지의 뚜렷하게 다른 윤리를 구분할 필요가 있다.

윤리 전문가들이 흔히 ‘샌드박스 가치’ 또는 ‘주일학교 윤리’라고 부르는 개인 윤리가 하나다. 이어 변호사, 회계사, 의사, 재정 고문, 엔지니어 등 다양한 분야에서 규정하는 행동 강령인 직업 윤리가 두 번째다. 그리고 조직이나 부서의 규범적 행동을 구성하는 기관 윤리가 세 번째다. 이 밖에 개인의 윤리는 가장 가까운 5명의 친구들의 가치관에 대응한다고 가정하는 '집단 윤리' 개념이 부상하고 있다.

호프스트라 대학교 모리스 딘 법학전문대학원에서 '법률 윤리'를, 컬럼비아 대학교 법학전문대학원에서 '직업적 책임'을 가르치는 제니스 마이어 법학 특별교수는 최근 오하이오 주립대학교에서 열린 가상 '정보 관리의 책임' 디지털 솔루션 갤러리에서 발표했다. (마이어의 연설은 30분 15초부터 시작된다.)  그는 이 강연에서 주법과 연방법에서 변호사에게 규정하는 '직업 윤리'와 도덕, 즉 개인의 신념과 가치관 사이에는 차이가 있을 수 있다고 설명했다. 그는 "IT 업계가 직업 윤리를 명확하게 규정하고 있는가?"라고 질문하며, 이는 업계가 노력해야 할 부분이라고 지적했다. 

맥케슨, 웨스트젯, 키스팬의 전 CIO였던 셰릴 스미스는 IT의 직업 윤리를 명확하게 표현하기 위해서는 업계와 학계에서 인정하는 '기술 리더십 관행'이 필수적이라고 주장했다. 윤리는 ‘거짓말하지 않기’, ‘속임수 쓰지 않기’, ‘다른 아이의 장난감을 훔치지 않기’와 같은 단순한 규칙보다 훨씬 더 큰 개념이기 때문이다. 윤리는 환경, 사회, 거버넌스(ESG) 및 다양성, 형평성, 포용성(DEI) 감사에서 '체크 박스'에 체크하는 것 이상이다.

윤리는 인간과 조직이 의사결정을 내리는 방식에 큰 영향을 미친다. AI가 엄청난 양의 데이터를 필요로 할 때 사람들의 개인 정보를 어떻게 보호할 수 있을까? 무인 자동차를 프로그래밍한다고 상상해보라. 충돌 시나리오에 직면했을 때 자동차가 탑승자 한 명을 구해야 할까? 아니면 7명의 보행자를 구해야 할까? 자동차가 노인을 구하는 데 우선순위를 둬야 할까, 아니면 젊은 사람을 구하는 데 우선순위를 둬야 할까? 

분석을 사용할 때 병원은 중환자실의 부족한 병상을 어떤 기준으로 할당해야 할까? 입사 지원자를 선별할 때 어떤 이력서를 거부하고 어떤 이력서를 검토해야 할까? 경찰을 배치할 때 자원을 어디에 집중해야 하는가? IT는 중립적일 수 없다. 조직의 까다로운 윤리적 문제와 동떨어져 있지 않다.

오늘날 기술 윤리에서 특히 주목받는 부분은 조직이 IT 직원을 대하는 방식과 알고리즘의 잘못된 동작을 방지하는 방법(예: 학습 데이터의 편향성을 제거하는 방법)이라고 할 수 있다. 

미래의 윤리적 IT 조직에서는 우리가 내리는 의사 결정과 그에 따른 파급 효과에 대해 염두에 두어야 한다. CIO는 조직의 분위기를 조성하고 무엇이 중요한지, 그리고 무엇이 진정으로 함께 일하는 전문가들의 시간과 관심을 끌 만한 가치가 있는지를 정립해야 한다. 탁월한 조직은 개인적 가치와 조직적 가치가 충돌할 때와 같은 미래의 윤리적 딜레마를 예측하려고 시도할 것이다. 

윤리 분야의 교수들은 윤리적 딜레마에 실제 직면할 때에 대비하는 한 가지 방법으로 가상의 시나리오/사례 연구를 통해 연습함으로써 도덕적 근육을 강화하는 것이라고 말하곤 한다. IT 조직이 진화하는 윤리 이슈에 어떻게 대처할 수 있을까?

* Thornton A. May 는 연사이자 교육가, 컨설턴트로 활약 중인 미래학자다. ciokr@idg.co.kr