Offcanvas

개발자 / 소프트스킬 / 애플리케이션 / 인문학|교양 / 자기계발

소프트웨어 개발자에게 윤리 강령이 필요할까?

2017.01.13 Sharon Florentine  |  CIO
‘타인에게 해가 되는 일을 하지 말 것.’ 일평생 의사로서 윤리 강령에 따라 행동하겠다는 의지를 약속하는 히포크라테스 선서의 기본 메시지다. 의사뿐 아니라 법관에서 배관공, 공사장 인부에 이르기까지 대중에게 영향을 미치는 직종에 종사하는 이들은 거의 예외 없이 이러한 윤리 강령을 품고 있어야 한다.

그러나 어째서인지 테크놀로지 업계 만은 윤리 강령에 대한 논의가 드물다. 물론 개별 기관이나 기업의 내부적 행동 강령은 있다. 미국계산기기학회(ACM, Association for Computing Machinery)의 가이드라인이나 IEEE-CS(Institute of Electrical and Electronics Engineers - Computer Science)의 소프트웨어 엔지니어링 행동 규범이 그 좋은 예이다. 그러나 테크놀로지 업계 전반에 적용되는 하나의 통일된 윤리 강령 및 기준은 존재하지 않는다.

하지만 테크놀로지 업계에도 그런 강령이 하나쯤 필요하지 않을까? 2015년 폭스바겐 사의 엔지니어들이 배기가스 배출 기준을 속이도록 자동차를 프로그램한 것이 드러났고, 2016년 미국 대선 시기에는 페이스북이 거짓 뉴스로 몸살을 앓았다. 또, 대선에 러시아 해커들이 개입했다는 사실에 나라 전체가 떠들썩하기도 했다. 그 결과 도널드 트럼프 대통령 당선인은 미국 내 이슬람 교도들의 신원 명단을 계속해서 기록해 나가겠다는(혹은 새로운 명단을 도입하겠다는) 공약을 당당히 내세우는 지경까지 왔다.


Credit: Gerd Altmann / Pixabay

선, 악의 이분법?
소프트웨어를 비도덕적인 용도로 이용한 사례는 곳곳에서 목격된다. 자신이 개발한 제품이, 테크놀로지가, 한 줄의 코드가 궁극적으로 어떻게 쓰일 지를 미리 완벽히 파악하기는 불가능하다. 따라서 도덕적 책임은 소프트웨어 패키지, 앱, 솔루션을 만드는 이들이 져야 한다

Scrum.org의 제품 소유자 데이브 웨스트는 “마감 기한에 쫓기거나, 당장 먹고 살기가 급급한 상태라면 무엇이 옳고, 그른지를 파악하기란 말처럼 쉬운 일이 아니다. 이런 상황에서 윤리 강령은 전문가들이 의지할 수 있는 맥락 혹은 기준으로 기능할 수 있다. 개인적으론 이런 강령이 꼭 필요하다고 생각한다. 그러나 한편으론 서로 다른 시각을 가진 산업에서 모두가 동의할만한 강령을 마련하기란 간단한 일이 아니라는 사실에 역시 동의한다”라고 말했다.

웨스트는 이어 “그럼에도 불구하고 표준화된, 산업 전반을 아우를 수 있는 윤리 강령을 지지한다. 이미 우리에겐 소프트웨어 개발을 통해 사회 발전에 기여한다는 사명이 존재한다. 직업적 책임에 대해 회의감이 드는 순간, 우리는 한 걸음 물러서 내가 옳다고 믿는 것은 무엇인지, 스스로가 그 기준에 맞는 일을 하고 있는지 자문해볼 수 있다. 그리고 위와 같은 사명은 확고한 지침으로서 이 질문에 대한 답을 제시해 줄 것이다”라고 주장했다.

그러나 현실적인 어려움에 대한 목소리도 있다. AI 기반 인력 모집 서비스 기관 하이어링솔브드(HiringSolvrd)의 설립자 겸 CEO 숀 버튼은 테크놀로지가 이용될 수 있는 모든 가능성, 효과와 부작용을 이해하고 선악의 가치 판단을 하는 것은 불가능한 일이라고 지적했다.

‘무기’는 따로 정해져 있지 않다
그는 “모든 툴은 어떻게 사용하는가에 따라 무기가 될 수 있다. 우리가 사용하는 AI나 자동화 기술만 해도 둘 다 쉽게 액세스 가능하며 득이 될 수도, 해가 될 수도 있는 것들이다”라고 설명했다.

그는 이어 “우리 회사에서는 AI 기술을 활용해 되도록 다양한 지원자들을 스크리닝 할 수 있도록 돕고 있지만, 의도를 조금만 바꾸면 특정 민족이나 인종, 성별의 사람들을 골라내는 데 쓰일 수도 있을 것이다. 우리 회사 역시 자체적인 행동 강령을 준수하고 있지만, 기술을 활용함에 있어 발생할 수 있는 잠재적이고 우발적인 결과가 있을 수 있음을 인정하고 있다”라 덧붙였다.

업계 전반을 아우르는 윤리 기준이 없다 보니, 기업이나 개인 차원에서 자신의 행동 규범을 공식적으로 선언하는 사례도 증가하고 있다. 지난 12월, NeverAgain.tech 운동은 “헌법에서 보호하는 종교적 믿음에 따라 사람들을 분류하는 데이터베이스 구축을 거부할 것, 정부의 독단으로 바람직하지 못하다고 판단한 사람들의 대량 추방에 우리의 테크놀로지가 이용되는 것을 거부할 것”을 선언했다. 현재까지 약 2,500명이 여기에 서명했다.

그럽허브(GrubHub) CEO 매트 말로니 역시 타인을 깎아 내리고 차별하는 행동 및 언어 사용에 반대한다는 개인적인 소신을 밝혔다. 오라클 경영자 조지 폴리스너는 공동 CEO가 차기 대통령 행정부의 발탁을 수락하자 공식적으로 경영자 자리에서 사임하기도 했다.

여러 가치관과 기준들이 존재하는 상황에서 절대적인 옳고 그름을 판단하기란 쉽지 않다. 하나의 단일한 윤리 강령을 마련하는 것도 솔루션이 될 수 있지만, 그보다 중요한 것은 ‘올바른 질문’을 던지는 방법을 교육하는 것이라고 Scrum.org의 웨스트는 말했다.

웨스트는 “개인적으로, 윤리 교습에 관한 교육이 좀 더 이뤄지길 바란다 단순히 이론적인 이야기만 하는 것이 아니라, 실제 직업 현장에서 요구되는 교육들 위주로 말이다. 직업 현장이라는 문맥에서 유리된 윤리 교육은 무용하기 때문이다. 또한 대부분의 경우 소프트웨어 개발은 개인들이 혼자서 하는 작업이 아니고, 이들이 ‘잘못된’ 결정을 내릴 때도 그것은 한번에 일어나는 일이 아니라 점진적으로 누적되며 발생하는 일이라는 사실도 중요하다”고 말했다.

버튼은 올바른 질문을 가르치려면 우선 어떤 질문이 올바른가를 알아야 하고, 또 사람들의 가치관이 다 다르다는 점을 인정해야 한다고 말했다. 원자로를 조작하고, 드론이나 스마트 폭탄의 타겟팅 시스템을 개발하는 것에 별다른 거부감을 느끼지 못하는 이들도 있기 때문이다.

그는 “이제 기술을 이용해 ‘만들 수 있느냐’는 문제가 되지 않는다. 우리가 가진 테크놀로지와 역량을 활용하면 생각하는 거의 모든 것들을 만들어 낼 수 있기 때문이다. 진짜 질문은 만일 그런 것들을 만든다면 ‘잘못될 경우 대비책은 있는지, 혹시라도 발생할 수 있는 해로운 영향력을 최소화 할 수 있는 방법은 무엇인지’가 될 것이다”라고 말했다.

여기에 ‘정답’이란 있을 수 없으며 윤리 강령이 모든 윤리적 문제를 해결해줄 만능 열쇠일 수도 없다. 그럼에도 기업과 개발자들이 보다 선량한 목적으로, 또는 해가 되지 않도록 기술의 힘을 이용함에 있어, 이는 가치 있는 지침으로 기능할 것이다. ciokr@idg.co.kr 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.