2020.10.08

칼럼ㅣ ‘윤리’ 앞에 선 기술, 누구의 책임인가?

Jeff Fried | IDG Connect
오늘날 기업들이 더욱더 광범위한 목적으로 데이터를 사용하기 시작했다. 인공지능(AI), 머신러닝(ML)과 같은 기술 또한 나날이 발전하고 있다. 이에 따라 애플리케이션 개발 분야에서도 ‘윤리(Ethics)’ 문제가 부상하고 있다. 새로운 기술 애플리케이션을 구축한다면 이제 자문해야 할 질문은 ‘이것을 할 수 있을까?’가 아니다. 바로 ‘해야 하는가?’와 ‘윤리적인가?’다. 
 
ⓒGetty Images

개발자들에게 윤리적 문제에 관한 거버넌스가 주요 고려사항으로 자리잡고 있다. 이를테면 애플리케이션에서 어떤 데이터를 수집할지, 그리고 이를 어떻게 사용할지 등이다. 인터시스템즈(InterSystems)의 최근 보고서에 따르면 82%의 개발자는 윤리적 문제가 그 어느 때보다 더 중요하다고 답했다. 

여기에 더해, 코로나19 사태로 데이터 사용 및 공유가 급격히 늘어났고 이것 역시 윤리적 인식 개선에 영향을 미쳤을 가능성이 높다. 예를 들면 식당이나 영화관 등 여러 다중이용시설에서 앱과 웹 사이트를 통해 고객 개인 데이터를 수집하고 저장했기 때문이다. 

그러나 이 가운데서도 기업들은 개발자가 윤리적 문제를 누구에게 보고해야 하며, 개발자 본인은 어떤 책임을 져야 하는지 합의를 내지 못하고 있다. 새로운 앱 개발 시 윤리적 문제를 책임져야 하는 사람은 정확히 누구인가? 그리고 개발자는 어떤 역할을 해야 하는가? 

현황
인터시스템즈 보고서에 의하면 개발자 조직 내에서 ‘윤리’에 관한 일관된 기준이 없는 것으로 나타났다. 28%의 개발자는 윤리적 문제를 법무팀 또는 HR팀에 보고한다고 말했다. C-레벨 경영진(23%), 별도의 윤리 책임자(19%)에 보고한다는 응답이 뒤를 이었다. 

놀랍게도, 16%는 윤리적 문제에 관한 책임을 개발자들이 맡고 있다고 밝혔다. 이처럼 일관되지 않은 보고 라인은 개발자를 혼란스럽게 하기 마련이다. 전체 응답자 가운데 13%는 윤리적 문제를 누구에게 보고해야 하는지 모른다고 답하기도 했다. 

정리하자면, 개발자가 직면할 수도 있는 윤리적 문제뿐만 아니라 이를 누구에게 보고하고 도움을 받아야 하는지에 관해 인식을 개선할 필요가 있다. 게다가 앞으로 사이버 보안, 데이터 사용, 인공지능 및 머신러닝과 관련한 윤리적 문제가 증가할 확률이 높기 때문에 이는 중요하다. 

또한 이러한 윤리적 문제는 데이터 사용 및 처리와 관련돼 있는 경우가 많다. 윤리적 딜레마를 해결하려고 할 때 기업은 누가 데이터를 책임지며, 데이터를 어떻게 사용하는지에 관해 명확한 입장을 밝혀야 한다. 

해결책 찾기
가장 효과적인 접근법은 ‘데이터 및 윤리 책임자’를 두는 것이다. 예를 들면 데이터 보호 책임자(Data Protection Officer), 신뢰 및 윤리 책임자(Trust and Ethics Officer), 최고 윤리 책임자(Chief Ethics Officer) 등을 임명해 관련 컴플라이언스와 신뢰를 모두 확보할 수 있다. 

기업은 이러한 ‘책임자’를 둠으로써 내부 직원은 물론 고객에게 긍정적인 메시지를 전달할 수 있고, 더 나아가 프라이버시, 보안, 윤리가 조직 문화의 중심에 있다는 사실을 널리 알릴 수 있다. 개발자의 경우, 윤리적 문제 혹은 데이터 사용과 관련해 누구와 이야기해야 하는지가 명확하다면 개발 중인 애플리케이션이 규정 및 모범 사례를 준수하는지 쉽게 확인할 수 있다. 

이와 관련해 보고서는 개발자들이 애플리케이션의 규정 준수를 확인하고자 다양한 프로세스를 진행하고 있다고 지적했다. 절반 이상(52%)의 개발자는 관련 책임자와 함께 작업한다고 말했고, 27%는 거버넌스 프레임워크를 사용하며, 18%는 어떤 역할도 하지 않는다고 밝혔다. 

이어서 보고서는 현재 개발자 10명 가운데 8명 이상이 이로 인한 부담을 느낀다고 덧붙였다. 따라서 통합된 프로세스를 구축하고 개발자가 윤리적 문제를 전부 책임지지 않도록 한다면 이들의 부담을 줄일 수 있을 것이다. 

그 일환으로 표준과 프레임워크를 포함한 ‘지능형 데이터 플랫폼’을 사용하면 개발자들이 규정에 따라 모든 애플리케이션을 개발하도록 지원할 수 있다. 이는 개인 데이터를 대량으로 저장하는 금융 및 의료기관이라면 특히 중요하다. 이렇게 ‘기술’을 사용하면 처음부터 애플리케이션에 ‘윤리’를 더욱더 쉽게 적용할 수 있고, 참여해야 하는 사람과 프로세스의 수를 간소화할 수도 있다. 

윤리적 기술의 더 넓은 맥락
사용자들이 경제적, 편의적 요인뿐만 아니라 개인 데이터를 얼마나 잘 보호하는지에 따라 기업을 선택하기 시작하면서 ‘윤리’는 경쟁 우위를 점할 수 있는 차별화 요소가 될 것이다. 따라서 데이터를 사용하고 새로운 기술을 개발할 때 ‘윤리’에 우선순위를 두는 것은 무엇보다 중요하다. 

이제 기업은 데이터로 ‘무엇을 할 수 있는지’ 보다 ‘무엇을 해야 하는지’에 대해 끊임없이 생각하고 고민해야 한다. 또 데이터 사용 및 윤리적 문제를 관리할 책임자를 두는 것은 물론 이러한 사고방식을 조직 전체에 적용해야 한다. 

기술 및 데이터에 관해 윤리적인 접근 방식을 취한다면 기업은 규제를 준수하는 동시에 고객의 신뢰와 충성도를 얻는 큰 진전을 이룰 수 있을 것이다.

* Jeff Fried는 인터시스템즈의 제품 관리 부문 이사다. 데이터 관리, 텍스트 분석, 엔터프라이즈 검색 및 상호운용성에 관련한 다양한 경험을 가지고 있다. ciokr@idg.co.kr
 



2020.10.08

칼럼ㅣ ‘윤리’ 앞에 선 기술, 누구의 책임인가?

Jeff Fried | IDG Connect
오늘날 기업들이 더욱더 광범위한 목적으로 데이터를 사용하기 시작했다. 인공지능(AI), 머신러닝(ML)과 같은 기술 또한 나날이 발전하고 있다. 이에 따라 애플리케이션 개발 분야에서도 ‘윤리(Ethics)’ 문제가 부상하고 있다. 새로운 기술 애플리케이션을 구축한다면 이제 자문해야 할 질문은 ‘이것을 할 수 있을까?’가 아니다. 바로 ‘해야 하는가?’와 ‘윤리적인가?’다. 
 
ⓒGetty Images

개발자들에게 윤리적 문제에 관한 거버넌스가 주요 고려사항으로 자리잡고 있다. 이를테면 애플리케이션에서 어떤 데이터를 수집할지, 그리고 이를 어떻게 사용할지 등이다. 인터시스템즈(InterSystems)의 최근 보고서에 따르면 82%의 개발자는 윤리적 문제가 그 어느 때보다 더 중요하다고 답했다. 

여기에 더해, 코로나19 사태로 데이터 사용 및 공유가 급격히 늘어났고 이것 역시 윤리적 인식 개선에 영향을 미쳤을 가능성이 높다. 예를 들면 식당이나 영화관 등 여러 다중이용시설에서 앱과 웹 사이트를 통해 고객 개인 데이터를 수집하고 저장했기 때문이다. 

그러나 이 가운데서도 기업들은 개발자가 윤리적 문제를 누구에게 보고해야 하며, 개발자 본인은 어떤 책임을 져야 하는지 합의를 내지 못하고 있다. 새로운 앱 개발 시 윤리적 문제를 책임져야 하는 사람은 정확히 누구인가? 그리고 개발자는 어떤 역할을 해야 하는가? 

현황
인터시스템즈 보고서에 의하면 개발자 조직 내에서 ‘윤리’에 관한 일관된 기준이 없는 것으로 나타났다. 28%의 개발자는 윤리적 문제를 법무팀 또는 HR팀에 보고한다고 말했다. C-레벨 경영진(23%), 별도의 윤리 책임자(19%)에 보고한다는 응답이 뒤를 이었다. 

놀랍게도, 16%는 윤리적 문제에 관한 책임을 개발자들이 맡고 있다고 밝혔다. 이처럼 일관되지 않은 보고 라인은 개발자를 혼란스럽게 하기 마련이다. 전체 응답자 가운데 13%는 윤리적 문제를 누구에게 보고해야 하는지 모른다고 답하기도 했다. 

정리하자면, 개발자가 직면할 수도 있는 윤리적 문제뿐만 아니라 이를 누구에게 보고하고 도움을 받아야 하는지에 관해 인식을 개선할 필요가 있다. 게다가 앞으로 사이버 보안, 데이터 사용, 인공지능 및 머신러닝과 관련한 윤리적 문제가 증가할 확률이 높기 때문에 이는 중요하다. 

또한 이러한 윤리적 문제는 데이터 사용 및 처리와 관련돼 있는 경우가 많다. 윤리적 딜레마를 해결하려고 할 때 기업은 누가 데이터를 책임지며, 데이터를 어떻게 사용하는지에 관해 명확한 입장을 밝혀야 한다. 

해결책 찾기
가장 효과적인 접근법은 ‘데이터 및 윤리 책임자’를 두는 것이다. 예를 들면 데이터 보호 책임자(Data Protection Officer), 신뢰 및 윤리 책임자(Trust and Ethics Officer), 최고 윤리 책임자(Chief Ethics Officer) 등을 임명해 관련 컴플라이언스와 신뢰를 모두 확보할 수 있다. 

기업은 이러한 ‘책임자’를 둠으로써 내부 직원은 물론 고객에게 긍정적인 메시지를 전달할 수 있고, 더 나아가 프라이버시, 보안, 윤리가 조직 문화의 중심에 있다는 사실을 널리 알릴 수 있다. 개발자의 경우, 윤리적 문제 혹은 데이터 사용과 관련해 누구와 이야기해야 하는지가 명확하다면 개발 중인 애플리케이션이 규정 및 모범 사례를 준수하는지 쉽게 확인할 수 있다. 

이와 관련해 보고서는 개발자들이 애플리케이션의 규정 준수를 확인하고자 다양한 프로세스를 진행하고 있다고 지적했다. 절반 이상(52%)의 개발자는 관련 책임자와 함께 작업한다고 말했고, 27%는 거버넌스 프레임워크를 사용하며, 18%는 어떤 역할도 하지 않는다고 밝혔다. 

이어서 보고서는 현재 개발자 10명 가운데 8명 이상이 이로 인한 부담을 느낀다고 덧붙였다. 따라서 통합된 프로세스를 구축하고 개발자가 윤리적 문제를 전부 책임지지 않도록 한다면 이들의 부담을 줄일 수 있을 것이다. 

그 일환으로 표준과 프레임워크를 포함한 ‘지능형 데이터 플랫폼’을 사용하면 개발자들이 규정에 따라 모든 애플리케이션을 개발하도록 지원할 수 있다. 이는 개인 데이터를 대량으로 저장하는 금융 및 의료기관이라면 특히 중요하다. 이렇게 ‘기술’을 사용하면 처음부터 애플리케이션에 ‘윤리’를 더욱더 쉽게 적용할 수 있고, 참여해야 하는 사람과 프로세스의 수를 간소화할 수도 있다. 

윤리적 기술의 더 넓은 맥락
사용자들이 경제적, 편의적 요인뿐만 아니라 개인 데이터를 얼마나 잘 보호하는지에 따라 기업을 선택하기 시작하면서 ‘윤리’는 경쟁 우위를 점할 수 있는 차별화 요소가 될 것이다. 따라서 데이터를 사용하고 새로운 기술을 개발할 때 ‘윤리’에 우선순위를 두는 것은 무엇보다 중요하다. 

이제 기업은 데이터로 ‘무엇을 할 수 있는지’ 보다 ‘무엇을 해야 하는지’에 대해 끊임없이 생각하고 고민해야 한다. 또 데이터 사용 및 윤리적 문제를 관리할 책임자를 두는 것은 물론 이러한 사고방식을 조직 전체에 적용해야 한다. 

기술 및 데이터에 관해 윤리적인 접근 방식을 취한다면 기업은 규제를 준수하는 동시에 고객의 신뢰와 충성도를 얻는 큰 진전을 이룰 수 있을 것이다.

* Jeff Fried는 인터시스템즈의 제품 관리 부문 이사다. 데이터 관리, 텍스트 분석, 엔터프라이즈 검색 및 상호운용성에 관련한 다양한 경험을 가지고 있다. ciokr@idg.co.kr
 

X