2018.03.29

자율주행 차량이 직면한 윤리적인 딜레마

Thomas Macaulay | Techworld
승객을 태운 자율주행 차량 앞에 갑자기 뛰어드는 무단 횡단 보행자가 나타난다면, 자율주행 차량은 어떤 판단을 내려야 할까? 승객을 살리고 보행자를 치어야 할까? 아니면 더 많은 승객이 다치더라도 보행자를 살려야 할까”? 자율주행 차량이 직면한 윤리적 딜레마에 관해 MIT대학 연구소의 연구 결과가 관심을 끌고 있다.



정해진 규칙에 따라 자율주행 자동차가 어떻게 행동할지 판단하는 데 윤리적인 기준을 넣어야 한다지만, 시간이 없다. 기준을 마련하기 전에 자율주행 자동차 개발이 완료될 수 있기 때문이다.

컴퓨터 공학자 이야드 라환은 도덕적 자율주행 자동차를 개발하기 위해 연구를 수행했다.

라환은 MIT 미디어 랩의 부교수로 자율주행 자동차가 직면한 윤리적 딜레마를 연구하고 있는 스케일러블 코퍼레이션(Scalable Cooperation)이라는 팀을 운영하고 있다.

이들의 연구는 사고가 임박한 상황에서 자동차가 승객이나 보행자 생명의 우선순위를 결정하는 등 위험한 선택을 해야 하는 경우 누구를 보호해야 하는지에 대한 규제에 정보를 제공할 것이다.

자동화 규제
매년 125만 명 이상이 교통사고로 사망한다. 연구에 따르면, 무인 자동차는 이런 사망을 최대 90%까지 줄일 수 있으며 미국에서만 1,900억 달러를 절감할 수 있지만 규제 없이는 시장에 출시할 수 없다.

규제는 사람이 제어하는 자동차에 대한 기존의 법규와 같은 방식으로 가치를 반영해야 한다. 이런 도덕성은 사람마다 그리고 좀 더 광범위하게는 문화마다 다르다. 충돌로부터 보호하기 위해 차량 앞에 설치된 보조범퍼(Bull Bar)를 생각해 보자. 이 보조범퍼 때문에 오히려 보행자가 다칠 위험이 높다는 연구 결과가 있다. 그런데도 미국에서 보조범퍼는 합법이고 영국에서는 금지되어 있다.

이런 사고가 발생할 가능성은 주행 결정의 결과에 대한 데이터를 분석해 정량화할 수 있다. 연구원들은 자동차가 3차선 한가운데서 통제를 잃고 왼쪽의 트럭이나 오른쪽의 오토바이 등으로 돌진할 때 무슨 일이 일어나는지 연구하고, 각 선택이 얼마나 자주 차량 운전자의 사망으로 이어지는지 파악하고 있다.

2014년, 구글은 특정 결과를 생성하는 가능성과 각 결과의 중요성에 기초해 이런 위험을 평가하는 컴퓨터 이행 방법을 위한 특허를 제출했다.

이런 유형의 기술은 가장 도덕적인 선택에 대한 어느 정도의 합의가 이뤄졌을 때만 운전 결정으로 귀결될 수 있다. 자동차 제조사들이 윤리적인 딜레마를 논의하고 있으며 메르세데스 벤츠는 최근 논란의 여지가 있는 것으로 파악했다.

메르세데스 벤츠의 한 고위급 임원은 보행자보다 자동차 운전자의 안전을 우선시할 것이라고 언급한 바 있는데 이 사실이 알려진 뒤 언론의 비판을 받았다. 데일리 메일(Daily Mail)은 "메르세데스 벤츠는 자동화된 무인 자동차가 방향을 바꾸어 내부의 승객이 다칠 위험을 감수하기보다는 어린이를 칠 것이라고 인정했다"고 보도했다.

모기업인 다임러 AG는 언론의 부정적인 반응 후 성명을 발표해 "우리는 각각의 법률 체계 및 사회적으로 용인할 수 있는 것을 이행할 것이다"고 밝혔다. 하지만, 그 의미가 무엇인지는 아직도 불명확하다.

아무도 사회적으로 어디까지 용인하고 어디서부터 용인하지 않는지를 정한 적이 없으며, 대중의 관점에 대한 주요 연구가 수행된 적도 없다. 단, 라환과 그의 팀이 이것들을 디지털 방식으로 조사할 방법을 찾아냈다.

윤리적인 자동차
스케일러블 코퍼레이션은 윤리적인 딜레마를 제시하고 사용자에게 선택을 요청하는 모럴 머신(Moral Machine)이라는 플랫폼을 개발했다.

해당 웹사이트는 잠재적인 피해자의 연령, 성별, 인종 및 행동의 변화를 포함하여 2,600만 개의 다양한 딜레마를 생성할 수 있다. 이것들은 10개의 언어로 번역되어 약 400만 명의 사용자들을 대상으로 설문조사를 실시했다. 결과는 집단으로 분석하여 유권자 인구 통계로 분류했다.

라환은 두바이의 GESF(Global Education and Skills Forum)에서 처음으로 초기 발견사항을 공개했다.

그들은 사람들이 승객보다는 보행자에 좀 더 우호적이며 상당수가 어른보다는 어린이를 구할 것이라고 밝혔다.

그들의 선호도는 사고에 관련된 사람들의 행동에 따라 다르다. 약 3/4의 사람들이 방향을 바꾸어 교통 법규를 지키는 행인보다는 무단 횡단 보행자를 칠 것이며, 약 절반은 교통 법규를 준수하는 보행자 1명보다는 무단 횡단 보행자 2명을 칠 것이다. 이 두 비율은 독일에서 더욱 높았다.

---------------------------------------------------------------
무인 자동차 인기기사
->닛산, 2020년에 저가 무인 자동차 생산
-> '운전대, 액셀, 브레이크 없는' 구글의 무인 자동차
->"5년 내 상용화" 자가 운전 자동차 기술, 찬반양론도 가열 중
-> "자동차 자동화 기술, 서서히 도래" 닛산 CEO
-> 스마트폰 이후, 개발자가 관심을 가져야 할 새로운 플랫폼
-> 구글의 차세대 무인 자동차에 대한 흥미로운 사실과 가능성 13가지
->폭스바겐-애플, 비틀+아이폰 '아이비틀' 개발
-> '현실화되는 전격 Z 작전' 자동차가 똑똑해진다
-> 폭스바겐의 달리는 컴퓨터...“전혀 다른 IT 조직 필요”
---------------------------------------------------------------

윤리를 법으로
독일도 초기에 자동화 및 커넥티드 운전에 관한 윤리위원회를 창설했다.

해당 위원회는 이미 일부 의견을 공개했다. 이에 따르면 기술은 치명적인 상황이 발생하지 않도록 하는 것을 우선시하며 부상자 수를 줄이는 일반적인 프로그래밍이 정당화될 수 있지만, 의무적인 것은 아니며 위험 발생에 관련된 당사자들은 관련되지 않은 사람들을 희생시키지 않아야 한다. 즉, 무단 횡단 보행자의 행동이 교통 법규를 지키는 보행자에게 위해가 돼서는 안 된다.

또한 해당 위원회는 연령, 성별 또는 외모 등의 개인적인 특징을 기준으로 하는 차별을 금지했다. 즉, 아동의 안전이 성인의 안전보다 우선시 될 수 없다.

하지만 모랄 머신은 독일의 도덕성이 어느 곳에서나 그대로 반영되는 것이 아님을 증명했다. 전 세계적으로 가치가 다를 수 있기 때문에 범세계적인 기계 윤리는 불가능하다.

라환은 "이런 것들이 교육 및 문화적 가치와 많이 관련되어 있다"고 말했다. 이어서 "우리가 우리만의 가치를 반영한다면 이런 가치를 더욱 이해하고 정량화하기도 해야 하기 때문에 중요하다고 생각한다"고 덧붙였다.

또한 모랄 머신은 인간의 속성에 필수적인 도덕적 긴장을 드러냈다. 사람들이 사회의 선이라는 생각하는 것과 이를 실현하기 위해 노력 의지가 있는 것 사이에는 모순이 존재한다.

이런 충돌이 자율주행 자동차의 성공을 결정할 수도 있다.

라환은 "나를 희생시키는 자동차를 사지는 않겠지만 다른 사람이 그런 차를 샀으면 한다"고 말했다. ciokr@idg.co.kr 



2018.03.29

자율주행 차량이 직면한 윤리적인 딜레마

Thomas Macaulay | Techworld
승객을 태운 자율주행 차량 앞에 갑자기 뛰어드는 무단 횡단 보행자가 나타난다면, 자율주행 차량은 어떤 판단을 내려야 할까? 승객을 살리고 보행자를 치어야 할까? 아니면 더 많은 승객이 다치더라도 보행자를 살려야 할까”? 자율주행 차량이 직면한 윤리적 딜레마에 관해 MIT대학 연구소의 연구 결과가 관심을 끌고 있다.



정해진 규칙에 따라 자율주행 자동차가 어떻게 행동할지 판단하는 데 윤리적인 기준을 넣어야 한다지만, 시간이 없다. 기준을 마련하기 전에 자율주행 자동차 개발이 완료될 수 있기 때문이다.

컴퓨터 공학자 이야드 라환은 도덕적 자율주행 자동차를 개발하기 위해 연구를 수행했다.

라환은 MIT 미디어 랩의 부교수로 자율주행 자동차가 직면한 윤리적 딜레마를 연구하고 있는 스케일러블 코퍼레이션(Scalable Cooperation)이라는 팀을 운영하고 있다.

이들의 연구는 사고가 임박한 상황에서 자동차가 승객이나 보행자 생명의 우선순위를 결정하는 등 위험한 선택을 해야 하는 경우 누구를 보호해야 하는지에 대한 규제에 정보를 제공할 것이다.

자동화 규제
매년 125만 명 이상이 교통사고로 사망한다. 연구에 따르면, 무인 자동차는 이런 사망을 최대 90%까지 줄일 수 있으며 미국에서만 1,900억 달러를 절감할 수 있지만 규제 없이는 시장에 출시할 수 없다.

규제는 사람이 제어하는 자동차에 대한 기존의 법규와 같은 방식으로 가치를 반영해야 한다. 이런 도덕성은 사람마다 그리고 좀 더 광범위하게는 문화마다 다르다. 충돌로부터 보호하기 위해 차량 앞에 설치된 보조범퍼(Bull Bar)를 생각해 보자. 이 보조범퍼 때문에 오히려 보행자가 다칠 위험이 높다는 연구 결과가 있다. 그런데도 미국에서 보조범퍼는 합법이고 영국에서는 금지되어 있다.

이런 사고가 발생할 가능성은 주행 결정의 결과에 대한 데이터를 분석해 정량화할 수 있다. 연구원들은 자동차가 3차선 한가운데서 통제를 잃고 왼쪽의 트럭이나 오른쪽의 오토바이 등으로 돌진할 때 무슨 일이 일어나는지 연구하고, 각 선택이 얼마나 자주 차량 운전자의 사망으로 이어지는지 파악하고 있다.

2014년, 구글은 특정 결과를 생성하는 가능성과 각 결과의 중요성에 기초해 이런 위험을 평가하는 컴퓨터 이행 방법을 위한 특허를 제출했다.

이런 유형의 기술은 가장 도덕적인 선택에 대한 어느 정도의 합의가 이뤄졌을 때만 운전 결정으로 귀결될 수 있다. 자동차 제조사들이 윤리적인 딜레마를 논의하고 있으며 메르세데스 벤츠는 최근 논란의 여지가 있는 것으로 파악했다.

메르세데스 벤츠의 한 고위급 임원은 보행자보다 자동차 운전자의 안전을 우선시할 것이라고 언급한 바 있는데 이 사실이 알려진 뒤 언론의 비판을 받았다. 데일리 메일(Daily Mail)은 "메르세데스 벤츠는 자동화된 무인 자동차가 방향을 바꾸어 내부의 승객이 다칠 위험을 감수하기보다는 어린이를 칠 것이라고 인정했다"고 보도했다.

모기업인 다임러 AG는 언론의 부정적인 반응 후 성명을 발표해 "우리는 각각의 법률 체계 및 사회적으로 용인할 수 있는 것을 이행할 것이다"고 밝혔다. 하지만, 그 의미가 무엇인지는 아직도 불명확하다.

아무도 사회적으로 어디까지 용인하고 어디서부터 용인하지 않는지를 정한 적이 없으며, 대중의 관점에 대한 주요 연구가 수행된 적도 없다. 단, 라환과 그의 팀이 이것들을 디지털 방식으로 조사할 방법을 찾아냈다.

윤리적인 자동차
스케일러블 코퍼레이션은 윤리적인 딜레마를 제시하고 사용자에게 선택을 요청하는 모럴 머신(Moral Machine)이라는 플랫폼을 개발했다.

해당 웹사이트는 잠재적인 피해자의 연령, 성별, 인종 및 행동의 변화를 포함하여 2,600만 개의 다양한 딜레마를 생성할 수 있다. 이것들은 10개의 언어로 번역되어 약 400만 명의 사용자들을 대상으로 설문조사를 실시했다. 결과는 집단으로 분석하여 유권자 인구 통계로 분류했다.

라환은 두바이의 GESF(Global Education and Skills Forum)에서 처음으로 초기 발견사항을 공개했다.

그들은 사람들이 승객보다는 보행자에 좀 더 우호적이며 상당수가 어른보다는 어린이를 구할 것이라고 밝혔다.

그들의 선호도는 사고에 관련된 사람들의 행동에 따라 다르다. 약 3/4의 사람들이 방향을 바꾸어 교통 법규를 지키는 행인보다는 무단 횡단 보행자를 칠 것이며, 약 절반은 교통 법규를 준수하는 보행자 1명보다는 무단 횡단 보행자 2명을 칠 것이다. 이 두 비율은 독일에서 더욱 높았다.

---------------------------------------------------------------
무인 자동차 인기기사
->닛산, 2020년에 저가 무인 자동차 생산
-> '운전대, 액셀, 브레이크 없는' 구글의 무인 자동차
->"5년 내 상용화" 자가 운전 자동차 기술, 찬반양론도 가열 중
-> "자동차 자동화 기술, 서서히 도래" 닛산 CEO
-> 스마트폰 이후, 개발자가 관심을 가져야 할 새로운 플랫폼
-> 구글의 차세대 무인 자동차에 대한 흥미로운 사실과 가능성 13가지
->폭스바겐-애플, 비틀+아이폰 '아이비틀' 개발
-> '현실화되는 전격 Z 작전' 자동차가 똑똑해진다
-> 폭스바겐의 달리는 컴퓨터...“전혀 다른 IT 조직 필요”
---------------------------------------------------------------

윤리를 법으로
독일도 초기에 자동화 및 커넥티드 운전에 관한 윤리위원회를 창설했다.

해당 위원회는 이미 일부 의견을 공개했다. 이에 따르면 기술은 치명적인 상황이 발생하지 않도록 하는 것을 우선시하며 부상자 수를 줄이는 일반적인 프로그래밍이 정당화될 수 있지만, 의무적인 것은 아니며 위험 발생에 관련된 당사자들은 관련되지 않은 사람들을 희생시키지 않아야 한다. 즉, 무단 횡단 보행자의 행동이 교통 법규를 지키는 보행자에게 위해가 돼서는 안 된다.

또한 해당 위원회는 연령, 성별 또는 외모 등의 개인적인 특징을 기준으로 하는 차별을 금지했다. 즉, 아동의 안전이 성인의 안전보다 우선시 될 수 없다.

하지만 모랄 머신은 독일의 도덕성이 어느 곳에서나 그대로 반영되는 것이 아님을 증명했다. 전 세계적으로 가치가 다를 수 있기 때문에 범세계적인 기계 윤리는 불가능하다.

라환은 "이런 것들이 교육 및 문화적 가치와 많이 관련되어 있다"고 말했다. 이어서 "우리가 우리만의 가치를 반영한다면 이런 가치를 더욱 이해하고 정량화하기도 해야 하기 때문에 중요하다고 생각한다"고 덧붙였다.

또한 모랄 머신은 인간의 속성에 필수적인 도덕적 긴장을 드러냈다. 사람들이 사회의 선이라는 생각하는 것과 이를 실현하기 위해 노력 의지가 있는 것 사이에는 모순이 존재한다.

이런 충돌이 자율주행 자동차의 성공을 결정할 수도 있다.

라환은 "나를 희생시키는 자동차를 사지는 않겠지만 다른 사람이 그런 차를 샀으면 한다"고 말했다. ciokr@idg.co.kr 

X