2015.06.10

인간 대 알고리즘, 누가 결정해야 하나

James Kobielus | InfoWorld
세상 모든 일이 각본이 짜여져 있거나 인간이 아닌 존재가 모든걸 지배하는 느낌을 원하는 이는 아무도 없다. 이와 같은 선상에서 어느 누구도 오로지 스스로의 안위만 걱정하는 독재자의 변덕의 대상이 되고 싶지는 않을 것이다.

알고리즘 결정 자동화(Algorithmic decision automation)는 오늘날 세계에서 강력한 힘이다. 최근 뉴욕타임즈 기사에서도 크게 다뤘듯, 빅데이터와 결합된 알고리즘은 대상화된 마케팅, 광고, 추천, 경험, 그리고 실질적으로 우리의 온라인 세계에서 벌어지는 거래의 모든 부분을 가능케 한다.

자신이 얽혀있는 모든 특정 자동화 시나리오를 가능케 하는 데이터, 통계 모델, 비즈니스 룰, 혹은 기타 알고리즘 요소들의 정확한 집합체는 파악하기 힘들다. 하지만, 어떤 역동적인 존재가 그 모두를 항상 주도하고 있다는 정도는 알고 있다.

그게 바로 좋든 싫든 현재 세계가 돌아가는 방식이다. 필자는 알고리즘 신뢰도에 대해 아직 확신하지 못하는데, 다시 말해 자동화된 결정을 가능케 하는 데이터, 통계, 맥락적 변수, 기타 요소들에 대한 온전하고 투명한 합산이 모든 상황에 적절한지 확신하기 힘들다는 이야기다.

재작년 필자는 알고리즘 신뢰도에 대한 주제로 길게 심층적으로 설명했던 적이 있다. 그 내용을 요약하자면, 필자는 알고리즘 결정에 반대하지도 않고, 결정 자동화 프로세스상의 견제와 균형이 필요하지만, 지지자들이 생각하는 만큼 현실적으로 적합한 지에 대해서는 의문이었다.

이보다 더 적합할 수 있는 알고리즘 확장에 대한 또 다른 견제와 균형의 문제가 있다. 필자는 인간, 다시 말해 관리자와 이런 자동화된 시스템을 운영하는 조직 내 다른 사람들이 다양한 상황에서 알고리즘 결정을 번복할 수 있어야 한다는 점을 주장하는 것이다.

이게 기술적으로 적합한 지는 의문의 여지가 없다. 인간의 결정 개입은 많은 비즈니스-프로세스 작업 흐름에 내장되어 있다.

알고리즘 결정에 있어서 문제의 핵심은 인간의 결정 개입과 번복이 모든 상황에서 바람직한지 여부에 있다. 인간의 개입에는 나름의 장단점이 있다.

인간의 결정 개입의 장점
인간이 결정에 개입하는 장점의 핵심은 인간의 개입으로 알고리즘이 전혀 해결하지 못하거나 최소한 자동화가 적합하지 않은 모든 상황, 그리고 인간의 판단과 적절한 대응이 필수적인 수정인 경우에도 잘 처리할 수 있다는 데 있다.

또한 자동화된 알고리즘 결정이 보통은 최선이지만 잘못된 결정으로 인해 인간의 삶의 질, 자유, 건강, 안전에 대한 피해가 막대해지는 사례에서도 인간의 '제2의 의견'을 통한 실패 방지 조치가 필요하다.

인간의 결정 개입의 단점
비인간성, 일관성, 자동화된 결정의 감사 추적은 '법치주의'가 민주주의 사회에서 공평하게 적용되는 것과 같이 내재적으로 공평하다.

항소의 가능성을 열어두면, 다시 말해 인간의 판단으로 재심을 통해 결정에 개입할 수 있게 되면 인간 내재적인 편견, 비일관성, 편애와 차별, 부패의 위험성까지 감수해야 한다.

그리고 감사 추적의 효과를 퇴색시켜 한 사람의 사례에 적용된 규칙을 다른 사람은 다르게 해석하고 변칙 적용하고 돌아나갈 수 있게 만든다.

인간 개입의 또 다른 단점은 해당 프로세스의 비효율성으로, 노동력의 채용과 배정이 필요해 운영 기본 지출을 증가시키고 다른 필수 프로그램에서 예산을 끌어와야 하는 상황이 생기게 된다.

이런 비용들은 모두 고객들에게 전가되는데, 고객 사례 대부분은 그런 인간적 개입을 필요로 하지 않음에도 비용이 부과되게 된다.

개입의 또 다른 단점은 인간의 판단력이 대부분의 사례들에서 (알고리즘 신뢰성 프로세스 내) 추가 검증에 있어서 최선이 아닐 수 있다는 점이다.

올바른 결정은 무엇일까. 로봇이 자동으로 결정을 내리게 해야 할까, 아니면 인간이 개입해야 할까. 이를 결정하는 문제까지 로봇에게 맡길 수는 없을 것이다. 로봇이라고 전지전능하지 않으니까.

그렇다면 스스로에게 묻자. 자신의 조직에는 로봇이 어느 시점에 진정으로 힘을 발휘해야 하는지 판단하는데 필요한 지혜와 시각을 가진 인재가 있는지 말이다. editor@itworld.co.kr



2015.06.10

인간 대 알고리즘, 누가 결정해야 하나

James Kobielus | InfoWorld
세상 모든 일이 각본이 짜여져 있거나 인간이 아닌 존재가 모든걸 지배하는 느낌을 원하는 이는 아무도 없다. 이와 같은 선상에서 어느 누구도 오로지 스스로의 안위만 걱정하는 독재자의 변덕의 대상이 되고 싶지는 않을 것이다.

알고리즘 결정 자동화(Algorithmic decision automation)는 오늘날 세계에서 강력한 힘이다. 최근 뉴욕타임즈 기사에서도 크게 다뤘듯, 빅데이터와 결합된 알고리즘은 대상화된 마케팅, 광고, 추천, 경험, 그리고 실질적으로 우리의 온라인 세계에서 벌어지는 거래의 모든 부분을 가능케 한다.

자신이 얽혀있는 모든 특정 자동화 시나리오를 가능케 하는 데이터, 통계 모델, 비즈니스 룰, 혹은 기타 알고리즘 요소들의 정확한 집합체는 파악하기 힘들다. 하지만, 어떤 역동적인 존재가 그 모두를 항상 주도하고 있다는 정도는 알고 있다.

그게 바로 좋든 싫든 현재 세계가 돌아가는 방식이다. 필자는 알고리즘 신뢰도에 대해 아직 확신하지 못하는데, 다시 말해 자동화된 결정을 가능케 하는 데이터, 통계, 맥락적 변수, 기타 요소들에 대한 온전하고 투명한 합산이 모든 상황에 적절한지 확신하기 힘들다는 이야기다.

재작년 필자는 알고리즘 신뢰도에 대한 주제로 길게 심층적으로 설명했던 적이 있다. 그 내용을 요약하자면, 필자는 알고리즘 결정에 반대하지도 않고, 결정 자동화 프로세스상의 견제와 균형이 필요하지만, 지지자들이 생각하는 만큼 현실적으로 적합한 지에 대해서는 의문이었다.

이보다 더 적합할 수 있는 알고리즘 확장에 대한 또 다른 견제와 균형의 문제가 있다. 필자는 인간, 다시 말해 관리자와 이런 자동화된 시스템을 운영하는 조직 내 다른 사람들이 다양한 상황에서 알고리즘 결정을 번복할 수 있어야 한다는 점을 주장하는 것이다.

이게 기술적으로 적합한 지는 의문의 여지가 없다. 인간의 결정 개입은 많은 비즈니스-프로세스 작업 흐름에 내장되어 있다.

알고리즘 결정에 있어서 문제의 핵심은 인간의 결정 개입과 번복이 모든 상황에서 바람직한지 여부에 있다. 인간의 개입에는 나름의 장단점이 있다.

인간의 결정 개입의 장점
인간이 결정에 개입하는 장점의 핵심은 인간의 개입으로 알고리즘이 전혀 해결하지 못하거나 최소한 자동화가 적합하지 않은 모든 상황, 그리고 인간의 판단과 적절한 대응이 필수적인 수정인 경우에도 잘 처리할 수 있다는 데 있다.

또한 자동화된 알고리즘 결정이 보통은 최선이지만 잘못된 결정으로 인해 인간의 삶의 질, 자유, 건강, 안전에 대한 피해가 막대해지는 사례에서도 인간의 '제2의 의견'을 통한 실패 방지 조치가 필요하다.

인간의 결정 개입의 단점
비인간성, 일관성, 자동화된 결정의 감사 추적은 '법치주의'가 민주주의 사회에서 공평하게 적용되는 것과 같이 내재적으로 공평하다.

항소의 가능성을 열어두면, 다시 말해 인간의 판단으로 재심을 통해 결정에 개입할 수 있게 되면 인간 내재적인 편견, 비일관성, 편애와 차별, 부패의 위험성까지 감수해야 한다.

그리고 감사 추적의 효과를 퇴색시켜 한 사람의 사례에 적용된 규칙을 다른 사람은 다르게 해석하고 변칙 적용하고 돌아나갈 수 있게 만든다.

인간 개입의 또 다른 단점은 해당 프로세스의 비효율성으로, 노동력의 채용과 배정이 필요해 운영 기본 지출을 증가시키고 다른 필수 프로그램에서 예산을 끌어와야 하는 상황이 생기게 된다.

이런 비용들은 모두 고객들에게 전가되는데, 고객 사례 대부분은 그런 인간적 개입을 필요로 하지 않음에도 비용이 부과되게 된다.

개입의 또 다른 단점은 인간의 판단력이 대부분의 사례들에서 (알고리즘 신뢰성 프로세스 내) 추가 검증에 있어서 최선이 아닐 수 있다는 점이다.

올바른 결정은 무엇일까. 로봇이 자동으로 결정을 내리게 해야 할까, 아니면 인간이 개입해야 할까. 이를 결정하는 문제까지 로봇에게 맡길 수는 없을 것이다. 로봇이라고 전지전능하지 않으니까.

그렇다면 스스로에게 묻자. 자신의 조직에는 로봇이 어느 시점에 진정으로 힘을 발휘해야 하는지 판단하는데 필요한 지혜와 시각을 가진 인재가 있는지 말이다. editor@itworld.co.kr

X