Offcanvas

������

로봇 전문가가 말하는 'AI에 관한 설명 기능이 향상되는 이유'

로봇공학 전문가 브라이언 루튼버그 박사는 산업에서 신기술을 채택함에 따라 머신러닝의 의사결정 방식을 설명하는 개념이 얼마나 중요한지 강조했다. 방대한 양의 데이터에서 신속하게 추천을 생성할 수 있는 인공지능(AI) 시스템은 고객 등급 매기기부터 피부암 종양 탐지까지 다양한 분야에 적용되는 것으로 나타났다. 그러나 이러한 시스템이 의사결정에 도달하는 방식이 항상 명확한 것은 아니다. 특히 시간이 지남에 따라 자율적으로 정확성을 높일 수 있는 머신러닝 기술을 사용할 때 그렇다. 기계가 결론에 도달하는 방법을 인간이 쉽게 이해할 수 없다는 것은 처음부터 기계가 이러한 컴퓨팅을 처리하도록 요청된 이유에 따른 자연스러운 결과이기도 하다. 즉 인간의 마음이 수학적으로 동일한 작업을 실질적으로 완료할 수는 없다는 의미다. 그러나 사람은 신용 대출이 거절됐거나 특정 제안을 받지 못할 때 등 인공지능의 결정에 영향을 받는 경우 그 이유를 알고 싶어 할 것이다. 또한 의사결정 과정에서 자연스럽게 불이익을 줄 수 있는 오류나 편향된 데이터를 기반으로 컴퓨터가 결론에 도달할 가능성이 있을 때 더욱 커진다. 로봇회사인 넥스트드로이드(NextDriod)의 수석 과학자 브라이언 루튼버그 박사는 인공지능에서 '설명가능성(explainability)' 개념에 일생을 바쳤다. 호주 애널리틱스 전문가 협회(IAPA) 총회에서 발표할 예정인 루튼버그는 자신이 자율주행 차량에 AI를 신속하게 채택함으로써 이 개념을 조사하도록 영감을 받았다고 말했다. 루튼버그는 <CMO>에 "딥러닝과 컴퓨팅 기능의 등장으로 AI 시스템은 점점 더 복잡해지고 있다"며 "이러한 AI 결정에는 사회적 함의가 있다. 설명가능성은 공정성과 책임성과 투명성이라는 개념과 관련이 있다"고 밝혔다. 루튼버그의 설명가능성에 대한 관심은 주로 자율주행 차량에 관한 것이다. 그는 다른 분야에서의 AI 채택은 그것을 사용하는 사람들에...

구글 신용 자율주행 설명 이해 명예훼손 투명 대출 과학자 인공지능 CMO 금융 책임 빅데이터 편향

2018.10.23

로봇공학 전문가 브라이언 루튼버그 박사는 산업에서 신기술을 채택함에 따라 머신러닝의 의사결정 방식을 설명하는 개념이 얼마나 중요한지 강조했다. 방대한 양의 데이터에서 신속하게 추천을 생성할 수 있는 인공지능(AI) 시스템은 고객 등급 매기기부터 피부암 종양 탐지까지 다양한 분야에 적용되는 것으로 나타났다. 그러나 이러한 시스템이 의사결정에 도달하는 방식이 항상 명확한 것은 아니다. 특히 시간이 지남에 따라 자율적으로 정확성을 높일 수 있는 머신러닝 기술을 사용할 때 그렇다. 기계가 결론에 도달하는 방법을 인간이 쉽게 이해할 수 없다는 것은 처음부터 기계가 이러한 컴퓨팅을 처리하도록 요청된 이유에 따른 자연스러운 결과이기도 하다. 즉 인간의 마음이 수학적으로 동일한 작업을 실질적으로 완료할 수는 없다는 의미다. 그러나 사람은 신용 대출이 거절됐거나 특정 제안을 받지 못할 때 등 인공지능의 결정에 영향을 받는 경우 그 이유를 알고 싶어 할 것이다. 또한 의사결정 과정에서 자연스럽게 불이익을 줄 수 있는 오류나 편향된 데이터를 기반으로 컴퓨터가 결론에 도달할 가능성이 있을 때 더욱 커진다. 로봇회사인 넥스트드로이드(NextDriod)의 수석 과학자 브라이언 루튼버그 박사는 인공지능에서 '설명가능성(explainability)' 개념에 일생을 바쳤다. 호주 애널리틱스 전문가 협회(IAPA) 총회에서 발표할 예정인 루튼버그는 자신이 자율주행 차량에 AI를 신속하게 채택함으로써 이 개념을 조사하도록 영감을 받았다고 말했다. 루튼버그는 <CMO>에 "딥러닝과 컴퓨팅 기능의 등장으로 AI 시스템은 점점 더 복잡해지고 있다"며 "이러한 AI 결정에는 사회적 함의가 있다. 설명가능성은 공정성과 책임성과 투명성이라는 개념과 관련이 있다"고 밝혔다. 루튼버그의 설명가능성에 대한 관심은 주로 자율주행 차량에 관한 것이다. 그는 다른 분야에서의 AI 채택은 그것을 사용하는 사람들에...

2018.10.23

박승남의 畵潭 | 통닭 나누기 – 공평성과 합리성

예전에 이런 문제를 낸 적이 있었습니다. 케이크를 두 사람이 공평하게 나누는 방법은? 정답은 아시는 것처럼, 한 사람이 둘로 나누고, 다른 사람이 두 조각 중에서 하나를 택하는 방법입니다. 문제를 조금 바꾸어 보겠습니다. 하나의 귤을 두 사람이 적절히 나누는 방법은? 케이크 나누듯이 한 사람이 귤을 자르고, 다른 사람이 선택하는 방법도 가능할겁니다. 조금 다르게 생각해보면 어떨까요? 만약, 이 두 사람의 귤이 필요한 이유가 다르다면? 한 사람은 과육이 필요하고, 다른 사람은 귤차를 끓이기 위해 귤껍질이 필요한 경우라면? 껍질을 까서 과육과 귤껍질을 나누어 가지면 두 사람 모두 귤 반쪽이 아니라 온전히 귤 하나를 얻게 되는 결과가 됩니다. 여기서 실전 문제 하나 더 들어갑니다. 둘이 통닭 하나를 가장 적절히 나누는 방법은? 이제 여러분은 가슴살을 좋아하는 사람과 닭다리를 좋아하는 사람이라는 가정을 세우고, 가슴부위와 다리 부위로 나눈다 라고 답하실 수 있게 되었습니다. 세상에는 케이크를 나누는 것처럼 동일한 이해 관계일 때는 양적으로 나누는 ‘공평함’이 필요하겠지만, 귤이나 통닭 문제처럼 서로 다른 이해관계에서는 필요에 따라 질적, 합리적으로 나누는 방법이(우리가 흔히 ‘협상’이라 부르는) 고려되어야 한다고 생각합니다. 대부분 정치적 또는 정부의 정책적 결정은 양적 공평함에 중심을 둘 수밖에 없는 입장이지만, 기업은 복잡한 이해관계가 있기 때문에 이와 달리 합리적 기준을 가져야 할 것 같습니다. --------------------------------------------------------------- 박승남의 畵談 인기기사 -> 박승남의 畵談 | 생각의 방향 – How or Why? -> 박승남의 畵談 | 조직 관리 : 학습된 무기력 – 누구 탓? -> 박승남의 畵談 | 중용의 수학적(?) 분석 -> 박승남의...

CIO 박승남 이해 합리 공평 필요 분배 통닭 케이크

2017.04.27

예전에 이런 문제를 낸 적이 있었습니다. 케이크를 두 사람이 공평하게 나누는 방법은? 정답은 아시는 것처럼, 한 사람이 둘로 나누고, 다른 사람이 두 조각 중에서 하나를 택하는 방법입니다. 문제를 조금 바꾸어 보겠습니다. 하나의 귤을 두 사람이 적절히 나누는 방법은? 케이크 나누듯이 한 사람이 귤을 자르고, 다른 사람이 선택하는 방법도 가능할겁니다. 조금 다르게 생각해보면 어떨까요? 만약, 이 두 사람의 귤이 필요한 이유가 다르다면? 한 사람은 과육이 필요하고, 다른 사람은 귤차를 끓이기 위해 귤껍질이 필요한 경우라면? 껍질을 까서 과육과 귤껍질을 나누어 가지면 두 사람 모두 귤 반쪽이 아니라 온전히 귤 하나를 얻게 되는 결과가 됩니다. 여기서 실전 문제 하나 더 들어갑니다. 둘이 통닭 하나를 가장 적절히 나누는 방법은? 이제 여러분은 가슴살을 좋아하는 사람과 닭다리를 좋아하는 사람이라는 가정을 세우고, 가슴부위와 다리 부위로 나눈다 라고 답하실 수 있게 되었습니다. 세상에는 케이크를 나누는 것처럼 동일한 이해 관계일 때는 양적으로 나누는 ‘공평함’이 필요하겠지만, 귤이나 통닭 문제처럼 서로 다른 이해관계에서는 필요에 따라 질적, 합리적으로 나누는 방법이(우리가 흔히 ‘협상’이라 부르는) 고려되어야 한다고 생각합니다. 대부분 정치적 또는 정부의 정책적 결정은 양적 공평함에 중심을 둘 수밖에 없는 입장이지만, 기업은 복잡한 이해관계가 있기 때문에 이와 달리 합리적 기준을 가져야 할 것 같습니다. --------------------------------------------------------------- 박승남의 畵談 인기기사 -> 박승남의 畵談 | 생각의 방향 – How or Why? -> 박승남의 畵談 | 조직 관리 : 학습된 무기력 – 누구 탓? -> 박승남의 畵談 | 중용의 수학적(?) 분석 -> 박승남의...

2017.04.27

칼럼 | CIO가 전략적 IT파트너 수를 줄이는 이유

IT업체들이 CIO와 전략적 파트너 관계를 유지하고 싶다면, CIO의 고민과 비즈니스 목표에 대해 좀더 알아야 한다. CIO들은 진정한 전략적 파트너라고 할만한 IT업체들을 얼마나 많이 보유하고 있을까? CIO들이 그 자리를 유지하려면 무엇이 필요할까? 모든 기업용 IT업체들은 고객들의 비즈니스에서 자신의 입지를 높이고자 노력하지만, 대부분의 경우 이들은 고객사의 기대치에 미치지 못하고 실정이다. IT업체들에게 부족한 2%는 무엇일까? <CIO>의 2015년 CIO의 역할과 영향에 대한 연구 조사에 따르면, 지난 4년 동안 임직원수 1,000명 이상의 대기업 CIO들이 생각하는 전략적인 파트너의 수가 평균 6개에서 3개로 줄어들었다. 줄어든 이유는 IT업계의 M&A나 클라우드 서비스와 IT서비스 업체의 광범위한 활용 때문일 수도 있다. 또다른 이유는 IT업체들이 고객사의 요구사항을 충분히 만족시키지 못했기 때문일 수도 있다.   이 조사결과에서 분명히 드러난 것은 IT업체들이 전략적 파트너 자격을 얻는데 필요한 3가지 요건이 다음과 같다는 점이다. 그것들을 바로 첫째 최고 수준의 고객 서비스, 둘째 고객의 비즈니스 목표와 목적을 이해하고 있어야 한다는 점, 셋째, 영업 이후 서비스 지원이다. 이 조사에 참여한 1,249명의 응답자들은 가격과 제품 기능에 대해서는 덜 중요하게 꼽았으며 이것들은 10위 안에 들지 못했다.  하지만 대부분의 IT업체들이 CIO에 얼굴을 맞대고 이야기할 때 무슨 말을 하고 싶어하는지 알고 있나? 필자는 많은 CIO 행사와 다른 업계의 커뮤니티에 참석하면서 이를 일게 됐다. 필자는 너무 자주 IT업체들이 고객의 시장을 이해한다는 확신이 들기도 전에 제품 기능과 이점에 대해 이야기하는 것을 봤다. 설상가상으로 IT업체들은 CIO가 어떤 비즈니스 목표와 과제를 가지고 있는지에 대해 질문하는 것도 잊어버린다. 필자가 IT업체에게 해주고 싶은 조언은 CIO들과 만났을 때 귀는...

영업 듣기 IT파트너 업종 이해 만남 마케팅 계약 CIO 비즈니스 목표

2015.08.04

IT업체들이 CIO와 전략적 파트너 관계를 유지하고 싶다면, CIO의 고민과 비즈니스 목표에 대해 좀더 알아야 한다. CIO들은 진정한 전략적 파트너라고 할만한 IT업체들을 얼마나 많이 보유하고 있을까? CIO들이 그 자리를 유지하려면 무엇이 필요할까? 모든 기업용 IT업체들은 고객들의 비즈니스에서 자신의 입지를 높이고자 노력하지만, 대부분의 경우 이들은 고객사의 기대치에 미치지 못하고 실정이다. IT업체들에게 부족한 2%는 무엇일까? <CIO>의 2015년 CIO의 역할과 영향에 대한 연구 조사에 따르면, 지난 4년 동안 임직원수 1,000명 이상의 대기업 CIO들이 생각하는 전략적인 파트너의 수가 평균 6개에서 3개로 줄어들었다. 줄어든 이유는 IT업계의 M&A나 클라우드 서비스와 IT서비스 업체의 광범위한 활용 때문일 수도 있다. 또다른 이유는 IT업체들이 고객사의 요구사항을 충분히 만족시키지 못했기 때문일 수도 있다.   이 조사결과에서 분명히 드러난 것은 IT업체들이 전략적 파트너 자격을 얻는데 필요한 3가지 요건이 다음과 같다는 점이다. 그것들을 바로 첫째 최고 수준의 고객 서비스, 둘째 고객의 비즈니스 목표와 목적을 이해하고 있어야 한다는 점, 셋째, 영업 이후 서비스 지원이다. 이 조사에 참여한 1,249명의 응답자들은 가격과 제품 기능에 대해서는 덜 중요하게 꼽았으며 이것들은 10위 안에 들지 못했다.  하지만 대부분의 IT업체들이 CIO에 얼굴을 맞대고 이야기할 때 무슨 말을 하고 싶어하는지 알고 있나? 필자는 많은 CIO 행사와 다른 업계의 커뮤니티에 참석하면서 이를 일게 됐다. 필자는 너무 자주 IT업체들이 고객의 시장을 이해한다는 확신이 들기도 전에 제품 기능과 이점에 대해 이야기하는 것을 봤다. 설상가상으로 IT업체들은 CIO가 어떤 비즈니스 목표와 과제를 가지고 있는지에 대해 질문하는 것도 잊어버린다. 필자가 IT업체에게 해주고 싶은 조언은 CIO들과 만났을 때 귀는...

2015.08.04

전현직 CIO가 전하는 '매출·순익·재무 학습법'

많은 IT임원들이 "비즈니스에 대해 알아야 한다"는 말을 귀에 못이 박히도록 들었다. 하지만 CIO는 이 말이 의미하는 바를 잘 모르는 것 같다. 이미지 출처 : Thinkstock 이 때문에 HP의 CIO 라몬 배즈의 통찰력이 매우 신선하게 들릴 수 있다. 올해 초, CIO의 변화하는 역할 분석에 관한 온라인 행사에서 배즈는 비즈니스를 이해하는 문제를 ‘순수한 재무 용어’라는 결론을 내렸다. "비즈니스 언어란, 곧 재무다. 기업이 어떻게 돈을 벌거나 잃는지 CIO가 이해할 수 있다면 어디에 초점을 맞춰야 할 지도 이해할 수 있게 된다"고 배즈는 말했다. 배즈의 주장은 여러 CIO에게 공감을 샀다. 미국 캘리포니아의 패서디나(Pasadena.)에 있는 헌팅턴 병원(Huntington Hospital)의 정보 시스템 담당 이사인 헨리 젠킨스는 “IT를 주도하는 사람이 비즈니스 언어에 대해 개방적이고 배우고자 하는 의지가 있고 그 지식을 통해 성장하고 발전할 수 있다면, 비즈니스와 IT사이의 공백을 줄이는데 핵심 요소가 될 것이다"고 밝혔다. IT인재파견 기업인 RHT(Robert Half Technology)의 상무 존 리드도 이에 동의했다. "기업들이 회계 장부를 볼 줄 아는 CIO만 찾는 것은 아니다. 하지만 무엇이 재무 성과에 기여하는지 CIO가 이해할 수 있을까?"라고 리드는 물었다. IT임원들은 재무보고서를 보면서 전체매출과 순이익을 파악하며 어디에서 수익이 발생하는지 이해한 후에 CIO로서 기술이 무엇을 통해 비용을 절감하고 수익성을 높이며 새로운 비즈니스 기회를 찾을 수 있는지 파악해야 한다. "재무보고서를 읽을 수 있다면 자신의 영향력이 어디에서 가장 크게 발휘되는지도 이해할 수 있다"고 리드는 강조했다. CIO가 재무보고서를 이해한다는 것은, 자신의 역할을 좀더 효과적으로 수행할 수 ...

CIO IT와 비즈니스 접목 이해 재무제표 재무보고서 얼라인 비즈니스 언어

2014.12.15

많은 IT임원들이 "비즈니스에 대해 알아야 한다"는 말을 귀에 못이 박히도록 들었다. 하지만 CIO는 이 말이 의미하는 바를 잘 모르는 것 같다. 이미지 출처 : Thinkstock 이 때문에 HP의 CIO 라몬 배즈의 통찰력이 매우 신선하게 들릴 수 있다. 올해 초, CIO의 변화하는 역할 분석에 관한 온라인 행사에서 배즈는 비즈니스를 이해하는 문제를 ‘순수한 재무 용어’라는 결론을 내렸다. "비즈니스 언어란, 곧 재무다. 기업이 어떻게 돈을 벌거나 잃는지 CIO가 이해할 수 있다면 어디에 초점을 맞춰야 할 지도 이해할 수 있게 된다"고 배즈는 말했다. 배즈의 주장은 여러 CIO에게 공감을 샀다. 미국 캘리포니아의 패서디나(Pasadena.)에 있는 헌팅턴 병원(Huntington Hospital)의 정보 시스템 담당 이사인 헨리 젠킨스는 “IT를 주도하는 사람이 비즈니스 언어에 대해 개방적이고 배우고자 하는 의지가 있고 그 지식을 통해 성장하고 발전할 수 있다면, 비즈니스와 IT사이의 공백을 줄이는데 핵심 요소가 될 것이다"고 밝혔다. IT인재파견 기업인 RHT(Robert Half Technology)의 상무 존 리드도 이에 동의했다. "기업들이 회계 장부를 볼 줄 아는 CIO만 찾는 것은 아니다. 하지만 무엇이 재무 성과에 기여하는지 CIO가 이해할 수 있을까?"라고 리드는 물었다. IT임원들은 재무보고서를 보면서 전체매출과 순이익을 파악하며 어디에서 수익이 발생하는지 이해한 후에 CIO로서 기술이 무엇을 통해 비용을 절감하고 수익성을 높이며 새로운 비즈니스 기회를 찾을 수 있는지 파악해야 한다. "재무보고서를 읽을 수 있다면 자신의 영향력이 어디에서 가장 크게 발휘되는지도 이해할 수 있다"고 리드는 강조했다. CIO가 재무보고서를 이해한다는 것은, 자신의 역할을 좀더 효과적으로 수행할 수 ...

2014.12.15

박승남의 畵談 | 확신과 착각 – 자전거쯤이야?

여러분들이 잘 ‘알고’있는 100원짜리 동전을 떠올려 보십시오. 동전 앞면의 인물은 누구일까요? 이순신 장군! 예 정답입니다. 그러면 이순신 장군이 어느 쪽을 보고 있을까요? 오른쪽? 왼쪽? 헷갈리시나요? 답은 오른쪽입니다. 자, 여기서, 문제 하나를 더 내겠습니다. 여러분들 모두 자전거를 잘 아실 겁니다. 지금 옆에 빈 종이가 있으면 한번 그려보시죠. 힌트를 좀 드리면 자전거는 위 박스의 내용처럼 대략 7개의 중요 요소로 구성되어 있습니다. 이 요소를 잘 배치해서 그려보세요. 다 그리셨습니까? 실제 자전거그림은 글 제일 끝에 있습니다. 나중에 여러분들이 그린 그림과 비교해 보시죠 이 테스트는 이전에 회사 부서원들에게 해본 것입니다. 자주 보고, 가끔 타기도 하는 자전거가, 각자의 손끝에서 정말 다양하고 기기묘묘한 형태로 재 탄생했습니다. 실험을 진행하는 동안 대부분의 부서원들이 실제와는 다른 그림을 그렸는데, 그 중 잘 그린 축에 드는 한 예가 아래에 있습니다. 뭔가 어색한 점을 찾으셨는지요? 많은 사람들이 앞 바퀴와 뒷바퀴를 체인으로 연결하는 그림을 그리곤 합니다. 우리는 자전거를 보거나 타던 ‘경험’을 가지고 있지만, 만드는 ‘지식’이 있는 것은 아닙니다. 이 경험에 대한 확신으로 자전거에 대해 잘 안다고 생각하게 되는데, 자전거의 세부적인 작동원리를 이해하지 못한 상태에서는 올바른 그림이 나오지 않게 됩니다. 잘 안다는 착각의 폐해는 많은 곳에서 찾아볼 수 있습니다. IT 프로젝트를 진행하다 보면, IT인력들이 ‘나는 현업업무에 대하여 잘 안다’는 확신으로 인해 결과물이 다른 방향으로 가는 경우를 종종 보게 됩니다. 업무프로세스의 ‘Why’에 대한 완벽한 이해 없이 업무 활용에 대한 그 동안의 경험만으로는, 현업이 바라는 정확한 산출물을 얻기 어려워 보입니다. 이전에 소개한 ‘보이지 ...

CIO 현업 IT프로젝트 박승남 겸손 이해

2014.05.26

여러분들이 잘 ‘알고’있는 100원짜리 동전을 떠올려 보십시오. 동전 앞면의 인물은 누구일까요? 이순신 장군! 예 정답입니다. 그러면 이순신 장군이 어느 쪽을 보고 있을까요? 오른쪽? 왼쪽? 헷갈리시나요? 답은 오른쪽입니다. 자, 여기서, 문제 하나를 더 내겠습니다. 여러분들 모두 자전거를 잘 아실 겁니다. 지금 옆에 빈 종이가 있으면 한번 그려보시죠. 힌트를 좀 드리면 자전거는 위 박스의 내용처럼 대략 7개의 중요 요소로 구성되어 있습니다. 이 요소를 잘 배치해서 그려보세요. 다 그리셨습니까? 실제 자전거그림은 글 제일 끝에 있습니다. 나중에 여러분들이 그린 그림과 비교해 보시죠 이 테스트는 이전에 회사 부서원들에게 해본 것입니다. 자주 보고, 가끔 타기도 하는 자전거가, 각자의 손끝에서 정말 다양하고 기기묘묘한 형태로 재 탄생했습니다. 실험을 진행하는 동안 대부분의 부서원들이 실제와는 다른 그림을 그렸는데, 그 중 잘 그린 축에 드는 한 예가 아래에 있습니다. 뭔가 어색한 점을 찾으셨는지요? 많은 사람들이 앞 바퀴와 뒷바퀴를 체인으로 연결하는 그림을 그리곤 합니다. 우리는 자전거를 보거나 타던 ‘경험’을 가지고 있지만, 만드는 ‘지식’이 있는 것은 아닙니다. 이 경험에 대한 확신으로 자전거에 대해 잘 안다고 생각하게 되는데, 자전거의 세부적인 작동원리를 이해하지 못한 상태에서는 올바른 그림이 나오지 않게 됩니다. 잘 안다는 착각의 폐해는 많은 곳에서 찾아볼 수 있습니다. IT 프로젝트를 진행하다 보면, IT인력들이 ‘나는 현업업무에 대하여 잘 안다’는 확신으로 인해 결과물이 다른 방향으로 가는 경우를 종종 보게 됩니다. 업무프로세스의 ‘Why’에 대한 완벽한 이해 없이 업무 활용에 대한 그 동안의 경험만으로는, 현업이 바라는 정확한 산출물을 얻기 어려워 보입니다. 이전에 소개한 ‘보이지 ...

2014.05.26

IDG 설문조사

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.5.0.8