Offcanvas

������������

'통제가능한 AI' 개발하기··· 핵심 모범 수칙

강력하고 탄탄한 인공지능과 머신러닝 모델 개발과 배포는 복잡하고 어려운 일이다. 최근 필자가 만나 본 데이터 과학 및 머신러닝 임원은 모두 다른 부서와의 시스템 거버넌스에 집중하고 있었다. 이론을 실행하고 모델을 생산에 투입하는 것은 어려운 일이다. 그러니 거버넌스 과정의 핵심 이해관계자인 우리 부서와 우리 회사의 협력 상대방 모두에게 더 쉬운 AI 거버넌스를 만들 수 있도록, 기술 조직으로서 할 수 있는 일을 이야기해보자.     주요 설계 원칙 높은 수준에서 통제가능하며 안심할 수 있는 모델을 확보하기 위해서는 모델에 다음의 3가지 원칙이 드러나야 한다. • 컨텍스트(Context) : 모델 개발 초기의 설명 단계 이후 비즈니스적 이유, 범위, 위험, 한계, 데이터 모델링 접근방식은 모델이 생산에 투입되기 전에 잘 정의되어 있으며 완벽하게 문서화되어 있다. • 검증성(Verifiability) : 모델 개발 프로세스의 모든 비즈니스 및 기술 결정과 단계는 검증 및 조사가 가능해야 한다. 머신러닝 모델 파이프라인은 블랙박스 알고리즘이 사용되더라도 완벽한 ‘블랙박스’여서는 안 된다. 데이터의 출처, 처리 방식, 존재하는 규제 고려사항을 파악하는 것이 검증 가능한 모델을 구축하기 위해 무엇보다도 중요하다. 모델 코드는 이전에 코드를 본 적이 없는 사람도 이해할 수 있는 방식으로 구조화하고 문서화해야 한다. 모델은 개별적 트랜잭션 재수행이 가능하도록 컨테이너화된 아키텍처, 직렬화(피클(Pickle) 등으로), 결정적인 전 처리 기법(무작위 시드(Seed)를 통한 사이킷(Scikit) 학습 원-핫(One-hot) 인코딩 및 직렬화 등)을 사용하여 구축해야 한다. • 객관성 : 거버넌스의 핵심은 객관적인 사람 또는 모델 개발에 참여하지 않은 사람이 머신러닝 애플리케이션을 합리적으로 평가하고 이해할 수 있도록 하는 것이다. 머신러닝 시스템이 이전의 콘텍스트와 검증성 등 2가지 원칙을 기반으로 구축되었다면 비즈니스 파트너가 제2 및 제3...

통제가능한인공지능 컨텍스트 검증성 객관성 인공지능 머신러닝

2021.12.17

강력하고 탄탄한 인공지능과 머신러닝 모델 개발과 배포는 복잡하고 어려운 일이다. 최근 필자가 만나 본 데이터 과학 및 머신러닝 임원은 모두 다른 부서와의 시스템 거버넌스에 집중하고 있었다. 이론을 실행하고 모델을 생산에 투입하는 것은 어려운 일이다. 그러니 거버넌스 과정의 핵심 이해관계자인 우리 부서와 우리 회사의 협력 상대방 모두에게 더 쉬운 AI 거버넌스를 만들 수 있도록, 기술 조직으로서 할 수 있는 일을 이야기해보자.     주요 설계 원칙 높은 수준에서 통제가능하며 안심할 수 있는 모델을 확보하기 위해서는 모델에 다음의 3가지 원칙이 드러나야 한다. • 컨텍스트(Context) : 모델 개발 초기의 설명 단계 이후 비즈니스적 이유, 범위, 위험, 한계, 데이터 모델링 접근방식은 모델이 생산에 투입되기 전에 잘 정의되어 있으며 완벽하게 문서화되어 있다. • 검증성(Verifiability) : 모델 개발 프로세스의 모든 비즈니스 및 기술 결정과 단계는 검증 및 조사가 가능해야 한다. 머신러닝 모델 파이프라인은 블랙박스 알고리즘이 사용되더라도 완벽한 ‘블랙박스’여서는 안 된다. 데이터의 출처, 처리 방식, 존재하는 규제 고려사항을 파악하는 것이 검증 가능한 모델을 구축하기 위해 무엇보다도 중요하다. 모델 코드는 이전에 코드를 본 적이 없는 사람도 이해할 수 있는 방식으로 구조화하고 문서화해야 한다. 모델은 개별적 트랜잭션 재수행이 가능하도록 컨테이너화된 아키텍처, 직렬화(피클(Pickle) 등으로), 결정적인 전 처리 기법(무작위 시드(Seed)를 통한 사이킷(Scikit) 학습 원-핫(One-hot) 인코딩 및 직렬화 등)을 사용하여 구축해야 한다. • 객관성 : 거버넌스의 핵심은 객관적인 사람 또는 모델 개발에 참여하지 않은 사람이 머신러닝 애플리케이션을 합리적으로 평가하고 이해할 수 있도록 하는 것이다. 머신러닝 시스템이 이전의 콘텍스트와 검증성 등 2가지 원칙을 기반으로 구축되었다면 비즈니스 파트너가 제2 및 제3...

2021.12.17

블로그ㅣ기업 모바일 보안, '맥락' 기반으로 접근하라

애플은 몇 가지 맥(Mac)과 그 뒤를 잇는 브랜드를 통해 존재감을 확대했다. 그리고 이 회사는 이제 주요 모바일 및 생산성 제공업체가 됐다. 하지만 원격근무가 늘어나면서 애플의 플랫폼조차도 보안 문제에 직면하게 됐다.  필자는 美 기업 모바일 기기 관리 및 보안 플랫폼 회사 ‘트루스 소프트웨어(Truce Software)’의 CEO 조 보일을 만나 업무 현장에서의 애플의 입지 그리고 모바일 엔터프라이즈 관리에 관한 트루스 소프트웨어의 접근방식을 들어봤다.     애플이 ‘직장’으로 간다 “개인적으론 오늘날 애플과 엔터프라이즈 기기가 사실상 동의어처럼 느껴진다”라고 보일은 말했다. 그는 “심지어 맥과 아이폰을 직접 제공하지 않는 기업들도 직원들이 이를 사용할 수 있도록 지원하기도 한다“라며, “엔터프라이즈 파트너 생태계가 커지면서 애플 기기의 전체 수명주기를 완전히 아웃소싱하고 자동화하는 게 가능해졌다”라고 언급했다.   이어서 보일은 “IT의 소비자화(Consumerization)가 큰 변화를 야기했다. 미국의 경우 기업에서 애플의 입지가 커진 것이다. 엔터프라이즈 모빌리티 관점에서 봤을 때 다양한 산업 및 사용 사례에서 애플 기기가 확대되는 것을 확인했다. 기업들은 iOS 플랫폼을 활용해 더 많은 연결성과 더 나은 기기를 갖춘 인력을 지원하고자 한다”라고 덧붙였다.  그에 따르면 또 다른 변화는 다음과 같다.   • 직원들이 업무에 자신의 기기와 컴퓨터를 점점 더 많이 사용하고 있다.  • 직원들은 자신들이 사용하는 기술에 그 어느 때보다 더 많이 관여하고 있다.  • 기업들은 모바일-퍼스트 접근방식을 채택하고 있다.  이러한 추세가 비즈니스 프로세스에 변화를 가져왔다는 게 보일의 설명이다. 그는 “기업들이 워크플로우 프로세스를 (모바일 퍼스트가 아닐지라도) ‘모바일 친화적’으로 전환해 직원들과 운영 전반을 더욱더 효율적으로 만들었다”라고 전했다.  보일은...

보안 기업 모바일 보안 맥락 컨텍스트 애플 아이폰 모바일 엔터프라이즈 관리 IT의 소비자화 모바일 퍼스트 프라이버시 개인 데이터

2021.06.16

애플은 몇 가지 맥(Mac)과 그 뒤를 잇는 브랜드를 통해 존재감을 확대했다. 그리고 이 회사는 이제 주요 모바일 및 생산성 제공업체가 됐다. 하지만 원격근무가 늘어나면서 애플의 플랫폼조차도 보안 문제에 직면하게 됐다.  필자는 美 기업 모바일 기기 관리 및 보안 플랫폼 회사 ‘트루스 소프트웨어(Truce Software)’의 CEO 조 보일을 만나 업무 현장에서의 애플의 입지 그리고 모바일 엔터프라이즈 관리에 관한 트루스 소프트웨어의 접근방식을 들어봤다.     애플이 ‘직장’으로 간다 “개인적으론 오늘날 애플과 엔터프라이즈 기기가 사실상 동의어처럼 느껴진다”라고 보일은 말했다. 그는 “심지어 맥과 아이폰을 직접 제공하지 않는 기업들도 직원들이 이를 사용할 수 있도록 지원하기도 한다“라며, “엔터프라이즈 파트너 생태계가 커지면서 애플 기기의 전체 수명주기를 완전히 아웃소싱하고 자동화하는 게 가능해졌다”라고 언급했다.   이어서 보일은 “IT의 소비자화(Consumerization)가 큰 변화를 야기했다. 미국의 경우 기업에서 애플의 입지가 커진 것이다. 엔터프라이즈 모빌리티 관점에서 봤을 때 다양한 산업 및 사용 사례에서 애플 기기가 확대되는 것을 확인했다. 기업들은 iOS 플랫폼을 활용해 더 많은 연결성과 더 나은 기기를 갖춘 인력을 지원하고자 한다”라고 덧붙였다.  그에 따르면 또 다른 변화는 다음과 같다.   • 직원들이 업무에 자신의 기기와 컴퓨터를 점점 더 많이 사용하고 있다.  • 직원들은 자신들이 사용하는 기술에 그 어느 때보다 더 많이 관여하고 있다.  • 기업들은 모바일-퍼스트 접근방식을 채택하고 있다.  이러한 추세가 비즈니스 프로세스에 변화를 가져왔다는 게 보일의 설명이다. 그는 “기업들이 워크플로우 프로세스를 (모바일 퍼스트가 아닐지라도) ‘모바일 친화적’으로 전환해 직원들과 운영 전반을 더욱더 효율적으로 만들었다”라고 전했다.  보일은...

2021.06.16

빅 데이터 보안 분석 솔루션의 4대 요소 '알고리즘, 시각화, 컨텍스트, 자동화'

개발업체들은 기업의 보안과 운용 효율성을 위해 반드시 알고리즘, 시각화, 컨텍스트, 자동화(AVCA) 영역에 초점을 맞춰야 한다. ESG 리서치에 따르면 44%의 조직에서 현재 수준의 보안 데이터 수집과 분석이 '빅데이터'의 영역이라고 분류하고 있으며, 또 다른 44%의 조직에서는 향후 2년 내에 '빅데이터'의 영역으로 분류될 것이라고 보고 있다(여기서 빅데이터 보안 분석은, 보안 데이터의 크기가 너무 커져서 이전의 보안 분석 도구로 다룰 수 없는 수준을 의미한다). 따라서, 기업들은 몇 년 안에 어떤 형태의 빅데이터 보안 분석 제품 혹은 솔루션을 도입할 옮겨갈 가능성이 높다. 이것은, 많은 기업의 보안 책임자들이 새로운 제품 사이에서 과대 포장된 제품을 가려내기 위해 엄청난 혼란을 겪어야 한다는 말이다. 필자는 이 혼란을 돕기 위해 블로그에 빅데이터 보안 분석에 관해 자주 묻는 질문들을 정리해왔다. 이것은 이 분야의 이해를 돕기 위한 기본적인 정보를 제공하지만, 제품 자체에 대해서는 그렇지 못하다. 물론 모든 제품들이 대용량의 유연한 질의 처리 기능을 제공한다. 그렇다면 어떤 것이 제품을 특별하게 만드는가? 축약을 좋아하는 우리 분야의 특성에 맞게, 필자는 보안 관련자들이 다음과 같은 AVCA(algorithms, Visualization, Context, and Automation)를 고려하기를 권유한다. 알고리즘(Algorithm) 빅데이터 보안 분석에서 알고리즘은 자동 혹은 수동 분석의 차이를 나타낸다. 알고리즘이 있다면, 분석가들은 지능적인 기술의 도움을 받을 수 있을 것이다. 만약 없다면, 분석가들은 점점 많아지는 데이터를 스스로 처리해야만 한다. 빅데이터 분석 알고리즘은 높은 정확도를 위해 데이터, 처리 능력, 커스텀 규칙(custom rules)을 혼합해야 한다. 예를 들어 기계 학습(21CT, LogRhythm, SilverTail 등)과 행동 이상 탐지(Click Sec...

시각화 자동화 알고리즘 빅데이터 보안 컨텍스트 핵심 요소

2013.10.25

개발업체들은 기업의 보안과 운용 효율성을 위해 반드시 알고리즘, 시각화, 컨텍스트, 자동화(AVCA) 영역에 초점을 맞춰야 한다. ESG 리서치에 따르면 44%의 조직에서 현재 수준의 보안 데이터 수집과 분석이 '빅데이터'의 영역이라고 분류하고 있으며, 또 다른 44%의 조직에서는 향후 2년 내에 '빅데이터'의 영역으로 분류될 것이라고 보고 있다(여기서 빅데이터 보안 분석은, 보안 데이터의 크기가 너무 커져서 이전의 보안 분석 도구로 다룰 수 없는 수준을 의미한다). 따라서, 기업들은 몇 년 안에 어떤 형태의 빅데이터 보안 분석 제품 혹은 솔루션을 도입할 옮겨갈 가능성이 높다. 이것은, 많은 기업의 보안 책임자들이 새로운 제품 사이에서 과대 포장된 제품을 가려내기 위해 엄청난 혼란을 겪어야 한다는 말이다. 필자는 이 혼란을 돕기 위해 블로그에 빅데이터 보안 분석에 관해 자주 묻는 질문들을 정리해왔다. 이것은 이 분야의 이해를 돕기 위한 기본적인 정보를 제공하지만, 제품 자체에 대해서는 그렇지 못하다. 물론 모든 제품들이 대용량의 유연한 질의 처리 기능을 제공한다. 그렇다면 어떤 것이 제품을 특별하게 만드는가? 축약을 좋아하는 우리 분야의 특성에 맞게, 필자는 보안 관련자들이 다음과 같은 AVCA(algorithms, Visualization, Context, and Automation)를 고려하기를 권유한다. 알고리즘(Algorithm) 빅데이터 보안 분석에서 알고리즘은 자동 혹은 수동 분석의 차이를 나타낸다. 알고리즘이 있다면, 분석가들은 지능적인 기술의 도움을 받을 수 있을 것이다. 만약 없다면, 분석가들은 점점 많아지는 데이터를 스스로 처리해야만 한다. 빅데이터 분석 알고리즘은 높은 정확도를 위해 데이터, 처리 능력, 커스텀 규칙(custom rules)을 혼합해야 한다. 예를 들어 기계 학습(21CT, LogRhythm, SilverTail 등)과 행동 이상 탐지(Click Sec...

2013.10.25

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.13