Offcanvas

AI / 머신러닝|딥러닝 / 신기술|미래 / 오픈소스

“AI가 배워야 할 기준 함께 만든다”··· 오픈AI, 100만 달러 투자해 AI 기술 연구 공모전 진행

2023.05.26 이지현  |  CIO KR
오픈AI가 현재 법 구조 속 AI 시스템이 배워야 할 원칙과 이를 훈련시킬 수 있는 아이디어를 공개 모집한다고 25일 밝혔다. 이번 프로젝트는 전 세계 누구나 참여할 수 있으며, 최종 선정된 10개 프로젝트는 각각 10만 달러(약 1억 원)를 지원받는다.  
 
ⓒ 오픈AI 블로그

이번 프로젝트는 ‘AI에 대한 민주적 의견 수렴(Democratic Inputs to AI)’라는 이름으로 진행된다. 오픈AI는 공식 블로그를 통해 “AI는 사회와 마찬가지로 법적 규제 외에도 다층적이고 유연한 행동 지침이 필요하다”라며 “AI의 작동 방식에 대한 결정은 공공의 이익을 반영해 다양한 관점에 의해 형성되어야 한다”라고 밝혔다. 

오픈AI는 이번 프로젝트로 다음과 같은 질문에 AI가 스스로 답을 내릴 수 있는 원칙과 방법을 찾고자 한다. 
 
  • 사용자의 취향과 선호도에 맞춰 챗GPT와 같은 AI 비서를 개인화할 수 있는 범위는 어디까지 인가? 범위의 경계선은 어디에 있어야 할까?
  • 공인의 가치관을 묻는 질문에 AI 어시스턴트는 어떻게 응답해야 할까? (예: 중립적이어야 할까? 답변을 거부해야 할까? 어떤 종류의 출처를 제공해야 할까?)
  • AI 비서가 의료/재무/법률 자문을 제공할 수 있는 조건이 있다면 어떤 조건에서 허용돼야 할까?
  • AI 비서가 개인에게 정서적 지원을 제공해야 하는 경우가 있다면 어떤 경우에 해당할까?
  • 여러 시각-언어 모델이 이미지에서 사람의 성별, 인종, 감정, 정체성/이름을 식별하는 것을 허용되야 할까 또는 허용하지 말아야 할까?
  • 생성형 모델이 'CEO', '의사', '간호사'와 같이 일반적 직업에 대한 이미지를 생성할 때, 다양하거나 균형있는 결과물을 생성할 가능성이 있다. AI 모델은 이러한 가능성의 균형을 어떻게 맞춰야 하나? 이러한 경우 인물의 묘사를 결정할 때 우선적으로 고려해야 할 요소는 무엇일까?
  • 성소수자 인권이나 여성 인권과 같이 인권과 현지 문화 또는 법적 차이를 모두 포함하는 주제를 다룰 때 AI는 어떤 원칙을 따라야 하나? AI가 사용되는 지역이나 문화에 따라 AI의 응답이 달라져야 하는가?
  • AI 모델 제작자가 제한하거나 거부해야 할 콘텐츠 범주에는 어떤 것이 있는가? 이러한 제한을 결정하기 위해 어떤 기준을 사용해야 할까?

오픈AI는 위와 같은 질문에 AI가 내리는 방안을 특정 개인, 기업, 국가가 결정해서는 안 된다며, 기술의 방향을 함께 고민하고자 이번 프로젝트를 실행한다고 설명했다. 

이번 프로젝트에는 개인, 팀, 단체 단위로 참여할 수 있다. 접수는 6월24일까지 받는다. 지원금을 받는 연구자는 향후 실제 제안한 아이디어의 개념을 증명을 해야 하고, 500명 이상 사용자를 대상으로 한 프로토타입을 만들어야 한다. 또한 별도의 보고서와 연구 과정에서 개발한 코드 및 지적재산권은 오픈소스 라이선스로 개방해야한다. 
jihyun_lee@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.