Offcanvas

AI / 라이프

“AI가 고통 거리두기 증후군 유발할 수도” 카스퍼스키

2023.09.07 편집부  |  CIO KR
카스퍼스키 전문가들은 인공지능(AI)로 인해 벌어질 수 있는 후유증, 특히 심리적인 위험에 대한 분석 결과를 공개했다.

카스퍼스키 글로벌 위협 정보 분석팀(GReAT) 아시아태평양 연구 센터 책임자 비탈리 캄룩은 사이버 범죄자들이 범죄에 AI를 활용함으로써 사이버 공격에 대한 책임을 기술에 돌리고 그 피해에 대한 죄책감을 덜 수 있다고 지적하며, 이는 ‘고통 거리두기 증후군’을 야기할 수 있다고 밝혔다.
 

비탈리 캄룩은 “길에서 누군가에게 신체적인 폭력을 가할 때 범죄자도 피해자의 고통을 목격하면서 상당한 스트레스를 느끼지만, 이러한 죄책감은 사이버 범죄자에게는 적용되지 않는다”라며, “마법과도 같이 범죄자들에게 돈이나 불법적인 이익을 가져다주는 AI를 만들면 비난의 대상이 범죄자가 아닌 AI가 되므로 범죄자들은 죄책감이나 책임으로부터 더욱 자유로워진다”라고 설명했다

AI가 IT 보안 팀에 미치는 또 다른 심리적 영향으로는 ‘책임 위임’이 있다. 갈수록 사이버 보안 프로세스 및 도구가 자동화되고 신경망으로 위임됨에 따라 사이버 공격, 특히 기업 환경에서 발생하는 사이버 공격에 대해 사람이 책임감을 덜 느낄 수 있다.

캄룩은 “규정준수와 공적인 안전 책임이 많은 기업 부문에서도 보안팀에게 유사한 영향이 있을 수 있고, 지능형 방어 시스템에게 책임을 돌리게 될 수 있다”며, “또한 완벽하게 독립적인 자동 파일럿의 존재가 인간의 주의력을 낮추는 결과를 낳는다”고 말했다. 

캄룩은 AI의 장점을 안전하게 활용할 수 있는 지침을 ▲접근성 ▲규정 ▲교육에서 제시했다. 

AI는 방대한 데이터를 기반으로 구축돼 학습된 지능형 시스템에 대한 익명 액세스를 제한해야 한다고 캄룩은 밝혔다. 생성된 콘텐츠의 이력을 관리하고 특정 합성 콘텐츠가 어떻게 생성되었는지 식별해야 한다는 것이다. www와 비슷하게 AI 오남용을 처리하는 절차와 오남용 사례를 보고할 수 있는 명확한 담당처를 두어야 하며, AI 기반 지원으로 일차적으로 확인한 후 필요에 따라 인간의 검증을 받는 방식으로 운영할 수 있다.

이미 AI를 활용해 생성된 콘텐츠에 표시를 하는 것에 대한 논의가 이미 유럽연합에서 시작되었다. 이를 통해 사용자는 믿을만한 방식으로 AI 생성 이미지, 사운드, 영상 또는 글을 빠르게 식별할 수 있다. 언제나 공격자는 존재하지만, 항상 소수로 남아야 하고 도망치고 숨는 존재가 될 것이다.

AI 개발자의 경우 이러한 시스템이 유해할 수 있으므로 이러한 활동에 대한 라이선스를 부여하는 것이 합리적일 수 있다. AI는 좋은 용도로든 나쁜 용도로든 사용될 수 있는 기술이므로, 군용 장비나 군민 양용 장비와 마찬가지로 필요 시 수출 제한을 하는 등 제조에도 통제를 가해야 한다.

모두에게 가장 효율적인 방법은 AI 콘텐츠를 탐지 및 검증하고 오남용 사례를 보고하는 방법에 대한 인식을 형성하는 것이라고 캄룩은 설명했다. 

학교에서는 AI의 개념과 AI가 자연지능과 어떻게 다른지, AI가 얼마나 신뢰할 수 있는지 또는 AI에 대한 환상이 어떻게 깨질 수 있는지 가르쳐야 한다. 소프트웨어 코더는 기술을 책임감 있게 사용하도록 교육받고 오남용 시 받을 수 있는 처벌에 대해 인지해야 한다.

캄룩은 “다른 혁신적인 기술과 마찬가지로 AI는 양날의 검”이라며, “이러한 AI 솔루션에 대해 보안을 지키는 방법을 알고 있는 한 AI를 인간에게 도움이 되는 방향으로 사용할 수 있을 것”이라고 말했다. 

한편, 카스퍼스키는 방콕 푸켓에서 10월 25~28일 동안 열리는 ‘카스퍼스키 SAS 2023(Kaspersky Security Analyst Summit 2023)’에서 사이버 보안의 미래에 대한 논의를 이어갈 것이다. 이 서밋에는 고품질 안티 맬웨어 연구원, 국제 사법기관, 컴퓨터 비상대응팀(Computer Emergency Response Team), 전세계 각지의 금융 서비스, 기술, 의료, 교육기관 및 정부기관 고위급 인사가 참여할 예정이다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.