2016.11.29

'머신 vs. 머신' AI가 주도하는 사이버 전쟁 시대 열린다

hael Kan | IDG News Service
몇 년, 혹은 몇 십년 후의 일이지만, 사람이 아닌 기계가 해커인 세상이 올 전망이다. 사이버 보안의 혁신을 약속하는 인공지능(AI)가 반대로 공격까지 알아서 하는 것이다. 

지난 8월 DARPA(Defence Advanced Research Projects Agency, 미국방위고등연구계획국)이 주최한 인공지능 보안시스템 대회 사이버 그랜드 챌린지(Cyber Grand Challenge)에서는 AI의 힘을 엿볼 수 있었다. 7대의 수퍼 컴퓨터가 서로 소프트웨어 취약점을 찾고 패치하는 경쟁을 벌인 것.

이 기술은 코딩의 취약점을 찾아 보안을 강화할 수 있는 데 호라용될 수 있지만, 악의적인 목적으로도 활용될 수 있다. 사이버 방어의 미래는 새로운 해킹의 시대를 여는 길일 수도 있다는 의미다.

잠재적인 위혐
예를 들어, 사이버 범죄자들은 이 기능들을 지금까지 알려지지 않은 취약점을 찾아서 악용할 수 있다. 그러나 사람과 달리 AI는 여기에 효율성을 더할 수 있다. 취약점을 찾아 공격하는 데 까지 걸리는 시간을 줄여 ‘저렴한 상품’처럼 만들 수 있는 것.

이미 자율 주행 자동차, 더 발전된 로봇, 그리고 다른 형태의 자동화가 이루어지고 있는 기술 업계의 사이버 보안 전문가들은 이 위험을 잘 알고 있다. 그라마테크(GrammaTech)의 수설 연구 책임자인 데이비드 멜스키는 “기술은 언제나 위협을 당한다”라고 이야기한다.

그라마테크는 8월 사이버 그랜드 챌린지에 참가한 수퍼컴퓨터를 개발한 업체 중 하나다. 현재 이 기술을 고객사가 사물인터넷 기기의 취약점을 방어하고 인터넷 브라우저를 더 안전하게 만드는데 활용할 계획이다.

그는 “그러나 취약점을 발견하는 것은 양날의 검이다. 우리는 점점 더 모든 것을 자동화하고 있다”고 말했다.

이런 자동화의 어두운 면, 즉 AI가 강력한 사이버 공격 무기를 만들거나 제어하는 상황을 상상하는 것은 어렵지 않다. 멜스키는 이란의 핵 프로그램을 파괴하도록 설계된 악성 코드였던 스턱스넷(Stuxnet)을 예로 들었다.

“스턱스넷 같은 것이 자동화되면 엄청난 파괴력을 가져올 것”이라고 덧붙였다.

AI 방어의 잠재력
보안 업체 센티넬원(SentinelOne)의 CEO 토머 바인가르텡은 “누구에게든 어떤 아이디어도 공유하고 싶지 않다”라면서도, 하지만 인터넷을 돌아다니며 취약점을 찾는 AI가 주도하는 기술은 미래에 현실화될 것이라고 전했다.

이런 간소화된 사이버범죄는 이미 일어나고 있다. 예를 들어, 블랙 마켓(black market)에서는 이미 해커 대여 서비스가 존재하는데, 깔끔한 웹 인터페이스에 쉽게 이해할 수 있는 명령 등으로 컴퓨터를 랜섬웨어로 감염시키는 등의 사이버 범죄를 쉽게 수행할 수 있다. 그는 “사람 공격자들은 이런 노동력에서 나오는 ‘열매’를 즐길 수 있다”고 덧붙였다.

하지만 AI라는 용어는 다소 실체가 모호하다. 기술 업체들은 모두 AI에 대해 이야기하지만, 아직 진정한 AI를 만든 업체는 없다. 대신 사람보다 게임을 더 잘하고 디지털 비서처럼 행동하고 심지어 희귀병을 진단할 수 있는 기술을 내놓고 있다.

사이랜스(Cylance)같은 사이버보안 업체들은 악성코드를 막기 위해 머신러닝이라는 AI의 하위 집합을 사용하고 있다. 악성코드 샘플을 기반으로 컴퓨터 내의 특정 활동이 정상인지 비정상인지 판단하는 수학적 모델을 구축한 것이다.

사이랜스의 최고 연구 책임자인 존 밀러는 “궁극적으로 해당 파일 좋은지 나쁜지에 대한 통계적인 확률로 끝이다. 머신러닝이 작동하는 시간 중 99% 이상은 악성코드를 탐지하는 데 사용된다”라고 설명했다.

이어 “우리는 계속 새로운 데이터(악성코드 샘플)을 이 모델에 넣는다. 더 많은 데이터가 들어갈 수록 정확도가 더 높아진다”라고 말했다.

단계적 확대
머신러닝을 활용하는 것의 단점은 비용이 많이 든다는 것이다. 밀러는 “머신러닝에 월 50만 달러 이상을 소비하고 있다”고 전했다. 이는 해당 모델을 구동하는 아마존의 클라우드 컴퓨팅 서비스를 대여하는 데 들어가는 비용이다.

AI 기술을 악의적인 목적으로 사용하려는 사람들 역시 같은 진입 장벽에 부딪힐 것이다. 여기에 프로그래밍을 개발하기 위해서 최고의 인재들을 확보해야 한다. 하지만 시간이 지날수록 컴퓨팅에 들어가는 비용은 낮아지게 될 것이라고 밀러는 전망했다.

그러나 해커들이 AI를 활용하기까지는 많은 시간이 걸릴 것으로 보인다. 밀러는 “아직까지 이것이 안된 이유는 무엇일까? 아직 필요 없기 때문이다. 누군가를 해킹하고자 할 땐 이미 모든 취약점이 충분히 알려진 상태이다”라고 말했다.

현재까지 많은 해킹들은 악성코드가 포함된 피싱 이메일을 공격 대상에 보낸 후에 이루어진다. 비밀번호가 취약하거나 소프트웨어를 최신 버전으로 업그레이드하지 않은 경우에도 해킹이 이루어지는 데, 이 모든 사례는 해킹을 쉽게하는 환경이다.

보안업체 다크트레이스(Darktrace)의 사이버인텔리전스 최고 책임자인 저스틴 피어는 머신러닝과 같은 AI 기술은 이러한 일부 문제를 해결할 잠재력이 있다고 전한다. 하지만, 해커들이 무기를 업그레이드하는 것도 시간 문제라고 말했다.

사이버보안 업체들이 해커들에 대항하기 위해 AI를 최전선에 배치하는 형태다. 피어는 “이제 사이버 전쟁에서 머신과 머신이 싸우는 시대가 곧 도래할 것 같다”고 덧붙였다. editor@itworld.co.kr



2016.11.29

'머신 vs. 머신' AI가 주도하는 사이버 전쟁 시대 열린다

hael Kan | IDG News Service
몇 년, 혹은 몇 십년 후의 일이지만, 사람이 아닌 기계가 해커인 세상이 올 전망이다. 사이버 보안의 혁신을 약속하는 인공지능(AI)가 반대로 공격까지 알아서 하는 것이다. 

지난 8월 DARPA(Defence Advanced Research Projects Agency, 미국방위고등연구계획국)이 주최한 인공지능 보안시스템 대회 사이버 그랜드 챌린지(Cyber Grand Challenge)에서는 AI의 힘을 엿볼 수 있었다. 7대의 수퍼 컴퓨터가 서로 소프트웨어 취약점을 찾고 패치하는 경쟁을 벌인 것.

이 기술은 코딩의 취약점을 찾아 보안을 강화할 수 있는 데 호라용될 수 있지만, 악의적인 목적으로도 활용될 수 있다. 사이버 방어의 미래는 새로운 해킹의 시대를 여는 길일 수도 있다는 의미다.

잠재적인 위혐
예를 들어, 사이버 범죄자들은 이 기능들을 지금까지 알려지지 않은 취약점을 찾아서 악용할 수 있다. 그러나 사람과 달리 AI는 여기에 효율성을 더할 수 있다. 취약점을 찾아 공격하는 데 까지 걸리는 시간을 줄여 ‘저렴한 상품’처럼 만들 수 있는 것.

이미 자율 주행 자동차, 더 발전된 로봇, 그리고 다른 형태의 자동화가 이루어지고 있는 기술 업계의 사이버 보안 전문가들은 이 위험을 잘 알고 있다. 그라마테크(GrammaTech)의 수설 연구 책임자인 데이비드 멜스키는 “기술은 언제나 위협을 당한다”라고 이야기한다.

그라마테크는 8월 사이버 그랜드 챌린지에 참가한 수퍼컴퓨터를 개발한 업체 중 하나다. 현재 이 기술을 고객사가 사물인터넷 기기의 취약점을 방어하고 인터넷 브라우저를 더 안전하게 만드는데 활용할 계획이다.

그는 “그러나 취약점을 발견하는 것은 양날의 검이다. 우리는 점점 더 모든 것을 자동화하고 있다”고 말했다.

이런 자동화의 어두운 면, 즉 AI가 강력한 사이버 공격 무기를 만들거나 제어하는 상황을 상상하는 것은 어렵지 않다. 멜스키는 이란의 핵 프로그램을 파괴하도록 설계된 악성 코드였던 스턱스넷(Stuxnet)을 예로 들었다.

“스턱스넷 같은 것이 자동화되면 엄청난 파괴력을 가져올 것”이라고 덧붙였다.

AI 방어의 잠재력
보안 업체 센티넬원(SentinelOne)의 CEO 토머 바인가르텡은 “누구에게든 어떤 아이디어도 공유하고 싶지 않다”라면서도, 하지만 인터넷을 돌아다니며 취약점을 찾는 AI가 주도하는 기술은 미래에 현실화될 것이라고 전했다.

이런 간소화된 사이버범죄는 이미 일어나고 있다. 예를 들어, 블랙 마켓(black market)에서는 이미 해커 대여 서비스가 존재하는데, 깔끔한 웹 인터페이스에 쉽게 이해할 수 있는 명령 등으로 컴퓨터를 랜섬웨어로 감염시키는 등의 사이버 범죄를 쉽게 수행할 수 있다. 그는 “사람 공격자들은 이런 노동력에서 나오는 ‘열매’를 즐길 수 있다”고 덧붙였다.

하지만 AI라는 용어는 다소 실체가 모호하다. 기술 업체들은 모두 AI에 대해 이야기하지만, 아직 진정한 AI를 만든 업체는 없다. 대신 사람보다 게임을 더 잘하고 디지털 비서처럼 행동하고 심지어 희귀병을 진단할 수 있는 기술을 내놓고 있다.

사이랜스(Cylance)같은 사이버보안 업체들은 악성코드를 막기 위해 머신러닝이라는 AI의 하위 집합을 사용하고 있다. 악성코드 샘플을 기반으로 컴퓨터 내의 특정 활동이 정상인지 비정상인지 판단하는 수학적 모델을 구축한 것이다.

사이랜스의 최고 연구 책임자인 존 밀러는 “궁극적으로 해당 파일 좋은지 나쁜지에 대한 통계적인 확률로 끝이다. 머신러닝이 작동하는 시간 중 99% 이상은 악성코드를 탐지하는 데 사용된다”라고 설명했다.

이어 “우리는 계속 새로운 데이터(악성코드 샘플)을 이 모델에 넣는다. 더 많은 데이터가 들어갈 수록 정확도가 더 높아진다”라고 말했다.

단계적 확대
머신러닝을 활용하는 것의 단점은 비용이 많이 든다는 것이다. 밀러는 “머신러닝에 월 50만 달러 이상을 소비하고 있다”고 전했다. 이는 해당 모델을 구동하는 아마존의 클라우드 컴퓨팅 서비스를 대여하는 데 들어가는 비용이다.

AI 기술을 악의적인 목적으로 사용하려는 사람들 역시 같은 진입 장벽에 부딪힐 것이다. 여기에 프로그래밍을 개발하기 위해서 최고의 인재들을 확보해야 한다. 하지만 시간이 지날수록 컴퓨팅에 들어가는 비용은 낮아지게 될 것이라고 밀러는 전망했다.

그러나 해커들이 AI를 활용하기까지는 많은 시간이 걸릴 것으로 보인다. 밀러는 “아직까지 이것이 안된 이유는 무엇일까? 아직 필요 없기 때문이다. 누군가를 해킹하고자 할 땐 이미 모든 취약점이 충분히 알려진 상태이다”라고 말했다.

현재까지 많은 해킹들은 악성코드가 포함된 피싱 이메일을 공격 대상에 보낸 후에 이루어진다. 비밀번호가 취약하거나 소프트웨어를 최신 버전으로 업그레이드하지 않은 경우에도 해킹이 이루어지는 데, 이 모든 사례는 해킹을 쉽게하는 환경이다.

보안업체 다크트레이스(Darktrace)의 사이버인텔리전스 최고 책임자인 저스틴 피어는 머신러닝과 같은 AI 기술은 이러한 일부 문제를 해결할 잠재력이 있다고 전한다. 하지만, 해커들이 무기를 업그레이드하는 것도 시간 문제라고 말했다.

사이버보안 업체들이 해커들에 대항하기 위해 AI를 최전선에 배치하는 형태다. 피어는 “이제 사이버 전쟁에서 머신과 머신이 싸우는 시대가 곧 도래할 것 같다”고 덧붙였다. editor@itworld.co.kr

X