2021.03.29

구석까지 스마트해지면?··· '엣지·IoT + AI' 가능성에 주목하는 기업들

Maria Korolov | CIO
‘엣지’에 AI를 접목시킴으로써 얻을 수 있는 혜택은 다각적이다. 레이턴시를 줄이고 네트워크 비용을 아낄 수 있는 것은 물론, 보안을 개선할 수 있다. 기업에 따라서는 분산 AI의 위력을 누릴 수 있기도 하다. 

AI는 더 이상 중앙의 대형 데이터센터에 국한되지 않는다. 전구부터 자동차까지 많은 것들에 ‘스마트’라는 수식어가 붙는다. AI 기능성을 엣지(Edge)에 적용함으로써 기업들은 지연 속도를 낮추고 성능을 개선하며 대역폭 요건을 낮추고 장치가 네트워크 연결이 없는 상황에서도 계속 작동하도록 할 수 있다. 

엣지에서 AI를 사용하게 하는 주요 동인 중 하나는 현장에서 처리되는 데이터를 중앙의 클라우드 컴퓨팅 솔루션과 전통적인 데이터센터에서 처리하는 경우 데이터 물량 때문에 네트워크 속도가 느려지기 때문이다. 

부즈 앨런 해밀턴(Booz Allen Hamilton)의 부사장 키 리는 “처리를 위해 모든 데이터를 중앙의 클라우드로 전송해야 하기 때문에 네트워크 대역폭과 지연 속도의 한계가 높아졌다”라고 말했다. AI 지원 엣지 컴퓨팅(AI-enabled edge computing)의 시대가 열리고 있다.
 
Image Credit : Getty Images Bank


봇(Bot)과의 전쟁
아카마이(Akamai)만큼 이 문제를 체험하는 기업은 드물다. 아카마이는 전 세계에서 가장 큰 콘텐츠 유통 네트워크를 운영하고 있다. 최근 조사에 따르면 135개 이상의 국가에서 약 32만 5,000대의 서버로 매초마다 100Tb 이상의 웹 트래픽을 제공하고 있었다. 

엣지 컴퓨팅은 성능과 보안을 개선하는 열쇠라고 아카마이의 글로벌 제품 및 산업 마케팅 부사장 아리 웨일이 말했다. ‘봇’이 대표적이다.

“봇들은 인터넷에서 엄청난 문제가 되고 있다”고 웨일이 말했다. 이것들은 자동화된 크리덴셜 스터핑(Credential Stuffing)과 서비스 거부 공격으로 고객들을 공격한다. 또한 쓸모 없는 트래픽으로 파이프를 막아 아카마이에 비용을 발생시킨다.

사이버 범죄자들도 봇을 사용하여 기업과 조사기관 및 의료기관들의 방어선에 침투하려 하고 있다. 이용 한계 또한 확장되고 있다. 예를 들어, 해커들은 최근에 표 되팔이에서와 마찬가지로 코로나19에도 봇을 사용하여 백신 어포인트먼트 슬롯(Appointment Slot)을 낚아했던 바 있다. 

아카마이는 시간당 4억 8,500만 회의 요청과 매일 2억 8,000만 회의 봇 로그인 시도를 경험하고 있다. 이 전쟁에서 승리하기 위해 아카마이는 2018년 엣지에 AI를 배치하여 특정 사용자가 실제 인간인지 아니면 봇인지 판단하기 시작했다. 

그는 “그리고 우리는 스텝업 챌린지(Step-up Challenge) 등 즉각적인 조치를 취한다. 예를 들어, 우리는 브라우저가 특정 작업을 하도록 하는 자바스크립트 챌린지가 있다. 브라우저가 실제 브라우저가 아닌 경우 그 작업을 할 수 없다. 그리고 우리는 컴퓨팅 비용을 크게 높여 봇 운영자를 파산시키려 시도하고 있다”라고 말했다.

2019년, 아카마이는 중앙의 딥러닝을 사용하여 봇 행동을 식별하고 더 나은 머신러닝 모델을 개발하기 시작했다. 그리고 이런 모델을 엣지로 배치하여 실제 작업을 수행하게 한다.

AI를 사용하여 아카마이에서 위협 정보를 분석하기도 한다. 웨일은 “이것은 빅데이터 문제이다. 우리는 거대한 데이터 레이크에서 엄청난 양의 데이터를 가져다가 다양한 모델을 적용하여 악의적인 서명을 찾는다. 우리가 패턴을 식별하면 이를 플랫폼 전반에 걸쳐 사용할 수 있다”라고 말했다. 

예를 들어, 때로는 메시지가 무해하지만 악의적인 출처로부터 발생하는 명령 및 통제 트래픽인 경우도 있다. 웨일은 “우리는 엣지 모델을 훈련하여 이 특정 지역 또는 특정 IP 주소에서 오는 트래픽을 인식하고 완화 기법을 엣지에서 즉시 적용한다”라고 말했다.

그 결과, 아카마이는 봇 또는 맬웨어의 트래픽을 처리할 필요가 없기 때문에 돈을 절약하게 된다. 고객들은 낭비되는 대역폭의 비용을 지불할 필요가 없기 때문에 돈을 절약한다. 그리고 고객들은 처리할 봇과 맬웨어 샘플이 줄어들기 때문에 더욱 안전하다.

2020년 3/4분기에 아카마이는 18억 6,000만 회의 애플리케이션 수준 공격을 중단시키고 700억 회 이상의 크리덴셜 남용 공격을 차단할 수 있었다고 웨일이 말했다. 

엣지 IoT 관리하기
엣지에 AI를 적용하면 사물인터넷(IoT) 활용 사례에서 데이터와 네트워크 부하를 낮출 수 있다. IoT 장치는 많은 양의 정보를 생성할 수 있지만 그 정보가 일상적이고 반복적인 경우가 많다. 

웨일은 “(IoT 장치의 경우) 많은 ‘정상’ 메시지를 생성한다. 그래서 이 모든 것을 추려 시스템에 문제가 있을 수 있다는 신호를 찾는 것이다. 그러려면 제조사에게 가야 한다”라고 말했다.

머신러닝 기술을 엣지에 배치하여 중요한 신호가 무엇인지 학습하면 데이터를 고객에게 전송하기 전에 처리하도록 할 수 있다. 커넥티드 카(Connected Car)를 예로 들 수 있다. 

하나의 셀(Cell) 구역과 타워에서 다른 셀 구역과 타워, 주, 다른 고도 및 기후 등으로 이동한다. 한 지역에 적절한 판독값이 다른 곳에서는 적절하지 않거나, 급격한 데이터 변화로 문제를 알릴 수 있다. 여기에서 머신러닝이 필요하다.

IEEE 회원이자 센트릭 컨설팅(Centric Consulting)의 클라우드 및 신기술 활동 책임자 카르멘 폰타나는 “엣지 기기에 지능성을 부여하는 움직임이 현재 IoT 분야에서 가장 두드러진다”라고 말했다. 

특히 자동차 산업에서는 지연 속도에 대한 요구가 크다. 그녀는 “메인 데이터센터로 가서 결정을 내리고 다시 전달하는 것은 좋지 않다. 그럴 시간이 없다”라고 말했다. 하지만 느리게 이동하거나 정지한 장치에서도 엣지에서 추가적인 처리 능력이 도움이 될 수 있다.

그녀는 “보편적인 예가 원거리에 소재한 태양 전지이다. 이것들은 좋은 셀 서비스나 WiFi가 없다. 로컬 상태로 데이터를 처리하고 결정을 내릴 수 있는 능력이 정말 중요하다”고 말했다.

분산된 지능성을 통해 기업들은 장치로부터 반환되는 메시지 트래픽의 양을 줄여 네트워킹 비용과 에너지 사용량을 줄일 수 있다. 그녀는 “데이터 저장은 비용이 높고 에너지 효율적이지 않다 전송하거나 저장해야 하는 많은 데이터를 없앨 수 있다면 에너지를 절약할 수 있다”라고 말했다.

장치에 차별화된 기능을 제공하기 위해서도 점차 엣지에서 AI가 활용되고 있다. 폰타나는 “내 손목에는 스마트 워치와 회복 장치가 있다. 회복 장치는 심박수와 호흡 패턴 등 나의 지표를 감지한다. 내 신체가 얼마나 회복했는지 그리고 다음 운동 시 얼마나 열심히 해야 하는지 계산한다”라고 말했다.




2021.03.29

구석까지 스마트해지면?··· '엣지·IoT + AI' 가능성에 주목하는 기업들

Maria Korolov | CIO
‘엣지’에 AI를 접목시킴으로써 얻을 수 있는 혜택은 다각적이다. 레이턴시를 줄이고 네트워크 비용을 아낄 수 있는 것은 물론, 보안을 개선할 수 있다. 기업에 따라서는 분산 AI의 위력을 누릴 수 있기도 하다. 

AI는 더 이상 중앙의 대형 데이터센터에 국한되지 않는다. 전구부터 자동차까지 많은 것들에 ‘스마트’라는 수식어가 붙는다. AI 기능성을 엣지(Edge)에 적용함으로써 기업들은 지연 속도를 낮추고 성능을 개선하며 대역폭 요건을 낮추고 장치가 네트워크 연결이 없는 상황에서도 계속 작동하도록 할 수 있다. 

엣지에서 AI를 사용하게 하는 주요 동인 중 하나는 현장에서 처리되는 데이터를 중앙의 클라우드 컴퓨팅 솔루션과 전통적인 데이터센터에서 처리하는 경우 데이터 물량 때문에 네트워크 속도가 느려지기 때문이다. 

부즈 앨런 해밀턴(Booz Allen Hamilton)의 부사장 키 리는 “처리를 위해 모든 데이터를 중앙의 클라우드로 전송해야 하기 때문에 네트워크 대역폭과 지연 속도의 한계가 높아졌다”라고 말했다. AI 지원 엣지 컴퓨팅(AI-enabled edge computing)의 시대가 열리고 있다.
 
Image Credit : Getty Images Bank


봇(Bot)과의 전쟁
아카마이(Akamai)만큼 이 문제를 체험하는 기업은 드물다. 아카마이는 전 세계에서 가장 큰 콘텐츠 유통 네트워크를 운영하고 있다. 최근 조사에 따르면 135개 이상의 국가에서 약 32만 5,000대의 서버로 매초마다 100Tb 이상의 웹 트래픽을 제공하고 있었다. 

엣지 컴퓨팅은 성능과 보안을 개선하는 열쇠라고 아카마이의 글로벌 제품 및 산업 마케팅 부사장 아리 웨일이 말했다. ‘봇’이 대표적이다.

“봇들은 인터넷에서 엄청난 문제가 되고 있다”고 웨일이 말했다. 이것들은 자동화된 크리덴셜 스터핑(Credential Stuffing)과 서비스 거부 공격으로 고객들을 공격한다. 또한 쓸모 없는 트래픽으로 파이프를 막아 아카마이에 비용을 발생시킨다.

사이버 범죄자들도 봇을 사용하여 기업과 조사기관 및 의료기관들의 방어선에 침투하려 하고 있다. 이용 한계 또한 확장되고 있다. 예를 들어, 해커들은 최근에 표 되팔이에서와 마찬가지로 코로나19에도 봇을 사용하여 백신 어포인트먼트 슬롯(Appointment Slot)을 낚아했던 바 있다. 

아카마이는 시간당 4억 8,500만 회의 요청과 매일 2억 8,000만 회의 봇 로그인 시도를 경험하고 있다. 이 전쟁에서 승리하기 위해 아카마이는 2018년 엣지에 AI를 배치하여 특정 사용자가 실제 인간인지 아니면 봇인지 판단하기 시작했다. 

그는 “그리고 우리는 스텝업 챌린지(Step-up Challenge) 등 즉각적인 조치를 취한다. 예를 들어, 우리는 브라우저가 특정 작업을 하도록 하는 자바스크립트 챌린지가 있다. 브라우저가 실제 브라우저가 아닌 경우 그 작업을 할 수 없다. 그리고 우리는 컴퓨팅 비용을 크게 높여 봇 운영자를 파산시키려 시도하고 있다”라고 말했다.

2019년, 아카마이는 중앙의 딥러닝을 사용하여 봇 행동을 식별하고 더 나은 머신러닝 모델을 개발하기 시작했다. 그리고 이런 모델을 엣지로 배치하여 실제 작업을 수행하게 한다.

AI를 사용하여 아카마이에서 위협 정보를 분석하기도 한다. 웨일은 “이것은 빅데이터 문제이다. 우리는 거대한 데이터 레이크에서 엄청난 양의 데이터를 가져다가 다양한 모델을 적용하여 악의적인 서명을 찾는다. 우리가 패턴을 식별하면 이를 플랫폼 전반에 걸쳐 사용할 수 있다”라고 말했다. 

예를 들어, 때로는 메시지가 무해하지만 악의적인 출처로부터 발생하는 명령 및 통제 트래픽인 경우도 있다. 웨일은 “우리는 엣지 모델을 훈련하여 이 특정 지역 또는 특정 IP 주소에서 오는 트래픽을 인식하고 완화 기법을 엣지에서 즉시 적용한다”라고 말했다.

그 결과, 아카마이는 봇 또는 맬웨어의 트래픽을 처리할 필요가 없기 때문에 돈을 절약하게 된다. 고객들은 낭비되는 대역폭의 비용을 지불할 필요가 없기 때문에 돈을 절약한다. 그리고 고객들은 처리할 봇과 맬웨어 샘플이 줄어들기 때문에 더욱 안전하다.

2020년 3/4분기에 아카마이는 18억 6,000만 회의 애플리케이션 수준 공격을 중단시키고 700억 회 이상의 크리덴셜 남용 공격을 차단할 수 있었다고 웨일이 말했다. 

엣지 IoT 관리하기
엣지에 AI를 적용하면 사물인터넷(IoT) 활용 사례에서 데이터와 네트워크 부하를 낮출 수 있다. IoT 장치는 많은 양의 정보를 생성할 수 있지만 그 정보가 일상적이고 반복적인 경우가 많다. 

웨일은 “(IoT 장치의 경우) 많은 ‘정상’ 메시지를 생성한다. 그래서 이 모든 것을 추려 시스템에 문제가 있을 수 있다는 신호를 찾는 것이다. 그러려면 제조사에게 가야 한다”라고 말했다.

머신러닝 기술을 엣지에 배치하여 중요한 신호가 무엇인지 학습하면 데이터를 고객에게 전송하기 전에 처리하도록 할 수 있다. 커넥티드 카(Connected Car)를 예로 들 수 있다. 

하나의 셀(Cell) 구역과 타워에서 다른 셀 구역과 타워, 주, 다른 고도 및 기후 등으로 이동한다. 한 지역에 적절한 판독값이 다른 곳에서는 적절하지 않거나, 급격한 데이터 변화로 문제를 알릴 수 있다. 여기에서 머신러닝이 필요하다.

IEEE 회원이자 센트릭 컨설팅(Centric Consulting)의 클라우드 및 신기술 활동 책임자 카르멘 폰타나는 “엣지 기기에 지능성을 부여하는 움직임이 현재 IoT 분야에서 가장 두드러진다”라고 말했다. 

특히 자동차 산업에서는 지연 속도에 대한 요구가 크다. 그녀는 “메인 데이터센터로 가서 결정을 내리고 다시 전달하는 것은 좋지 않다. 그럴 시간이 없다”라고 말했다. 하지만 느리게 이동하거나 정지한 장치에서도 엣지에서 추가적인 처리 능력이 도움이 될 수 있다.

그녀는 “보편적인 예가 원거리에 소재한 태양 전지이다. 이것들은 좋은 셀 서비스나 WiFi가 없다. 로컬 상태로 데이터를 처리하고 결정을 내릴 수 있는 능력이 정말 중요하다”고 말했다.

분산된 지능성을 통해 기업들은 장치로부터 반환되는 메시지 트래픽의 양을 줄여 네트워킹 비용과 에너지 사용량을 줄일 수 있다. 그녀는 “데이터 저장은 비용이 높고 에너지 효율적이지 않다 전송하거나 저장해야 하는 많은 데이터를 없앨 수 있다면 에너지를 절약할 수 있다”라고 말했다.

장치에 차별화된 기능을 제공하기 위해서도 점차 엣지에서 AI가 활용되고 있다. 폰타나는 “내 손목에는 스마트 워치와 회복 장치가 있다. 회복 장치는 심박수와 호흡 패턴 등 나의 지표를 감지한다. 내 신체가 얼마나 회복했는지 그리고 다음 운동 시 얼마나 열심히 해야 하는지 계산한다”라고 말했다.


X