2016.08.05

인공 뉴런 개발 성공한 IBM, "인지 컴퓨팅 발전에 획기적 이정표"

Lucas Mearian | Computerworld
IBM 연구진이 상 변화 메모리(PCM ; Phase Change Memory)를 이용, 뇌의 인지 학습 기능을 모방한 인공 뉴런과 시냅스를 구현했다.

연구진에 따르면 상 변화 물질을 이용해 데이터를 저장하고 처리하는 '무작위 동작 뉴런(Randomly spiking neurons)'을 만들어낸 것은 이번이 처음이다. 에너지와 밀도 특성이 우수한 신경망(네트워크) 개발에 있어 획기적인 역할을 할 발명이라고 IBM 측은 의미를 부여했다.


IBM 취리히 연구소 소속 과학자인 토마스 튜마. Credit: IBM Research

설명에 따르면 이번 기술은 오늘날의 프로세서를 크게 개선시킴으로써 사물 인터넷(IoT), 주식 거래, 소셜 미디어 게시물 등 데이터 상관관계를 감지하는 애플리케이션의 처리 속도를 아주 크게 높일 수 있을 것으로 기대된다.

IBM은 10년 동안의 연구 결과를 담은 "확률론적 상 변환 신경 단위(Stochastic Phase-Change Neurons)" 라는 논문을 발표했다. 네이처 나노테크놀로지(Nature nanotechnology)라는 저널이 이를 머리 기사로 다뤘다.

IBM의 펠로우 연구원인 에반젤로 엘페프테리우는 "아직 PCM 프로세싱 칩 상용화까지는 몇 년이 더 필요하다"라면서도 그렇지만 이는 돌파구가 될 수 있는 획기적인 발견이라고 강조했다.

뇌 신경을 흉내 내는 PCM의 무작위성
과학자들은 오래 전부터 인간의 뇌가 기능하는 방식에 주목해왔다. 이들은 수십 년 동안 수 많은 뉴런으로 뇌를 닮은 컴퓨팅 기능을 구현하는 방법에 대해 연구했다. 그러나 생물 조직의 밀도와 아주 낮은 전압량이 특히 도전 과제였다.

이번 인공 뉴런 기술의 핵심은 무작위 변환, 즉 확률론적인 행동, 무작위 행동이다.



확률(무작위) 변수는 통계에 있어 데이터 분석 결과를 추정하는데 활용될 수 있다. 다시 말해 이를 이용해 데이터 상관성를 추정할 수 있게 되는 것이다.

이번 논문의 주 저자이며, IBM 취리히 연구소 소속 과학자인 토마스 튜마는 "기본적으로 뇌와 동일하게 작동을 한다. 극소 전압 펄스를 시냅시스로 보내 뉴런을 자극한다. 나노세컨드(10억분의 1초) 단위의 펄스로 물질 내 변화를 유도한다"라고 설명했다.

튜마에 따르면, PCM의 '무질서도(stochasticity)' 특성은, 모든 뉴런이 각각 다르게 반응하며, 새로운 방식으로 신호를 내고 연산을 하는 개체군 기반 컴퓨팅(population-based computing)에 있어 아주 중요한 요소다.

그는 "일반적으로 사람들은 무질서도(stochasticity)를 숨기려 하지만, 품질 좋은 무질서도를 원하는 경우라면, 이를 인위적으로 유도해야 한다. 우리는 아주 품질 높은 무질서도를 구현했다. 상 변화 셀의 결정화, 비정질화 프로세스를 이해하고 있기 때문이다"라고 말했다.

이번에 만든 상 변화 인공 뉴런의 크기는 90 나노미터(nm)이다. 연구원들은 향후 이를 14nm으로 축소할 수 있다고 전했다.

IBM 연구원들은 수백 개의 인공 뉴런을 개체군으로 구성하고, 이를 이용해 빠르고 복잡한 신호를 표현했다. 인공 뉴런은 수십억 스위칭 사이클(Switching cycles)을 유지할 수 있는 것으로 입증됐다. 100 Hz의 업데이트 주파수에서 몇 년 동안 운영할 수 있다는 의미다. 각 뉴런 업데이트에 필요한 에너지와 평균 전력은 각각 5 피코 줄(picojoule)과 120 마이크로와트 미만이다. 참고로 60와트 전구에 필요한 전력은 6,000만 마이크로와트이다.


1개의 상 변화 뉴론에는 '결정질(질서가 있음)'과 '비정질(무작위적)' 2개 상태가 존재한다.

데이터 집약적 워크로드에 도움을 주는 신경 프로세서
인공 뉴런을 이용하면, 일반 프로세서와 병존하는 형태의 신경계 프로세서를 만들 수 있다. 이 신경계 프로세서는 특히 분석업무 집중적인 워크로드를 효율적으로 처리할 수 있게 해줄 것으로 기대된다.

튜마는 "우리는 상변화 셀을 이용해 시냅스와 뉴런을 구현할 수 있음을 입증했다. 이는 상변화 메모리(PCM)를 한 단계 더 발전시켜, 컴퓨팅에 이용할 수 있도록 만드는데 중요한 역할을 할 수 있다"라고 말했다.

PRAM(Phase-change Random Access Memory)으로도 불리는 PCM은 전하를 이용해 결정체로 만든 소재의 표면을 바꾸고, 질서 있는 상태를 원자가 무작위로 분포된 비정질 상태로 바꾸는 비휘발성 메모리의 일종이다.

PCM 상태 변화에는 전압 스파이크가 이용된다. 이를 통해 데이터를 0과 1, 또는 비트로 표현할 수 있다. 그러나 PCM은 0과 1만이 아니 2개 이상의 상태로 존재할 수 있다.

IBM, 마이크론, 삼성, 에버스핀(Everspin) 같은 회사들은 PCM을 일종의 비휘발성 메모리로 이용하는 연구를 하고 있다. NAND 플래시보다 100배 이상 높은 성능과 튼튼한 내구성을 제공하기 때문이다. 그러나 생산 원가가 비싸 아직까지는 시장에 도입되어 있지 않다. PCM은 또 셀 당 몇 비트를 저장하는 NAND 플래시와 달리 데이터 오염 문제가 발생하지 않는다.

하지만 IBM의 이번 연구 결과는 새로운 비휘발성 메모리 개발과는 관련이 없다. 새로운 형태의 프로세서를 만드는 것과 관련이 있다.

IBM의 펠로우 연구원인 에반젤로 엘페프테리우는 "10년 넘게 메모리에 응용할 수 있는 상 변화 소재를 연구했으며, 최근 2년간 큰 성과를 일궈냈다. 우리는 이 기간 사상 처음으로 상 변화 메모리에 셀 당 3비트를 저장하는 프로젝티드 메모리 등 새로운 메모리 기법을 개발했다. 그리고 이번에 상 변화 기반 인공 뉴런의 강력한 기능을 입증해냈다"라고 설명했다.

인공 뉴런은 게르마늄, 안티몬, 텔루르 화합물 등 상 변화 물질로 구성돼 있다. 다시 쓰기가 가능한 블루레이의 기반이 되는 물질들이다. 그러나 인공 뉴런은 디지털 정보를 저장하지 않는다. 뇌의 시냅시스와 뉴런처럼 아날로그 정보를 저장한다.

연구 팀은 인공 뉴런에 일련의 전자 펄스를 적용했다. 그 결과 상 변화 물질이 점진적으로 결정화되면서 신경을 발화(fire)시켰다. 신경과학에서는 이를 생물학적 뉴런의 '결합성 및 발화성(Integrate-and-fire)' 속성이라고 부른다. 이는 이벤트 기반 컴퓨팅의 토대로, (이론적으로는) 뜨거운 것을 만졌을 때 뇌가 반응을 촉발하는 방식과 유사하다.

이 '결합성 및 발화성' 속성을 이용하면, 1개의 뉴런만 가지고도 이벤트 기반 데이터의 실시간 스트림의 패턴을 감지하고, 상관관계를 발견할 수 있다.

짧은 시간에 수 많은 데이터를 분석
이번 기술의 활용 가능성을 다양하다. 예를 들어 사물 인터넷 종단에서 수많은 기상 데이터를 수집하고 분석해, 훨씬 빠르게 기상을 예보할 수 있다. 인공 뉴런으로 금융 거래의 패턴을 분석하거나, 소셜 미디어 데이터를 실시간 분석해 새로운 문화적 트렌드를 발견할 수도 있다. 이런 저전력 고속 나노 단위 뉴런 개체군은 다른 메모리 및 프로세서 장치와 함께 뉴로모픽 코프로세서로 이용될 수도 있다.

IBM의 인공 뉴런이 더 특별한 이유는 일정 수준 자기 학습을 할 수 있기 때문이다. 즉 데이터 분석 같은 고성능 애플리케이션에 이용할 수 있다. 또 트위터 같은 소셜 네트워크나 주식 시장의 무작위 패턴을 감지할 수 있다. 예를 들어, 주식 시장에서 거래되는 특정 주식이 다른 주식에 미치는 영향을 파악하기란 오늘날의 아키텍처에서 쉽지 않다.

엘페프테리우는 유명한 '기저귀와 맥주의 상관관계'에 비유해 인공 뉴런에 기반을 둔 머신 학습의 원리를 다음과 같이 설명했다.

“한 잡화점의 경우 기저귀를 구입하는 남자들과 맥주 매출에 상관관계가 있음을 발견했다. 쉽게 납득이 되지 않는 상관 관계다. 그러나 연구 결과, 기저귀를 사는 남성들은 남성적인 맥주 구입으로 여성적인 육아 성향을 상쇄하려는 경향성을 가지고 있었다. 이에 잡화점은 맥주를 기저귀 가까이로 이동시켰다. 그러자 두 제품의 매출이 35% 증가했다. 그리고 다른 잡화점들도 이를 따라 하기 시작했다.”

엘페프테리우는 "인공 뉴런을 이용해 언뜻 보기에는 상관관계가 없어 보이는 두 주식의 상관관계를 발견할 수 있다. 그 이유는 모른다. 그러나 데이터와 시냅스가 상관관계는 알려주게 된다"라고 말했다. ciokr@idg.co.kr 



2016.08.05

인공 뉴런 개발 성공한 IBM, "인지 컴퓨팅 발전에 획기적 이정표"

Lucas Mearian | Computerworld
IBM 연구진이 상 변화 메모리(PCM ; Phase Change Memory)를 이용, 뇌의 인지 학습 기능을 모방한 인공 뉴런과 시냅스를 구현했다.

연구진에 따르면 상 변화 물질을 이용해 데이터를 저장하고 처리하는 '무작위 동작 뉴런(Randomly spiking neurons)'을 만들어낸 것은 이번이 처음이다. 에너지와 밀도 특성이 우수한 신경망(네트워크) 개발에 있어 획기적인 역할을 할 발명이라고 IBM 측은 의미를 부여했다.


IBM 취리히 연구소 소속 과학자인 토마스 튜마. Credit: IBM Research

설명에 따르면 이번 기술은 오늘날의 프로세서를 크게 개선시킴으로써 사물 인터넷(IoT), 주식 거래, 소셜 미디어 게시물 등 데이터 상관관계를 감지하는 애플리케이션의 처리 속도를 아주 크게 높일 수 있을 것으로 기대된다.

IBM은 10년 동안의 연구 결과를 담은 "확률론적 상 변환 신경 단위(Stochastic Phase-Change Neurons)" 라는 논문을 발표했다. 네이처 나노테크놀로지(Nature nanotechnology)라는 저널이 이를 머리 기사로 다뤘다.

IBM의 펠로우 연구원인 에반젤로 엘페프테리우는 "아직 PCM 프로세싱 칩 상용화까지는 몇 년이 더 필요하다"라면서도 그렇지만 이는 돌파구가 될 수 있는 획기적인 발견이라고 강조했다.

뇌 신경을 흉내 내는 PCM의 무작위성
과학자들은 오래 전부터 인간의 뇌가 기능하는 방식에 주목해왔다. 이들은 수십 년 동안 수 많은 뉴런으로 뇌를 닮은 컴퓨팅 기능을 구현하는 방법에 대해 연구했다. 그러나 생물 조직의 밀도와 아주 낮은 전압량이 특히 도전 과제였다.

이번 인공 뉴런 기술의 핵심은 무작위 변환, 즉 확률론적인 행동, 무작위 행동이다.



확률(무작위) 변수는 통계에 있어 데이터 분석 결과를 추정하는데 활용될 수 있다. 다시 말해 이를 이용해 데이터 상관성를 추정할 수 있게 되는 것이다.

이번 논문의 주 저자이며, IBM 취리히 연구소 소속 과학자인 토마스 튜마는 "기본적으로 뇌와 동일하게 작동을 한다. 극소 전압 펄스를 시냅시스로 보내 뉴런을 자극한다. 나노세컨드(10억분의 1초) 단위의 펄스로 물질 내 변화를 유도한다"라고 설명했다.

튜마에 따르면, PCM의 '무질서도(stochasticity)' 특성은, 모든 뉴런이 각각 다르게 반응하며, 새로운 방식으로 신호를 내고 연산을 하는 개체군 기반 컴퓨팅(population-based computing)에 있어 아주 중요한 요소다.

그는 "일반적으로 사람들은 무질서도(stochasticity)를 숨기려 하지만, 품질 좋은 무질서도를 원하는 경우라면, 이를 인위적으로 유도해야 한다. 우리는 아주 품질 높은 무질서도를 구현했다. 상 변화 셀의 결정화, 비정질화 프로세스를 이해하고 있기 때문이다"라고 말했다.

이번에 만든 상 변화 인공 뉴런의 크기는 90 나노미터(nm)이다. 연구원들은 향후 이를 14nm으로 축소할 수 있다고 전했다.

IBM 연구원들은 수백 개의 인공 뉴런을 개체군으로 구성하고, 이를 이용해 빠르고 복잡한 신호를 표현했다. 인공 뉴런은 수십억 스위칭 사이클(Switching cycles)을 유지할 수 있는 것으로 입증됐다. 100 Hz의 업데이트 주파수에서 몇 년 동안 운영할 수 있다는 의미다. 각 뉴런 업데이트에 필요한 에너지와 평균 전력은 각각 5 피코 줄(picojoule)과 120 마이크로와트 미만이다. 참고로 60와트 전구에 필요한 전력은 6,000만 마이크로와트이다.


1개의 상 변화 뉴론에는 '결정질(질서가 있음)'과 '비정질(무작위적)' 2개 상태가 존재한다.

데이터 집약적 워크로드에 도움을 주는 신경 프로세서
인공 뉴런을 이용하면, 일반 프로세서와 병존하는 형태의 신경계 프로세서를 만들 수 있다. 이 신경계 프로세서는 특히 분석업무 집중적인 워크로드를 효율적으로 처리할 수 있게 해줄 것으로 기대된다.

튜마는 "우리는 상변화 셀을 이용해 시냅스와 뉴런을 구현할 수 있음을 입증했다. 이는 상변화 메모리(PCM)를 한 단계 더 발전시켜, 컴퓨팅에 이용할 수 있도록 만드는데 중요한 역할을 할 수 있다"라고 말했다.

PRAM(Phase-change Random Access Memory)으로도 불리는 PCM은 전하를 이용해 결정체로 만든 소재의 표면을 바꾸고, 질서 있는 상태를 원자가 무작위로 분포된 비정질 상태로 바꾸는 비휘발성 메모리의 일종이다.

PCM 상태 변화에는 전압 스파이크가 이용된다. 이를 통해 데이터를 0과 1, 또는 비트로 표현할 수 있다. 그러나 PCM은 0과 1만이 아니 2개 이상의 상태로 존재할 수 있다.

IBM, 마이크론, 삼성, 에버스핀(Everspin) 같은 회사들은 PCM을 일종의 비휘발성 메모리로 이용하는 연구를 하고 있다. NAND 플래시보다 100배 이상 높은 성능과 튼튼한 내구성을 제공하기 때문이다. 그러나 생산 원가가 비싸 아직까지는 시장에 도입되어 있지 않다. PCM은 또 셀 당 몇 비트를 저장하는 NAND 플래시와 달리 데이터 오염 문제가 발생하지 않는다.

하지만 IBM의 이번 연구 결과는 새로운 비휘발성 메모리 개발과는 관련이 없다. 새로운 형태의 프로세서를 만드는 것과 관련이 있다.

IBM의 펠로우 연구원인 에반젤로 엘페프테리우는 "10년 넘게 메모리에 응용할 수 있는 상 변화 소재를 연구했으며, 최근 2년간 큰 성과를 일궈냈다. 우리는 이 기간 사상 처음으로 상 변화 메모리에 셀 당 3비트를 저장하는 프로젝티드 메모리 등 새로운 메모리 기법을 개발했다. 그리고 이번에 상 변화 기반 인공 뉴런의 강력한 기능을 입증해냈다"라고 설명했다.

인공 뉴런은 게르마늄, 안티몬, 텔루르 화합물 등 상 변화 물질로 구성돼 있다. 다시 쓰기가 가능한 블루레이의 기반이 되는 물질들이다. 그러나 인공 뉴런은 디지털 정보를 저장하지 않는다. 뇌의 시냅시스와 뉴런처럼 아날로그 정보를 저장한다.

연구 팀은 인공 뉴런에 일련의 전자 펄스를 적용했다. 그 결과 상 변화 물질이 점진적으로 결정화되면서 신경을 발화(fire)시켰다. 신경과학에서는 이를 생물학적 뉴런의 '결합성 및 발화성(Integrate-and-fire)' 속성이라고 부른다. 이는 이벤트 기반 컴퓨팅의 토대로, (이론적으로는) 뜨거운 것을 만졌을 때 뇌가 반응을 촉발하는 방식과 유사하다.

이 '결합성 및 발화성' 속성을 이용하면, 1개의 뉴런만 가지고도 이벤트 기반 데이터의 실시간 스트림의 패턴을 감지하고, 상관관계를 발견할 수 있다.

짧은 시간에 수 많은 데이터를 분석
이번 기술의 활용 가능성을 다양하다. 예를 들어 사물 인터넷 종단에서 수많은 기상 데이터를 수집하고 분석해, 훨씬 빠르게 기상을 예보할 수 있다. 인공 뉴런으로 금융 거래의 패턴을 분석하거나, 소셜 미디어 데이터를 실시간 분석해 새로운 문화적 트렌드를 발견할 수도 있다. 이런 저전력 고속 나노 단위 뉴런 개체군은 다른 메모리 및 프로세서 장치와 함께 뉴로모픽 코프로세서로 이용될 수도 있다.

IBM의 인공 뉴런이 더 특별한 이유는 일정 수준 자기 학습을 할 수 있기 때문이다. 즉 데이터 분석 같은 고성능 애플리케이션에 이용할 수 있다. 또 트위터 같은 소셜 네트워크나 주식 시장의 무작위 패턴을 감지할 수 있다. 예를 들어, 주식 시장에서 거래되는 특정 주식이 다른 주식에 미치는 영향을 파악하기란 오늘날의 아키텍처에서 쉽지 않다.

엘페프테리우는 유명한 '기저귀와 맥주의 상관관계'에 비유해 인공 뉴런에 기반을 둔 머신 학습의 원리를 다음과 같이 설명했다.

“한 잡화점의 경우 기저귀를 구입하는 남자들과 맥주 매출에 상관관계가 있음을 발견했다. 쉽게 납득이 되지 않는 상관 관계다. 그러나 연구 결과, 기저귀를 사는 남성들은 남성적인 맥주 구입으로 여성적인 육아 성향을 상쇄하려는 경향성을 가지고 있었다. 이에 잡화점은 맥주를 기저귀 가까이로 이동시켰다. 그러자 두 제품의 매출이 35% 증가했다. 그리고 다른 잡화점들도 이를 따라 하기 시작했다.”

엘페프테리우는 "인공 뉴런을 이용해 언뜻 보기에는 상관관계가 없어 보이는 두 주식의 상관관계를 발견할 수 있다. 그 이유는 모른다. 그러나 데이터와 시냅스가 상관관계는 알려주게 된다"라고 말했다. ciokr@idg.co.kr 

X