 인간의 뇌를 모방한 뉴로모픽(Neuromorphic) 반도체 개발 동향 인지·추론 등 뇌의 고차원 기능까지 재현될까 1제곱 밀리미터(㎟)에 약 10억 개의 시냅스를 가진 인간의 뇌는 복잡하기로 정평이 난 도시인 뉴욕 맨해튼보다 훨씬 더 복잡하고 붐빈다. 이토록 복잡한 인간의 뇌가 내리는 직관적인 연산과 판단은 똑똑한 인공지능도 따라잡기 힘들다. 최근 이러한 뇌에서 반도체의 미래를 찾는 연구가 화두다. 뇌신경 구조를 모방해 하드웨어 크기와 전력 소모를 대폭 줄일 수 있는 뉴로모픽(Neuromorphic)이 바로 그것이다.
정리 편집부 참조 ETRI 외
 뉴로모픽 반도체 이미지인간의 뇌는 1000억 개가 넘는 신경세포(neuron)가 시냅스(Synapse)라는 연결고리를 통해 다른 뉴런과 서로 신호를 주고받으며 순식간에 정보를 처리하고 저장한다. 1000억 개의 뉴런은 약 100조 개 이상의 시냅스가 병렬적으로 연결되어 약 20W 수준의 저전력으로도 기억·연산·추론·학습 등을 동시에 수행할 수 있다. 뇌에서 정보를 전달하는 화학적 시냅스 전달체계는 적은 에너지로도 고도의 병렬 연산을 처리할 수 있어 인공지능(AI)의 핵심으로 떠오르고 있다.
20세기의 가장 중요한 발명품, 컴퓨터 인간의 뇌 구조를 모방한 뉴로모픽(신경 모방) 반도체는 인지, 추론 등 뇌의 고차원 기능까지 재현하는 것이 궁극의 목표다. 통상적으로 ‘AGI 반도체’라고 불리며 ▶강력한 학습 능력 ▶낮은 전력 소모 ▶신경형 모바일 컴퓨팅 등을 특징으로 꼽을 수 있다.
뉴로모픽 반도체는 폰 노이만 구조1)의 일반적인 컴퓨터 칩에 가까운 개념부터 이 구조를 벗어나는 개념까지 매우 다양하다. 데이터가 입력되면 이를 순차적으로 처리하는 기존의 폰 노이만 방식 컴퓨터는 수치 계산이나 정밀하게 작성된 프로그램을 실행하는 데는 탁월했다. 그러나 이미지나 소리를 처리하고 이해하는 효율성이 낮고, 전력 소모 한계를 비롯해 패턴 인식, 실시간 인식, 판단 등에서 많은 문제를 노출했다. 단적인 예로, 2012년 구글이 공개한 고양이 얼굴 자동인식 소프트웨어를 작동시키는데 1만6000개의 프로세서가 필요했던 일을 들 수 있다.
컴퓨터는 20세기의 가장 중요한 발명품이다. 컴퓨터가 생겨남으로써 인류는 ‘프로그램’을 만들 수 있게 되었고, 이 프로그램을 통해 지금까지의 인류 역사에서 경험해보지 못했던 강력한 연산과 자동화 능력을 선보일 수 있었다. 컴퓨터 덕분에 매우 정밀한 계산을 할 수 있게 됐고, 초기에는 사람이 하루 종일 검사해야 했던 수백만 가지 숫자들을 수 초 만에 정확하게 계산할 수 있게 되었다.
이런 일이 가능하게 된 건 디지털 회로가 보장하는 높은 정확도 덕분이다. 디지털 회로는 ‘1더하기 1의 연산 결괏값은 항상 2’인 것과 같이 동일한 연산을 할 때 매번 같은 값을 보장하는데, 이러한 특성 덕분에 프로그램을 만들 수 있었다.
 훈련 데이터셋 크기와 과적합의 관계. 훈련 데이터셋 크기가 커질수록 훈련 오류가 증가하고 테스트 오류는 감소하여 두 곡선의 차가 나타내는 일반화 오류 또는 과적합의 정도가 줄어든다.
‘계산’ 아니라 ‘추론’으로 답 찾는 인공신경망 그런데 인공지능 시대가 열리면서 상황이 변하기 시작했다. 오히려 ‘정확하지 않은 컴퓨터’가 가능성을 가지게 된 것이다. 인공신경망은 사람이 이미지를 인식하는 것과 비슷한 형태로 이미지를 학습하고 인식하기 때문에, 디지털 회로처럼 값을 오차 없이 정확하게 구분하지 않아도 된다.
이것이 가능한 이유는 인공신경망 내부에 수많은 뉴런이 존재하기 때문이다. 뉴런이 많으면 몇 가지 요소가 불안정하더라도 나머지 특성을 통해 똑같은 결괏값을 도출할 수 있게 된다. 또 다른 이유로는 학습 이론이 발전했다는 점을 들 수 있다.
과학자들은 많은 연구를 통해 주어진 데이터로 정보를 추론하는 데이터 증강(Augmentation)2)이나 과도한 학습을 차단하는 드롭아웃(Dropout)3) 등 다양한 기술을 도입했다. 그로 인해 인공신경망은 데이터를 그대로 인식하는 것이 아니라, 노이즈를 이겨내고 다양한 특성을 두루 살피도록 학습할 수 있게 되었다. 신경망이 잘 학습되면 노이즈와 관계없이 정답을 출력할 수 있다.
메모리 공간 확보, 인공 뉴런과의 연결 늘려 그렇다면 만약 디지털 회로의 정확성을 포기하고 모든 요소를 오로지 인공신경망을 위해 투입하면 어떻게 될까? 이런 발상으로 인해 탄생한 것이 바로 연산용 메모리(Computational Memory)다. 뉴로모픽 반도체 종류 중 하나이자 PIM(Processing In Memory)의 최종적인 형태 중 하나라고 할 수 있다.
뉴로모픽 반도체는 기존 연산용 칩에 들어가는 ALU 등과 비교했을 때 수많은 설계를 없앨 수 있고, 메모리 자체도 아낄 수 있다. 뉴로모픽 반도체는 다른 용도를 위해 사용된 면적을 절약해서 인공 뉴런과의 연결 개수를 늘리는데 사용할 수 있다.
이런 반도체들이 상용화된다면 기존 인공지능 기술로 개발된 수많은 서비스에 더 많은 사람이 접근할 수 있게 될 것으로 기대된다. 현재 챗GPT의 기반이 된 GPT-4의 경우, 수백 기가바이트(GB) 이상의 메모리 공간을 사용하는 것으로 알려져 있다. 이를 사용하기 위해서는 수천만 원짜리 GPU를 여러 개 묶어야 한다. 하지만 뉴로모픽 반도체가 상용화된다면, 수만 원짜리 인공지능 스피커 수준에도 GPT-4급의 신경망을 탑재할 수 있게 될 것이다.
신경생물학적 메커니즘을 AI에 접목한 SNN 스파이킹 신경망(SNN)4)은 생물학적 원리에서 영감을 받아, 이를 통하여 뉴럴 네트워크를 구현하고자 하는 연구 기술이다. 뉴로사이언스 분야의 신경생물학적인 메커니즘을 인공지능 분야로 직접 접목한 기술로, 뇌의 주요 기능 중 하나인 시간 기반 정보 인코딩과 시간 기반 정보처리 측면을 활용하는 제3세대 인공지능 기술로 알려져 있다.
SNN 기반 뉴로모픽 컴퓨팅 플랫폼은 시냅스를 통한 시냅틱 연산 및 정보 저장을 이벤트 기반 비동기식 스파이크 동작 메커니즘에 의해 정보를 전달하며, 다수의 비교적 단순한 연산장치인 뉴런에 분산시킴으로써 생물학적인 SNN 메커니즘을 효율적으로 모방하는 것을 목표로 한다. SNN의 이벤트 기반 비동기적 동작 특성은 메모리 및 연산유닛이 결합된 고효율 컴퓨팅 아키텍처를 도출하였으며, 병렬성을 크게 높이고 하드웨어 에너지 소모를 크게 절감할 수 있다고 알려져 있다.
SNN 구조의 인공지능 뉴로모픽 하드웨어는 대표적으로 맨체스터 대학의 ‘SpiNNaker’, IBM의 ‘TrueNorth’인텔의 ‘Loihi’, 하이델베르크 대학의 ‘BrainScaleS’, 스탠포드 대학의 ‘NeuroGrid’, 취리히 대학의 ‘DyNAPs’등이 있다. 이들은 모두 고에너지 효율의 SNN 기반 뉴로모픽 하드웨어 구현을 추구하고 있다.
국가 R&D 사업으로 시작된 SNN 기반 반도체 칩 SNN 기반 뉴로모픽 반도체 연구는 2000년대 중반부터 유럽과 미국 등에서 원천기술 확보를 목적으로 국가 주도 R&D 사업으로 시작되었다. 유럽연합(EU)은 2013년부터 <Human Brain Project(HBP)>라 불리는 대규모 원천연구를 시작하여 2023년까지 10년간 10억 유로를 투자하여 연구를 진행 중이다. 미국 역시 2013년부터 <BRAIN Initiative> 정책을 수립하여 인간의 뇌에 대한 심층적인 연구와 관련 원천기술 개발을 추진 중이다.
▶Neurogrid: 2009년 스탠포드 대학에서 발표한 ‘Neurogrid’에서는 기본 블록인 하나의 Neurocore 내에 256x256개의 아날로그-디지털 혼합 설계 방식의 뉴런들이 2차원 배열 형태로 구성되어 있고, 각 뉴런들은 블록 전체에 브로드캐스팅 되는 버스를 통해 연결되어 있다. Neurocore들은 상위 레벨에서 tree 네트워크로 연결되고, 각 Neurocore 내부는 tree 네트워크를 위한 배선 스위치 및 테이블이 내장된다.
▶SpiNNaker: SNN을 실시간으로 모델링할 수 있도록 영국 맨체스터 대학을 중심으로 2012년에 개발된 대규모 병렬처리 뉴로모픽 슈퍼컴퓨터다. 130나노미터(nm) 공정으로 구현된 하나의 프로세서는 18개의 ARM968 코어들과 시냅스 가중치 저장을 위한 128MB SD 램 및 주변 회로들이 NoC으로 연결된 CMP 구조를 가진다. 각 ARM968 코어는 1,000개의 뉴런을 시뮬레이션 가능하며, 2차원 토러스(Torus) 타입 네트워크를 기반으로 최대 65,536개의 칩을 연결한 통합 시뮬레이션 수행이 가능하다.
▶TrueNorth: IBM은 2008년부터 미국 국방부 산하 DARPA가 주도하는 <시냅스(SyNAPSE) 프로젝트>에 참여하여, 2014년 ‘TrueNorth’라는 뉴로모픽 칩을 완성한 바 있다. TrueNorth 칩은 100만 개의 뉴런과 2억5천만 개의 시냅스가 이벤트 기반 방식으로 동작하여 초당 1,200~2,600프레임의 이미지를 25mW에서 275mW 수준의 낮은 전력으로 분류할 수 있었는데, 이는 기존의 1만분의 1 수준이라 뉴로모픽 반도체의 저전력 가능성을 보여주었다. 그러나 응용기술이 없고, 확장성에 한계가 있으며, 스마트 기기에 탑재 불가능하다는 이유로 현재는 연구가 중단되었다.
▶BrainScaleS: <EU FET-Proactive FP7>에서 지원하여 2011년에서 2015년까지 진행된 연구개발 프로젝트였다. 아날로그 회로로 설계된 뉴런/시냅스와 폰 노이만 구조의 petaflops급의 슈퍼컴퓨터 시스템이 혼합된 HMF 구조로 설계되었다. 이후 98,304개의 시냅스와 384개의 뉴런이 내장된 analog digital mixed type 회로로 설계된 ‘BrainScaleS-2’ 시스템으로 발전하여 에뮬레이션 규모를 크게 확장하였다.
▶DyNAPs: ‘DyNAPs’에서는 각 코어 내의 I&F 방식의 아날로그 뉴런들과 아날로그-디지털 혼합으로 설계된 시냅스가 브로드캐스팅 되는 버스를 통하여 tree 형태로 라우팅 스위치에 연결되어 있고, 각 코어들은 다음 단계의 쿼드-트리 구조와 최상위 수준에서의 2차원 메쉬 형태를 갖는 복합 계층적 구조의 NoC 구조로 연결되어 있다. 2단계의 태그(Tag) 필드 기반 라우팅 방식을 제안하여 배선 테이블의 크기를 획기적으로 줄이고, 하나의 칩 내에 배선 테이블의 구현이 가능하게 함으로써 외부 메모리 통신으로 인한 성능 감소를 최소화했다.
▶Loihi: 인텔은 2019년 온칩 학습이 가능한 스파이킹 뉴로모픽 칩인 ‘로이히(Loihi)’를 발표했다. 인텔 14nm CMOS 공정으로 개발된 하나의 로이히 칩에는 128개의 코어로 구성된 130만 개의 디지털 뉴런과 1억3천만 개의 시냅스를 포함하고 있으며, 비동기 방식으로 동작한다. MNIST 기준 DNN 대비 100만 배 빠른 학습 및 실행 성능을 증명했다. 향후 인텔은 로이히를 활용하여 IoT용 경량 SoC뿐만 아니라 자동차, 로봇 산업 응용에 적용될 것으로 기대하고 있다.
 IBM이 2014년 개발한 뉴로모픽 칩 ‘Truenorth’ (출처: IBM)
세계적으로 2세대 뉴로모픽 반도체 연구 활발 현재까지 개발된 대부분의 뉴로모픽 반도체는 기존의 실리콘 기반 CMOS 트랜지스터 기술만으로 구현되었다. 구현 소자 관점에 따라 이를 1세대 뉴로모픽 방식이라고 한다면, 차세대 뉴로모픽 소자로 구현되는 뉴로모픽 반도체는 2세대 방식이라고 할 수 있다.
2세대 뉴로모픽 반도체는 구현의 한 예로써, 생물학적 시냅스의 핵심적 특성을 높은 집적도를 위하여 하나의 소자로 구현할 수 있도록 메모리와 가변 레지스터의 두 가지 기능을 동시에 가지고 있는 멤리스터(Memristor) 소자를 활용하는 방식이 연구되고 있다.
멤리스터는 메모리(memory)와 저항(resister)의 합성어로 크기가 작아야 하고, 세분화된 가중치를 위하여 점진적인 스위칭 저항 특성을 갖는 것이 매우 중요하다. 2세대 반도체는 소자의 재료 및 구현 방식에 따라서 플래시 메모리(Flash Memory) 방식, RRAM(Resistive Random Access Memory) 방식, PRAM(Phase-change Random Access Memory) 방식, MRAM(Magnetic Random Access Memory) 등이 있다.
현재 멤리스터 방식의 연구가 가장 많이 연구되고 있으나, 다양한 메모리 소자들을 대상으로도 활발한 연구가 진행되고 있다. 2세대 반도체에 대한 연구는 한국은 물론 미국, 유럽, 중국 등 전 세계적으로 활발하게 이루어지고 있다. 현재까지 대부분 단위 기능 블록 수준에서 연구가 진행되어 왔지만, 최근에는 시스템 수준에서의 구현 가능성을 테스트하는 방향으로 발전하고 있다.
마이크로소프트(MS), 오픈AI(OpenAI) 등 글로벌 빅테크 기업들은 뉴로모픽 시장 선점을 위해 데이터센터 구축을 추진하거나 범용 인공지능(AGI) 전용 반도체 개발에 돌입한 상태다. 삼성전자 또한 적극적으로 이 분야 연구에 매달리고 있다. 삼성은 미국 실리콘밸리에 AGI 컴퓨팅랩 조직을 설립하고 생체의 뉴런, 시냅스의 모델 등을 이용해 메모리 소자 및 디바이스가 적용된 신개념의 반도체 기술을 개발하고 있다.
AI 산업 성장과 맞물려 뉴로모픽 칩도 각광 받아 인공지능을 활용한 산업이 급성장하면서 인공지능 반도체 기술은 기술 도약을 위한 새로운 기회로 주목받고 있다. 인공지능 데이터를 고속 저전력으로 처리함과 동시에 시스템의 동작 효율을 높이기 위해, GPU 대비 낮은 소비 전력으로 높은 병렬 연산능력을 갖춘 FPGA나 낮은 소비 전력으로 인공지능 데이터를 처리할 수 있는 ASIC 기반 인공지능 가속기에 대한 관심이 높아지고 있다.
그러나 관련 기술들은 여전히 인간의 뇌 대비 높은 소비 전력 및 데이터 처리 비효율성 문제를 내포하고 있다. 궁극적으로는 인간 뇌의 신경망 구조 및 작동 원리를 모방하여 만든 인공지능 뉴로모픽 칩 기술이 차세대 인공지능 프로세서로 각광받을 것으로 전망되고 있다.
뉴로모픽 반도체의 글로벌 경쟁에서 밀리지 않기 위해서는 아날로그 신호 전문가, 인공지능 연구원 등 다양한 경험을 가진 사람들을 모으고 이야기를 들어 고객들에게 더 가까이 다가갈 방향을 정해야 할 것으로 보인다.
1) Von Neumann Architecture. 메모리와 연산장치, 입출력장치 등 전형적인 3단계 구조로 이루어진 프로그램 내장형 컴퓨터 구조. 오늘날 우리가 사용하고 있는 일반적인 컴퓨터의 기본 구조이다. 2) 학습에 사용하는 데이터에 각종 변화를 줌으로써 신경망의 추론 안정성을 높이는 기술. 이미지의 경우 회전, 크기 변경, 노이즈 추가 등이 이루어진다. 3) 인공지능 모델이 학습한 데이터에 대한 의존도가 높아져 실제 사용에서 정확도가 떨어지게 되는 과적합(Overfitting) 현상을 해결하기 위해 주어진 확률로 네트워크에 있는 변수들을 생략하는 방법 4) Spiking Neural Network. 인공 뇌세포 간 신호 전달을 인간에 좀 더 가깝게 만든 방식의 신경망
<Energy News>
| 
장바구니
주문내역
