GIST-경북대, 하나의 소자만으로 뇌처럼 학습하는... 'AI 반도체 기술' 개발

광주과학기술원(GIST, 총장 임기철)은 반도체공학과 강동호 교수와 경북대학교 전기공학부 장병철 교수 공동 연구팀이 뇌의 신경세포(뉴런)들이 신호를 주고받는 연결 부위인 ‘시냅스’의 동작 원리를 바탕으로, 빛과 전압을 이용해 단일 소자에서 전류의 ‘양(+)·음(–)’ 두 방향을 모두 제어할 수 있는 ‘광전자 인공 시냅스’를 개발했다고 12일 밝혔다.

이번 연구는 단일 소자만으로 양방향 인공 시냅스를 구현한 첫 사례로, 기존 하드웨어 신경망의 구조적 한계를 근본적으로 극복한 것으로 평가된다. 이 기술은 고집적·저전력 인공지능(AI) 반도체(뉴로모픽 칩) 구현을 앞당길 핵심 기술로, 향후 이미지 인식·패턴 분석 등 온칩 학습(On-chip learning) 기반의 실시간 AI 처리 시스템에 폭넓게 활용될 것으로 기대된다.

뉴로모픽 반도체는 인간의 뇌 신경망을 모방해 정보를 병렬적으로 처리하고 학습하는 차세대 AI 칩이다.

기존의 컴퓨터처럼 메모리와 연산 장치가 분리된 구조와 달리, 시냅스 소자가 기억 저장과 연산 기능을 동시에 수행해 고속·저전력 연산이 가능하다. 특히 스파이킹 신경망(SNN, Spiking Neural Network) 기반 뉴로모픽 시스템은 뇌의 뉴런이 전기 신호를 주고받는 시간 간격을 학습의 단서로 활용해 학습과 추론을 동시에 수행하는, 뇌와 유사한 계산 구조를 구현한다.

그러나 지금까지 개발된 대부분의 뉴로모픽 소자는 한 방향(단극성)으로만 전류를 조절할 수 있어, 시냅스가 전달하는 신호의 강도(가중치)를 양(+)·음(–) 두 방향으로 자유롭게 바꾸기 어려웠다.

이 때문에 하나의 시냅스 기능을 구현하려면 두 개의 소자를 한 쌍으로 연결하는 ‘듀얼 시냅스(dual-synapse)’ 구조가 필요했으며, 그 결과 회로가 복잡해지고 전력 소모가 늘어나며 집적도가 낮아지는 문제가 있어 대규모 뉴로모픽 칩을 구현하는 데 큰 걸림돌이었다.

또한 지금까지 개발된 뉴로모픽 소자는 전류를 한쪽 방향으로만 조절할 수 있는 단극성 특성 때문에 정보를 세밀하게 조절할 수 있는 범위(동적 범위)가 좁아, 학습을 통해 문제를 해결하는 능력도 기존 소프트웨어 기반 인공신경망 수준에 미치지 못하는 한계가 있었다.

연구팀은 이러한 구조적 한계를 극복하기 위해, 2차원 반도체라는 얇은 층의 신소재 두 가지(이황화레늄(ReS₂, n형)과 이셀레늄화텅스텐(WSe₂, p형))를 결합해 전류가 흐르는 방향을 제어할 수 있는 특수 구조(pn 접합 구조)를 만들고, 그 아래에는 산소 처리(플라즈마 공정)를 통해 부분적으로 산화시킨 절연층(육방정계 질화붕소, h-BN)을 삽입하여, 전류를 정밀하게 조절할 수 있는 광전자 시냅스 소자를 제작했다.

이 절연층(h-BN 층)은 전류를 일시적으로 저장하거나 방출할 수 있는 성질(전하 트래핑(charge trapping))을 가지고 있어, 외부 전압이나 빛 자극에 따라 전자를 저장하거나 방출하는 ‘가상 도핑(pseudo-doping)’ 효과를 구현한다. 이를 통해 시냅스 가중치를 양(+)·음(–) 방향으로 안정적이고 정밀하게 조절할 수 있다.

완성된 광전자 시냅스 소자는 전압과 빛을 동시에 활용해 시냅스 전류의 방향과 세기를 자유롭게 조절할 수 있다.

양(+) 전압을 순간적으로 가하면 전류가 음(–)에서 양(+) 방향으로 증가하고, 음(–) 전압을 순간적으로 가하면 반대로 양(+)에서 음(–) 방향으로 감소하는 양방향 시냅스 가소성을 구현했다.

또한, 빛을 비추면 반도체 속에서 전류를 만드는 작은 입자, 즉 전자와 정공이 생겨 전류가 더 강하게 흐르고, 빛을 차단하거나 전압 방향을 바꾸면 전류 흐름이 반대로 바뀐다. 전기와 빛을 함께 활용하는 이 방식(전기·광 복합 제어 메커니즘)으로, 시냅스 신호의 세기를 정밀하게 조절할 수 있다.

이로 인해 하나의 소자만으로도 시냅스 신호를 강화하거나 약화시키는 양방향 조절과 반복 학습이 가능해, 별도의 복잡한 회로 없이 뇌 신경세포처럼 학습하고 기억하는 과정을 유사하게 구현할 수 있다.

시뮬레이션 결과, 연구팀이 개발한 소자를 적용한 AI 신경망은 얼굴을 인식하는 정확도가 95%에 이르러, 기존 단극성 소자 기반 신경망(75% 이하)보다 20% 이상 향상된 성능을 보였다.

연구팀은 이번 기술이 에너지 효율적 뉴로모픽 하드웨어 구현의 핵심 기술이자, 차세대 AI 반도체의 연산 효율을 크게 높일 수 있는 기반 기술이 될 것으로 기대했다.

GIST 강동호 교수는 “단일 소자에서 양방향 시냅스 전류를 구현한 이번 연구는 뉴로모픽 하드웨어의 에너지 효율을 획기적으로 개선할 수 있는 기술적 돌파구”라며 “향후 실시간 학습과 적응이 가능한 초저전력·고성능 AI 반도체 개발에 중요한 기반이 될 것”이라고 말했다.

이번 연구는 GIST 강동호 교수와 경북대 장병철 교수가 지도하고 GIST 윤혜진 학생(당시 학사과정), GIST 박소은 연구원, 경북대 김영권 연구원이 수행했으며, 한국연구재단 우수신진연구사업과 GIST 미래선도형 특성화 연구 사업의 지원을 받았다. 연구 결과는 국제학술지 《어드밴스드 펑셔널 머티리얼즈(Advanced Functional Materials)》에 2025년 11월 4일 온라인으로 게재됐다.

한편 GIST는 이번 연구 성과가 학술적 의의와 함께 산업적 응용 가능성까지 고려한 것으로, 기술이전 관련 협의는 기술사업화센터를 통해 진행할 수 있다고 밝혔다.