▲ 사진=전북대  © 특허뉴스

인간의 뇌처럼 학습하고, 기억하고, 심지어 손상된 성능까지 스스로 회복하는 차세대 AI 반도체가 현실에 한 걸음 더 다가섰다. 전북대학교 연구진이 반복 학습 과정에서 성능이 저하되던 기존 뉴로모픽 반도체의 구조적 한계를 넘어, 외부 수리 공정 없이 시스템 내부에서 스스로 성능을 복구하는 ‘자가치유형 뇌 모방 AI 반도체’ 구현에 성공했다. 차세대 AI 하드웨어 상용화의 최대 난제로 꼽히던 지속가능성과 장기 신뢰성 문제 해결 가능성을 제시한 것이다.

전북대학교 전자공학부 배학열 교수 연구팀은 서울시립대학교 김태완 교수팀과 공동으로, 2차원 강유전체 반도체 기반 시냅스 트랜지스터의 성능 저하를 전기적으로 복구하는 ‘성능복구기술(Performance Recovery Technique)’의 원리를 규명하고 이를 실제 AI 시스템 수준에서 검증했다고 밝혔다. 해당 연구는 세계적 학술지 Advanced Science 최신호에 게재됐다.

뉴로모픽 컴퓨팅은 인간 뇌의 구조를 모방해 기억과 연산을 하나의 소자에서 동시에 수행하는 기술이다. 기존 컴퓨터가 메모리와 프로세서를 분리해 발생시키는 ‘폰 노이만 병목’을 극복할 수 있는 차세대 반도체 아키텍처로 주목받고 있다. 특히 초저전력 AI, 자율주행, 로봇, 엣지 컴퓨팅 등 미래 산업 핵심 기술로 평가된다.

하지만 현실적 한계도 분명했다. 기존 인공 시냅스 소자는 반복 학습이 누적될수록 내부 결함이 축적되고, 분극 스위칭 특성이 약화되며 성능이 점차 저하됐다. 즉, 많이 학습할수록 뇌처럼 똑똑해지는 것이 아니라, 오히려 소자 자체가 닳아가는 구조적 문제가 있었다. 이는 뉴로모픽 반도체 상용화를 가로막는 핵심 병목이었다.

연구팀은 이를 해결하기 위해 ‘전류 어닐링(Current Annealing)’이라는 새로운 접근법을 제시했다. 강유전체 반도체 내부의 면외·면내 분극 특성을 활용해, 외부 장비 없이 회로 내부에서 제어된 전류와 열을 발생시켜 축적된 결함을 회복시키는 방식이다.

쉽게 말해, 기존 반도체가 고장 나면 외부에서 수리해야 했다면, 이번 기술은 반도체 스스로 필요한 순간 내부에서 ‘자가 재정비’를 수행하는 구조에 가깝다. 마치 인간의 뇌가 피로 후 회복하듯, AI 반도체가 스스로 성능을 되살리는 셈이다.

실험 결과는 주목할 만하다. CNN(합성곱신경망) 기반 이미지 분류 학습 과정에서 저하됐던 정확도가 전류 어닐링 이후 초기 수준으로 완전히 회복됐다. 단순 소자 차원의 개선이 아니라, 실제 AI 시스템 성능 회복까지 확인한 것이다.

더 나아가 연구팀은 결함이 발생한 셀만 선택적으로 복구하거나 비활성화하는 시스템 아키텍처도 함께 제안했다. 이는 대규모 반도체 어레이 수준에서도 적용 가능함을 시사하며, 향후 실제 AI 칩 양산 공정에 연결될 가능성을 높였다.

이번 연구의 진짜 의미는 ‘지속 가능한 AI 반도체’라는 개념에 있다. 지금까지 AI 반도체 경쟁은 더 빠른 연산, 더 낮은 전력 소모에 집중돼 왔다면, 앞으로는 장기 학습과 반복 추론 환경에서도 얼마나 안정적으로 성능을 유지할 수 있는지가 핵심 경쟁력으로 떠오를 수 있다.

특히 생성형 AI, 로봇, 자율 시스템이 장시간 실시간 학습을 요구하는 방향으로 진화하는 상황에서, 자가치유형 뉴로모픽 반도체는 단순한 성능 향상을 넘어 ‘AI 하드웨어 수명 혁신’으로 이어질 가능성이 크다.

배학열 교수는 “메모리와 연산을 동시에 수행하는 인공 시냅스 소자의 지속가능성은 차세대 AI 하드웨어의 핵심 과제”라며 “외부 공정 없이 기존 시스템에도 적용 가능한 자가치유 기술을 통해 장기 학습과 추론 환경에서도 안정적 성능을 유지할 수 있는 설계 방향을 제시했다”고 밝혔다.

결국 이번 성과는 AI 반도체가 단순히 ‘빠른 계산기’를 넘어, 스스로 학습하고 스스로 회복하는 ‘전자적 뇌’로 진화할 가능성을 보여준다.

AI 시대의 진짜 초격차는 연산 속도만이 아니라, 얼마나 오래·안정적으로 스스로 진화할 수 있는가에서 결정될지 모른다.