▲ AI 기반 실리콘 아이징 머신 개념도(AI 생성 이미지/출처=KAIST)  © 특허뉴스

수천 년이 걸릴 수도 있는 복잡한 계산 문제를 반도체 칩 하나로 해결하는 시대가 열리고 있다. KAIST 연구진이 기존 실리콘 반도체 공정만으로 구현 가능한 차세대 최적화 연산 하드웨어를 개발하며, 인공지능·빅데이터 시대의 핵심 난제인 ‘조합 최적화 문제’ 해결에 새로운 전환점을 제시했다.

KAIST는 전기및전자공학부 최양규 교수와 김상현 교수 공동 연구팀이 ‘오실레이터 기반 아이징 머신(Oscillatory Ising Machine)’을 실리콘 공정으로 구현하는 데 성공했다고 밝혔다. 이 기술은 수많은 선택지 중 최적의 해를 찾는 조합 최적화 문제를 물리적으로 빠르게 해결하는 특수 목적형 연산 하드웨어다.

연구팀은 일정한 주기로 신호를 생성하는 ‘오실레이터’에 주목했다. 다수의 오실레이터가 서로 신호를 주고받으며 자연스럽게 동기화되는 과정에서 시스템은 가장 안정적인 상태, 즉 최적의 해에 도달하게 된다. 이는 복잡한 계산을 수학적으로 풀기보다, 물리적 현상을 활용해 해답을 도출하는 방식으로 기존 컴퓨팅 접근과는 근본적으로 다르다.

기존 아이징 머신은 소자 간 미세한 주파수 편차와 제한된 연결 구조로 인해 복잡한 문제 해결에 제약이 있었다. 연구팀은 이를 해결하기 위해 오실레이터와 연결 장치인 커플러를 모두 단일 실리콘 트랜지스터 기반으로 구현하는 새로운 구조를 제안했다. 이를 통해 소자 간 진동 속도 차이를 효과적으로 보정하고, 연결 강도를 여러 단계로 조절하는 ‘다중 비트 커플링’을 구현해 문제의 가중치를 정밀하게 반영할 수 있게 됐다.

이 결과, 아이징 모델의 표현력과 해 탐색 성능이 동시에 향상되며 실제 문제 해결 능력이 크게 강화됐다. 연구팀은 이 기술을 활용해 대표적인 최적화 문제인 ‘최대 절단(Max-Cut)’ 문제 해결에도 성공했다. 이 문제는 네트워크를 두 그룹으로 나누면서 연결을 최대화하는 방식으로, 물류 경로 최적화, 금융 포트폴리오 구성, 반도체 회로 배치 등 다양한 산업에 직접 적용될 수 있다.

이번 연구의 가장 큰 의미는 기술의 ‘현실 적용 가능성’에 있다. 기존 특수 하드웨어와 달리, 이번 아이징 머신은 별도의 신소재나 새로운 공정 없이 현재 반도체 산업에서 표준으로 사용하는 CMOS 공정으로 구현됐다. 이는 기존 생산 라인을 그대로 활용해 대량 생산과 상용화가 가능하다는 의미로, 연구 단계에서 산업 적용까지의 간극을 획기적으로 줄였다.

연구팀은 이번 기술이 저전력·고집적 특성을 갖춘 차세대 연산 플랫폼으로 발전할 수 있을 것으로 보고 있다. 특히 반도체 설계 자동화, 통신 네트워크 최적화, 물류·에너지 자원 배분 등 대규모 연산이 필요한 산업 분야에서 의사결정 속도를 획기적으로 높일 수 있을 것으로 기대된다.

최양규 교수는 “오실레이터와 커플러를 모두 실리콘 기반으로 구현해 확장성과 정밀도를 동시에 확보한 것이 이번 연구의 핵심”이라며 “대규모 최적화 문제가 요구되는 다양한 산업 분야에서 새로운 연산 패러다임을 제시할 것”이라고 밝혔다.

이번 연구는 KAIST 윤성윤 박사과정과 김준표 박사가 공동 제1저자로 참여했으며, 세계적 권위의 학술지 Science Advances에 게재되며 기술적 완성도와 학문적 가치를 인정받았다.

AI와 데이터 중심 시대에서 계산 능력은 곧 경쟁력이다. KAIST의 이번 성과는 기존 디지털 연산 한계를 넘어, 물리 기반 컴퓨팅으로 문제 해결 방식을 바꾸는 ‘차세대 연산 혁명’의 출발점으로 평가된다.

논문명은 Scalable Ising machine composed entirely of Si transistors이다.