▲ 연구팀이 제안한 새로운 공격 모식도: 공격자가 미리 설계한 극미량의 공격 트래픽을 토르 내 웹사이트에 전송하면, 혼잡 측정 시스템이 교란되어 과도한 혼잡 제어가 촉발되고, 이는 결국 일반 사용자의 웹사이트 접근 불가로 이어진다. 연구팀은 실험을 통해 이 공격의 비용이 기존의 0.2% 수준임을 입증했다.(그림 및 설명=KAIST)  © 특허뉴스

KAIST 연구진이 세계 최대 익명 네트워크 ‘토르(Tor)’의 치명적 보안 취약점을 단 2달러 실험으로 입증하고 해결책까지 제시하며, 글로벌 보안 연구 무대에서 큰 주목을 받았다. 이번 성과는 국내 연구진으로는 처음으로 토르 시스템의 근본적 취약점을 규명하고 국제 학계가 인정한 연구로 기록됐다.

KAIST는 전산학부 강민석 교수 연구팀이 지난 8월 13일부터 15일까지 미국 시애틀에서 열린 유즈닉스 보안 학술대회(USENIX Security 2025)에서 전체 논문 중 상위 6%에게만 주어지는 우수논문상(Honorable Mention Award)을 수상했다고 밝혔다. 해당 학회는 구글 스칼라 h-5 인덱스 기준 보안·암호학 분야 세계 1위 권위 학회로, 이번 수상은 국내 보안 연구의 글로벌 위상을 크게 높인 성과로 평가된다.

연구팀은 토르 익명 웹사이트(Tor Onion Service)에서 발생할 수 있는 새로운 서비스 거부(DoS) 공격 취약점을 발견했다. 특히 토르의 혼잡도 인식 방식이 안전하지 않음을 실험으로 입증했는데, 단 2달러라는 극히 저렴한 비용으로도 웹사이트를 완전히 마비시킬 수 있음을 확인했다. 이는 기존 공격 대비 약 0.2% 수준의 비용으로, 익명성을 보장하는 토르 시스템의 근본적 불안정을 드러낸 결과다.

더 나아가 기존 토르 시스템의 보안 기법이 오히려 공격을 악화시킬 수 있다는 점을 최초로 규명했으며, 수학적 모델링을 통해 익명성과 이용 가능성 사이에서 균형을 유지할 수 있는 구체적 가이드라인을 제시했다. 이 가이드라인은 현재 토르 개발진에 전달돼 점진적으로 패치 적용이 진행 중이다.

토르 창립자인 로저 딩글다인(Roger Dingledine) 역시 지난 2월 KAIST를 직접 방문해 연구팀과 협력 방안을 논의했으며, 토르 운영진은 연구팀의 선제적 제보에 감사의 뜻으로 약 800달러 상당의 버그 현상금을 지급했다.

강민석 교수는 “토르 익명성 보안 취약점 연구가 국내에서 이뤄진 것은 이번이 처음”이라며, “이번 성과는 위험도가 매우 높아 학회 현장에서 세계 보안 연구자들의 집중적인 관심을 받았다. 앞으로는 토르 익명성 강화뿐 아니라 이를 활용한 범죄 수사 등 응용 분야까지 연구를 확장할 것”이라고 밝혔다.

이번 연구는 이진서 박사과정(제1저자), 김호빈 연구원(제2저자, 現 미국 카네기멜런대 박사과정)이 수행했다.

논문먕은 Onions Got Puzzled: On the Challenges of Mitigating Denial-of-Service Problems in Tor Onion Services이다.