AI 해커의 선전, 사이버 방어에 던진 경고

지난달 23일부터 24일까지 서울 코엑스에서 열린 국제해킹방어대회 ‘코드게이트 2026’에서 윤인수 KAIST 전기 및 전자공학부 교수가 개발한 AI 해커가 인간 해커들과 실력을 겨뤘다. 사람의 개입 없이 시스템 취약점을 탐색하고 문제를 해결한 결과 일반부 18위, 주니어부 2위를 기록하며 AI 기반 자동 해킹 기술의 가능성과 한계를 함께 드러냈다.

AI 해커는 앤트로픽과 오픈AI, xAI의 프론티어 거대언어모델에 데프콘 등 국제 해킹대회에서 축적한 실전 노하우를 학습시킨 특화 모델이다. 코드게이트포럼의 제안을 윤 교수가 수락하면서 AI만으로 경연에 참가했다. 대회 당일 오후 2시께 7위에 올랐고 한때 더 높은 순위도 기록했지만, 게임 형식이나 동영상·이미지의 맥락을 해석해야 하는 2개 문제를 끝내 풀지 못했다.

코드게이트 CTF는 혼자 해결한 어려운 문제에 높은 점수를 주고, 같은 문제의 정답자가 늘수록 배점을 낮추는 ‘다이내믹 스코어링’을 적용했다. 빠른 풀이가 곧 고득점으로 이어지지 않는 구조여서 초반에 여러 문제를 신속히 해결한 AI 해커의 순위는 후반으로 갈수록 밀렸다. 그럼에도 풀지 못한 2개를 제외한 모든 문제를 해결했고, 24시간 동안 진행된 일반부보다 짧은 12시간짜리 주니어부에서는 2위에 올랐다.

CTF는 참가자가 보안 문제를 풀어 숨겨진 문자열인 플래그를 찾아 제출하는 인간 화이트해커 중심의 실습 경연이다. 데프콘 CTF도 올해 AI 활용을 허용하면서 완전한 AI 풀이에는 제한을 뒀다. 이번 결과는 순수 AI가 AI를 도구로 활용한 화이트해커와 견줄 만한 문제 해결력을 낼 수 있음을 보여줬다. 윤 교수도 AI와 전문가가 결합할 때 가장 효율적인 성과가 나온다고 평가했다. 알려지지 않은 취약점 1만개 이상을 찾아낸 앤트로픽의 ‘미토스’보다 뛰어난 모델까지 등장한 상황에서, 공격자와 AI의 결합에 대비한 방어 체계가 과제로 남았다.