김수키, 로컬 AI로 해킹 전 과정 고도화

북한 해킹조직 김수키가 피싱 문서 제작을 넘어 로컬 대형언어모델과 AI 에이전트를 공격 체계에 적용하기 위한 기술 역량을 축적한 정황이 확인됐다. 지니언스가 10일 공개한 최신 활동 분석에서는 생성형 AI를 정보 수집과 첩보 활동에 연계하고, 공격 생산성과 자동화 수준을 높이려는 연구 흔적이 드러났다.

분석 대상에서는 올라마와 GPT4All, 엠스티 등 로컬 LLM 실행·관리 도구를 비롯해 검색증강생성 환경, AI 에이전트 개발 프레임워크, 음성인식 도구가 식별됐다. AI 코딩 도구 커서로 공격용 문서를 편집하고 생성 결과를 검토한 흔적도 다수 발견됐다. 가상자산 지갑과 지메일 계정, 웹사이트 가입 이력 등 개인정보 노출 여부를 점검한 정황도 포착됐다.

북한 해킹조직은 기존에도 이미지·음성 위조와 피싱 미끼 제작 등 준비 단계에 AI를 사용했지만, 이번에는 자체 실행 환경을 구축했다는 점에서 차이가 있다. 로컬 프로그램에서는 메타 라마, 구글 젬마, 알리바바 클라우드 큐원, 딥시크 등 여러 모델을 내려받아 외부 서비스로 데이터를 보내지 않고 구동할 수 있다. 탈취 문서를 외부에 노출하지 않은 채 분석하고 정보 추출과 공격 업무를 자동화하려는 움직임으로 분석된다.

공격 방식도 탈취한 정상 문서를 재활용하는 수준에서 벗어나 AI로 만든 가상자산·금융 분야 문서를 스피어피싱 미끼로 사용하는 형태로 정교해졌다. 앞으로 정찰과 악성 스크립트 고도화, 취약점 개발 등에서 AI 에이전트의 활용이 확대될 가능성이 제기된다. 김명주 AI안전연구소장은 관련 공격이 올해 말 가시화될 것으로 내다봤다. 다만 취약점 탐색에 막대한 토큰이 필요하고 보안 테스트 비용이 10배 이상 늘어난 만큼 충분한 컴퓨팅 파워 확보가 변수로 꼽힌다.