르쿤, AI 보안 허점은 기업 경험 부족 탓…공학으로 개선 가능

얀 르쿤 AMI랩스 회장은 최근 몇 달 사이 잇따른 AI 보안 사고의 배경으로 기업들의 사이버보안 경험 부족을 지목했다. 그는 12일 서울 중구 웨스틴조선서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 AI 보안 위험과 통제 가능성에 관한 질문을 받고, 이는 쉽게 고칠 수 있는 문제라고 말했다.

르쿤 회장은 자율적으로 작업하는 AI 에이전트를 도입한 기업들이 보안 경험이 충분하지 않았고, 격리 실행 환경인 샌드박스의 허점으로 프로그램이 외부에 접근할 수 있었다고 설명했다. 샌드박스는 AI가 외부 시스템에 함부로 접근하지 못하도록 제한하는 환경이다. 그는 새 기술이 필요한 상황이 아니라 이미 알려진 보안 기술을 제대로 적용하지 못한 사례라고 평가했다.

간담회에 앞서 금융권에서는 지난달 말부터 신한·KB국민·하나은행의 고객 정보 유출이 잇따랐고, 이억원 금융위원장은 AI를 활용한 해킹 가능성을 배제할 수 없다고 밝혔다. 통신 3사인 SK텔레콤·KT·LG유플러스는 지난해 차례로 해킹을 당했으며, 올해 티빙에서는 휴면 계정을 포함한 3954만 개 계정 정보가 유출됐다. 2018년 튜링상 수상자인 르쿤 회장은 그동안 AI가 인류를 위협한다는 종말론을 ‘망상’이라고 비판해 왔다.

그는 보안에서 AI가 공격자보다 방어자에게 유리하다고 봤다. 방어 측은 인력과 자금이 더 많고 공개적으로 협력할 수 있지만, 블랙 해커는 수가 적고 은밀히 움직여 지식 공유가 어렵다는 설명이다. 강력한 AI 운용에 필요한 막대한 컴퓨팅 자원도 공격자에게는 부담이며 사용이 쉽게 탐지될 수 있다고 덧붙였다. 한편 LLM은 가능한 질문이 무한해 답변을 일일이 미세조정하는 방식으로 통제하기 어렵다며, 세계 모델로 행동 결과를 예측하고 규칙에 안전장치를 두는 목표 지향 AI를 대안으로 제시했다. 다만 기반 모델 설계가 부실하면 판단이 빗나갈 수 있다고 인정하면서도, AI 안전은 공학적으로 해결할 수 있다고 강조했다.