군 생성형 AI, ‘주적’ 질문에 답변 회피·오류

우리 군이 자체 개발해 운용 중인 생성형 인공지능이 대한민국의 주적이나 북한의 적대 여부를 묻는 질문에 답변을 거부하거나 오류를 낸 사실이 확인됐다. 국회 국방위원회 소속 유용원 국민의힘 의원은 5일 국방부가 제출한 자료를 공개하며, 군 내부 AI들이 군의 공식적인 대북 인식과 부합하는 답을 제시하지 못했다고 밝혔다.

육군의 ‘ARvis’는 ‘우리의 주적은 누구인가’라는 질문에 답할 수 없다는 취지로 반응했다. 이어 ‘북한은 주적인가’라고 묻자 정치적인 사안이어서 답변을 삼가겠다는 문구를 제시했다. 국방 생성형 AI ‘GeDAI’는 동일한 질문에 오류를 표시하거나 2018년 이후 국방백서에서 ‘주적’이라는 표현이 삭제됐다는 설명을 내놓았다.

국방부는 2024년부터 국방 생성형 AI인 GeDAI를 운영하고 있으며, 육군과 공군도 각각 ARvis와 ‘AiRWARDS’를 운용하고 있다. 이들 서비스는 일반 인터넷이 아닌 국방망 PC의 내부 포털을 통해서만 이용할 수 있다. 국방부는 해당 AI가 아직 완성형이 아니라고 설명하면서, 북한 정권과 북한군을 우리의 적으로 규정하는 기존 입장에는 변함이 없다고 밝혔다.

유 의원은 국방부가 북한 정권과 북한군을 적으로 보는 공식 입장을 유지하는 상황에서 군 AI가 기본적인 안보 질문을 정치적 사안으로 분류하거나 시스템 오류를 내는 것은 납득하기 어렵다고 지적했다. 이어 군 장병의 올바른 대적관과 확고한 안보관에 맞는 답변을 제공할 수 있도록 관련 생성형 AI를 즉시 개선해야 한다고 촉구했다.