공연부터 지도까지, 신뢰 흔든 AI 결과물

독일 바이로이트 바그너 축제와 미국 국무부, 구글어스가 인공지능으로 제작하거나 활용한 영상과 이미지에서 잇따라 논란을 빚었다. 오페라 무대에는 맥락을 파악하기 어려운 역사적 장면이 등장했고, 국제회의 자료에는 지리적으로 잘못된 아프리카 지도가 실렸다. 실제 지도에 재난과 전쟁 상황을 덧씌우는 구글어스 기능은 공개 후 48시간이 지나기 전에 중단됐다.

바그너 축제는 150년 역사상 처음으로 AI를 무대에 도입했다. 연출진이 고른 과거 공연과 역사 자료를 AI가 해석해 ‘신들의 황혼’ 영상으로 재구성했지만, 세계무역센터의 9·11 테러 장면과 헬무트 콜 전 독일 총리, 독일 통일 기념 우표가 잇따라 나타났다. 공연 뒤 성악가와 연주자, 지휘자에게는 박수가 이어진 반면 AI 연출진에는 야유와 휘파람이 쏟아졌다.

게르만·북유럽 신화를 토대로 영웅과 신들의 세계가 함께 파멸하는 ‘신들의 황혼’은 ‘니벨룽의 반지’의 마지막 작품이다. 축제 측은 이 작품이 독일 민족 신화와 지난 150년간의 정치·사회 변화 속에서 해석된 과정을 보여주려 했다. 혼란과 질문도 공연의 일부라는 입장이었지만, 실제 참사인 9·11을 무대로 불러낸 이유가 충분히 설명되지 않아 영상은 역사 이미지를 무작위로 섞은 화면처럼 받아들여졌다.

미 국무부가 브라질 리우데자네이루 국제 에이즈 회의에서 사용한 AI 제작 지도는 나이지리아를 사하라 사막 한가운데에, 모잠비크를 아프리카의 뿔에, 코트디부아르를 대륙 동쪽에 배치했고 오픈AI 도구의 워터마크도 남겼다. 구글어스의 ‘나노 바나나2’ 기능으로는 무너진 에펠탑과 싱크홀에 빠진 피라미드, 러시아군 전차가 들어선 키이우 도심 같은 가상 장면을 위성·항공사진과 3D 지도 위에 만들 수 있었다. 보이지 않는 워터마크는 일부 확인 절차를 피할 수 있었다. 신뢰받는 기관과 서비스가 AI 결과물을 공개할 때 오류를 점검하고 AI 사용 사실과 목적을 명확히 밝혀야 할 필요성이 세 사례에서 확인됐다.