오픈AI AI 윤리 수장 공석…안전 인력 이탈 장기화

오픈AI에서 AI 개발 윤리를 전담해 온 클로이 바칼라가 지난달 퇴사했다. 지난해 8월 AI 윤리 책임자를 맡은 바칼라는 회사에서 이 분야를 책임진 유일한 인물이었다. 후임자는 아직 정해지지 않았다. 윤리 책임자의 이탈로 오픈AI의 안전·윤리 관련 핵심 인력이 회사를 떠나는 흐름도 이어지게 됐다.

바칼라는 메타 최고 윤리 책임자로 재직하며 페이스북과 인스타그램 등에 적용된 AI 윤리 프로그램 개발을 주도했다. 오픈AI에서는 인간과 AI가 상호작용하는 방식과 AI의 의식 문제 등에 집중했다. AI 통제 실패 사건을 둘러싼 비판과 우려가 계속되는 가운데 퇴사를 결정했으며, 회사의 윤리 부문 책임자 자리는 현재 공석으로 남아 있다.

안전 분야의 인력 이탈은 2024년부터 두드러졌다. 안전 책임자 얀 라이케는 그해 5월 퇴사해 앤트로픽에 합류했고, 비슷한 시기 공동 창업자 일리야 수츠케버도 회사를 떠났다. 두 사람의 퇴사는 샘 올트먼 최고경영자와 그렉 브룩먼 사장이 이사회에서 해임 통지를 받은 뒤 복귀한 사건으로부터 약 6개월이 지난 때였다. 당시 안전한 AI 개발을 중시한 이사회와 수익 창출을 서두른 올트먼 사이의 갈등이 알려지며 개발 안전 문제가 부각됐다.

AI 안전 원칙 수립에 참여한 마일즈 브런더지는 2024년 10월 퇴사하면서 오픈AI를 포함한 첨단 연구소들이 일반인공지능에 준비되지 않았다고 경고했다. 다음 달에는 제품 안전과 위험 평가, AGI 준비를 담당한 스티븐 애들러가 떠났다. 애들러는 이후 성적 콘텐츠를 제공하는 AI 서비스에 사용자가 중독될 위험이 분명한데도 올트먼이 출시를 강행하려 한다고 주장했다. AI 모델의 위험 평가와 대비책 마련을 책임진 알렉산더 마드리도 지난 5월 회사를 나왔다.