글로벌 AI 연합, 에이전트 보안 표준화 시동

엔비디아와 SK텔레콤, 네이버 등이 참여한 오픈 시큐어 AI 얼라이언스가 에이전틱 AI 환경의 공동 방어 체계를 구축하기 위해 ‘SAFE’ 프레임워크의 공개 의견 수렴에 착수했다. 엔비디아는 미국 라스베이거스에서 이달 1일 개막한 사이버보안 콘퍼런스 ‘블랙햇 2026’을 통해 이 절차를 공개했다.

SAFE는 AI 보안 사고와 위협 정보를 기밀로 수집·분석한 뒤 생태계 전반에 공유해 유사한 실패의 반복을 줄이는 공동 대응 지침이다. 피해 조직에 사고 사실을 신속히 알리고, 축적된 자료로 시스템 위험을 낮추는 운영 권고안도 마련한다. 엔비디아·시스코·크라우드스트라이크·허깅페이스·레드햇 등이 리눅스 재단과 설계했으며, 재단은 공개 의견을 반영해 정식 표준으로 발전시킬 계획이다.

얼라이언스에는 SK텔레콤과 네이버를 비롯해 팔로알토 네트웍스, 아마존, 마이크로소프트 등 AI·보안 기업 120여 곳이 참여하고 있다. 엔비디아는 AI 에이전트의 동작을 시험하고 추적·감사하는 연구용 프레임워크 ‘NOOA’와 민감한 시스템에 대한 에이전트의 접근 권한을 제한하는 런타임 기술 ‘오픈쉘’도 함께 공개했다.

개방형 모델인 네모트론·코스모스·아이작 GR00T·바이오네모에는 안전 정책과 개인정보 보호를 위한 네모 가드레일, 네모 어노니마이저, 네모 세이프 신디사이저가 제공된다. LLM 취약점 스캐너 ‘가락’은 데이터 유출과 프롬프트 인젝션, 탈옥 공격을 점검한다. 아마존은 스트랜드 에이전트와 시더, 마이크로소프트는 PyRIT과 Assert를 공개했고, 크라우드스트라이크는 네모트론 기반 보안 모델로 보안관제센터의 탐지 정확도를 높였다. 우버도 에이전트 활동 추적 기술 ADR을 선보이며 공동 기술 개발 범위를 넓혔다.