AWS, AI 에이전트 연속 행동 제어 기술 공개

아마존웹서비스(AWS)가 13일 AI 에이전트의 연속된 행동을 통제하는 오픈소스 정책 언어 ‘도그우드(Dogwood)’를 공개했다. 개별 작업의 허용 여부만 판단하던 방식에서 나아가 동일한 세션에서 이어지는 전체 행동 흐름을 검증해 보안과 운영 위험을 낮추는 기술이다. 도그우드는 아마존 베드록 에이전트코어의 정책 기능에 적용된다.

시간 기반 정책은 현재 요청과 에이전트가 앞서 수행한 행동을 함께 분석해 다음 작업을 허용할지 결정한다. 이전 호출 결과와 다음 호출의 입력값이 일치하는지 확인하고, 누적 사용액이 설정 수준을 넘으면 추가 결제를 막을 수 있다. 중요한 작업 전에 사람의 승인을 요구하거나 여러 작업을 정해진 순서로만 처리하도록 제한하는 정책도 설정할 수 있다.

도그우드는 기존 오픈소스 정책 언어 ‘시더(Cedar)’를 확장해 설계됐다. 기존 정책을 다시 작성하지 않고 활용하면서 에이전트의 행동 이력을 토대로 도구 사용 순서와 빈도, 누적 사용량을 정책에 반영한다. 아파치 2.0 라이선스가 적용된 오픈소스 사양과 참조 구현으로 제공된다. 다단계 작업을 수행하는 AI 에이전트가 확산되는 가운데 맥킨지 조사에서는 조직의 약 80%가 위험한 에이전트 행동을 경험한 것으로 나타났다.

AWS는 에이전트코어 게이트웨이에 속도 제한 기능도 추가했다. 플랫폼 운영자는 분당 요청 수와 토큰 처리량, 동시 연결 수를 기준으로 사용자별 상한을 정하고, 사용자·팀·도구·모델마다 다른 제한값을 적용할 수 있다. 애플리케이션 코드를 고치거나 기존 에이전트를 재설계하지 않고 사용량을 관리할 수 있으며, 시간 기반 정책과 속도 제한 기능은 13일부터 도입할 수 있다. 도그우드 참조 구현과 언어 가이드는 깃허브에 공개됐다.