AI 호출 전 예산 초과 막는 ‘파레토’ 출시
핵심 요약
바운드포가 드로파이에 AI 토큰 지출 관리 서비스 파레토를 탑재했다. 예산을 초과하는 AI API 요청을 실행 전에 차단하고 팀별 예상 지출을 실시간으로 보여준다. 재시도와 중복 요청을 분석해 토큰 절감 방안을 월 단위 리포트로 제공한다.
데이터 파운드리 기업 바운드포가 인공지능 데이터 운영 플랫폼 ‘드로파이(DroPai)’에 AI 토큰 지출 관리 서비스 ‘파레토(Pareto)’를 탑재했다고 12일 밝혔다. 파레토는 관리자가 정한 예산 한도를 기준으로 AI API 요청을 실행 전에 점검하고, 비용이 한도를 넘는 요청은 사전에 차단하는 기능을 제공한다.
기존에는 AI 시스템을 사용한 뒤 토큰 소비 규모를 확인하는 사후 관리가 중심이었지만, 파레토를 적용하면 예산 범위 안에서만 시스템이 작동하도록 실시간 통제할 수 있다. 팀별 토큰 사용 현황과 예상 지출 정보도 실시간으로 제시해 조직 내부에서 발생하는 비용 흐름과 불필요한 지출을 함께 관리할 수 있도록 했다.
월 단위 데이터 분석 기능도 마련됐다. 파레토는 반복적으로 발생한 재시도와 중복 요청 등을 찾아 토큰 소비 양상을 분석하고, 절감 가능한 항목을 리포트 형태로 제공한다. 바운드포는 기업의 AI 활용이 늘면서 토큰 사용량과 비용 부담이 빠르게 커지고, 예상하지 못한 비용이 누적될 수 있다는 문제를 해결하기 위해 이 서비스를 개발했다.
파레토의 운영 구조는 로봇과 디바이스가 AI를 상시 호출하는 피지컬 AI 현장에서 겪은 비용 관리 문제를 토대로 설계됐다. 황인호 바운드포 대표는 호출이 계속 발생하는 환경에서는 사용 후 분석만으로 비용을 관리하기 어렵다고 판단했고, 현장에서 검증한 사전 통제 방식을 제품에 반영했다. 이에 따라 예산 초과 차단부터 사용 현황 확인, 절감 항목 분석까지 하나의 체계에서 수행할 수 있게 됐다.