AI 도입 기업들, 성능 경쟁서 비용 관리로 선회

생성형 인공지능을 업무 전반에 확산하던 대기업들이 급증한 운영비를 낮추기 위해 사용 범위와 도구를 재조정하고 있다. 오픈AI에 약 130억 달러를 투자하고 자체 코드의 최대 30%를 생성형 AI로 작성해 온 마이크로소프트도 비용 관리에 나섰다. 윈도와 오피스 등 핵심 사업부문에서 개발·기획·디자인 인력까지 쓰던 앤트로픽의 클로드 코드를 일부 엔지니어가 중단하고, 상대적으로 저렴한 내부 도구인 깃허브 코파일럿을 이용하도록 했다.

비용 통제는 다른 기업에서도 구체적인 제도로 나타나고 있다. 우버는 직원 한 명이 각 AI 도구에 사용할 수 있는 금액을 월 1500달러로 제한했다. 월마트는 저가 모델로 전환하는 동시에 여러 도구의 중복 사용을 막는 시스템을 도입했다. 삼성전자 인사팀은 6월 15일 스마트폰·가전 등 완제품사업을 담당하는 DX 부문 임원 자료에 ‘토큰가성비’를 새 평가지표로 넣었다. 같은 10명분의 노동량을 AI로 대체했다면 토큰 소비가 적은 조직을 더 높이 평가하는 방식이다.

모델 이용 단가는 하락하고 있지만 기업의 총운영비까지 함께 줄어든다고 단정하기는 어렵다. 2030년 1조 파라미터급 모델의 추론 비용은 2025년보다 90% 이상 낮아질 것으로 전망되지만, 에이전트형 AI와 같은 고도화된 서비스는 훨씬 많은 토큰을 사용한다. 토큰당 가격이 내려가더라도 사용량 증가로 전체 비용은 커질 수 있다는 의미다. 기술적으로 구현할 수 있는 기능과 기업이 그 기능을 지속적으로 구매할 수 있는지는 별개의 문제로 드러나고 있다.

AI 인프라의 짧은 유효수명도 비용 부담을 키우는 요인이다. 아마존·구글·메타·마이크로소프트는 관련 하드웨어 수명을 5~6년으로 산정하지만, 실제 칩의 유효수명은 1~3년에 그친다는 추산도 있다. 데이터센터 칩은 높은 발열에 노출되고 경쟁력 유지를 위한 교체 주기도 빠르다. 잦은 교체는 반도체 수요를 높이는 동시에 서비스 비용을 끌어올린다. 에너지와 상수도, 소음, 고열을 둘러싼 사회적 부담도 커지는 가운데 미국에서는 주거지 인근 AI 데이터센터 건설 반대 여론이 70%를 넘는다. 고객이 높은 비용을 내면서도 AI 기업은 대규모 적자를 벗어나지 못하는 구조가 산업의 지속 가능성을 가르는 쟁점으로 부상했다.