기업 AI 도입, 업무 노하우 유출 위험 커진다

생성형 인공지능을 업무에 도입한 기업이 영업 비밀과 운영 노하우 등 핵심 자산에 대한 통제권을 외부 AI 기업에 내줄 수 있다는 경고가 제기됐다. AI 서비스에 입력하는 내부 정보뿐 아니라 프롬프트와 자동화 절차에도 경쟁력의 원천이 담기는 만큼, 기업이 이를 직접 관리하는 ‘AI 주권’이 새로운 경쟁 요소로 떠오르고 있다는 진단이다.

라이언 테일러 팔란티어 최고매출책임자는 최근 2분기 실적 발표 뒤 열린 콘퍼런스콜에서 기업이 AI 서비스 이용료를 지급하는 동시에 업무 노하우와 운영 방식까지 제공하는 구조를 문제로 지목했다. 직원들이 작성하는 프롬프트와 업무 자동화 과정은 단순한 정보보다 가치가 큰 자산이 될 수 있으며, 미래 AI 모델의 학습 데이터로 활용될 경우 해당 기업의 경쟁력을 약화할 수 있다는 주장이다.

알렉스 카프 팔란티어 최고경영자는 기업들이 내부 정보와 프롬프트, 업무 방식, 전문성이 제3자에게 이전될 수 있다는 점을 최근 들어 인식하기 시작했다고 진단했다. 특히 AI와 상호작용하는 과정에서 축적되는 업무 맥락과 실행 방식은 기업이 보유한 기존 내부 데이터보다 더 높은 가치를 지닐 가능성이 있어 관리 범위를 원천 데이터에만 한정해서는 안 된다는 설명이다.

팔란티어가 제시한 대응 방향은 기업이 AI 시스템에 투입되는 업무 정보와 의사결정 과정, 데이터 처리 및 실행 절차를 직접 관리하는 AI 주권의 확보다. 테일러 최고매출책임자는 데이터를 기업의 가장 중요한 자산으로 규정하고, AI 시스템이 어떤 데이터를 사용하며 업무를 어떻게 수행하는지 통제할 권한을 기업 내부에 유지해야 한다고 강조했다.