AI 자율 업무 확산, 통제 가능성이 신뢰 좌우

AI가 일상적인 업무 도구로 자리 잡았지만 실제 실행 권한을 넘기는 단계에서는 신뢰 부족이 생산성 향상을 제약하는 것으로 나타났다. 팀뷰어가 11일 공개한 ‘자율형 워크플레이스로의 여정’ 보고서에서 아시아태평양 지역 IT 리더들은 2030년까지 디지털 워크플레이스 서비스의 42%가 자율적으로 운영될 것으로 내다봤다. 조사 대상자의 74%는 AI를 매일 사용하고 있었다.

빈번한 사용이 업무 위임으로 곧바로 이어지지는 않았다. 응답자의 61%는 AI가 업무를 처리하기 전에 사람의 검토와 승인이 필요하다고 답했고, 같은 비율이 AI의 독자적인 행동을 원하지 않았다. AI 결과물을 활용하기 전에 자주 또는 항상 직접 검증한다는 응답은 55%였으며, 확인 작업에는 주당 평균 2시간이 들었다. AI를 언제 믿고 언제 직접 확인해야 하는지가 명확하지 않다는 응답도 50%에 달했다.

자율적인 행동을 허용할 수 있다는 응답자는 34%였지만, 이 가운데 76%는 미리 정한 업무 범위 안에서만 가능하다고 봤다. 응답자의 40%는 AI가 문제를 선제적으로 찾아 해결하면서 진행 상황을 계속 알려주기를 원했고, 66%는 필요할 때 사람이 개입할 수 있다면 자율 실행을 받아들일 수 있다고 답했다. 허용 조건으로는 보안·개인정보 보호가 41%로 가장 높았고, 접근 범위 제한 35%, 주요 변경 전 알림 33%, 활동 기록 공개 31%, 원상복구 기능 30%가 뒤를 이었다.

IT 부문에서는 자율화 수용도가 상대적으로 높았다. IT 리더의 25%는 소속 부서가 이미 부분적으로 자율화됐다고 답했으며, 99%는 적어도 한 가지 업무를 AI에 맡기는 데 긍정적이었다. 위임 의향이 높은 업무는 시스템 업데이트 63%, 일반적인 기기 오류 해결 52%, 기기 성능 조정 51% 순이었다. 팀뷰어는 보조도구 활용에는 익숙하지만 실행 권한과 책임의 이전에는 주저하는 상태를 ‘AI 신뢰 격차’로 규정했다. 올리버 스테일 최고경영자는 무제한 권한보다 명확한 안전장치 아래 안전성·투명성·책임성을 갖춘 운영 체계가 중요하다는 입장을 밝혔다.