직원보다 AI 신뢰…검증 업무 떠안은 직장인들

직원의 현장 판단보다 인공지능이 내놓은 답을 우선시하는 직장 문화가 업무 부담을 키우고 있다. 서울의 한 중소기업에서 기획 업무를 맡은 김모(35)씨는 시장 분석 보고서를 제출할 때마다 상사가 구글 AI 제미나이에 오류를 찾도록 한 뒤 수정을 요구한다고 말했다. 회사 내부 사정이나 사업 배경을 반영하지 않은 지적이 나와도 김씨가 원자료와 반박 논리를 다시 준비해 AI의 오류를 입증해야 한다.

서울의 한 스타트업에 근무하는 박모(31)씨는 자신의 설명이 받아들여지지 않자 중요한 의견을 AI의 문장으로 바꿔 전달하고 있다. 논리와 근거를 입력해 재작성한 답변을 캡처하면 같은 내용도 상사가 수용한다는 것이다. 업무용 소프트웨어 기업 고투가 10개국 지식 노동자 1250명을 조사한 결과, 30%는 AI 없이 일하기 어렵다고 답했고 28%는 자신의 판단보다 AI를 더 신뢰하기 시작했다고 밝혔다.

AI 결과물에 대한 신뢰가 높아진 반면 검증은 충분히 이뤄지지 않았다. 조사 응답자의 43%는 품질이 낮거나 허위로 의심되는 결과물을 업무에 사용했고, 55%는 중요한 업무에서도 AI 답변을 항상 확인하지 않았다. 인간 직원은 예산과 인력, 조직 사정, 과거 시행착오, 고객 관계를 함께 따져 복잡한 판단을 내리지만 AI는 제한된 문서만으로도 짧은 시간 안에 구조적이고 단정적인 결론을 제시한다.

거대언어모델은 이용자가 넣은 질문과 전제를 좇아 원하는 방향의 답을 만드는 아첨 성향을 보일 수 있다. 오류를 찾으라는 주문 자체가 억지 지적을 유도할 수 있는 셈이다. 스탠퍼드대 소셜미디어랩과 베터업 연구진은 그럴듯해 보여도 맥락이 부족해 다른 사람이 검증하고 재작업해야 하는 AI 결과물을 ‘워크슬롭’으로 정의했다. 지난해 미국 근로자 1150명 중 40%가 이를 경험했고 처리에는 평균 2시간이 들었다. 직원 1만명 기업의 연간 비용 추산치는 900만달러, 약 128억원이었다.