중학생 79명, AI 판단의 한계와 책임을 논하다

지난 7월 30일 서울 숙명여자대학교 백주년기념관에서 중학생 79명이 인공지능의 판단과 인간의 책임을 주제로 토론을 벌였다. 방송미디어통신위원회가 주최하고 한국지능정보사회진흥원·KT·교보교육재단이 공동 주관한 ‘2026년 제1회 청소년 토론캠프 AI윤리 ON’은 오전 10시부터 오후 5시 30분까지 진행됐다. 학생들은 포용성·책임성·주체성 등 AI 활용에 필요한 가치를 배우고 면접, 진로, 창작물과 관련된 사례에 적용했다.

학교에 AI CCTV를 설치하는 문제를 두고는 학교폭력 예방 효과와 함께 오판, 해킹, 보안 위험이 제기됐다. 이어 6명씩 13개 조로 나뉜 학생들은 스마트폰 없이 포스트잇에 손글씨로 의견을 적으며 90분간 토론했다. 자율주행차가 제공한 편리함과 AI 대필·부정시험 같은 오남용 사례를 살핀 뒤, 가상 상황의 당사자와 이해관계자가 얻거나 잃는 것, 궁금한 점, 훼손된 가치를 정리해 발표했다.

3학년생으로 꾸려진 13조는 AI 적성검사 결과를 근거로 부모와 교사가 가상인물 은호에게 진로를 강요한 상황을 분석했다. 학생들은 AI의 인간 통제와 어른들의 과의존으로 은호의 자율성과 교사의 전문성이 훼손됐다고 판단했다. 같은 주제를 맡은 12조는 은호의 정보가 노출돼 프라이버시까지 침해됐다고 봤다. 두 조는 AI가 도움을 주는 수단이더라도 마지막 판단과 선택은 사람이 맡아야 한다는 결론에 도달했다.

AI로 고친 사진이 공모전에서 당선된 사례와 요약 기능에 의존해 아무도 책 원문을 읽지 않아 진실이 왜곡된 상황도 논의됐다. 학생들은 AI를 목적에 맞게 쓰고 사용 사실을 밝히며, 결과를 믿기 전에 직접 확인하자는 선언문을 만들었다. 지난해 시작된 캠프에는 올해 전국에서 216명이 신청해 3대 1의 경쟁률을 기록했다. 최환 학생은 코딩 과정에서 자주 쓰는 AI가 대회에서 문제가 될 수 있음을 깨달았고, 기윤수 학생은 딥보이스와 AI 창작물의 기준을 새롭게 고민했다. 토론을 이끈 주철진 교사는 AI와 함께 성장하는 세대인 만큼 윤리교육도 이른 시기에 시작해야 한다고 강조했다.