수학 연구에 뛰어든 AI…성과 확장과 검증 부담 함께 부각

오픈AI가 AI를 활용해 작성한 수학 논문 원고 722편을 지난 6일(현지 시각) 공개했다. 대수학·기하학·확률론 등 여러 분야를 아우른 원고 가운데 증명 오류가 확인된 3편은 이튿날 철회돼 현재 719편이 남아 있다. 국내 수학자들은 AI가 서로 다른 분야의 지식을 연결하고 기존 연구를 빠르게 활용하는 역량을 보였지만, 논문을 읽고 검증하기 어려운 점도 드러났다고 평가했다.

공개된 연구에는 저온 셰링턴-커크패트릭 모형의 요동 법칙 문제를 다룬 시도도 포함됐다. 미세 자석들이 무작위로 영향을 주고받는 모형에서 낮은 온도일 때 자유에너지의 변화를 규명하는 문제다. 이지운 카이스트 교수는 오랫동안 접근 방법조차 알려지지 않았던 이 문제에 올해 7월 해결 가능성을 보인 아이디어가 처음 등장했고, 오픈AI가 이를 발전시키면 풀 수 있다고 주장했다고 설명했다.

엄상일 기초과학연구원 이산수학그룹 CI는 발표에 오랜 추측을 뒤집는 반례와 새로운 알고리즘도 담겼다고 밝혔다. 오픈AI는 같은 도형으로 3차원 공간을 빈틈없이 채울 수 있어도 규칙적으로 반복 배열하는 것은 불가능한 사례를 제시했다. 이는 공간을 채울 수 있다면 주기적으로도 타일링할 수 있다는 추측에 대한 반례다. 성능이 같은 기계 3대에 작업을 배분하면서 순서를 지키고 전체 작업 시간을 줄이는 알고리즘도 제시됐다.

수학자들은 연구 성과를 이해하고 후속 연구에 활용하기까지 상당한 검토 시간이 들 수 있다고 지적했다. 이 교수는 글의 구성이 산만하고 표기가 낯선 부분이 많다고 평가했으며, 수백 편을 한꺼번에 공개한 방식도 학계의 검토 부담을 키웠다고 말했다. 서인석 서울대 교수는 인간 연구자의 제한된 시간이 연구의 병목이었다며 AI가 기존 성과를 활용해 다음 단계에 필요한 시간을 줄일 수 있다고 봤다. AI 기여 논문에서 인간 연구자의 역량을 어떻게 평가할지, 학위 심사와 채용·정년 심사까지 연구자 평가 체계를 재검토해야 한다는 과제도 제기됐다.