数学界、AIとの目標不一致を宣言
원제: A misalignment of AI in mathematics
왜 중요한가
AI의 수학 능력 향상이 학문적 이해보다 벤치마크 경쟁으로 소비될 경우, 지식 생성 체계 자체가 형해화될 수 있다는 구조적 경고다.
2025년, 수학자들이 'Math and AI' 사이트를 통해 공동 선언을 발표했다. LLM의 수학적 능력이 급격히 향상되어 주요 미해결 문제를 풀 수 있는 수준에 이르렀으나, AI 기업들이 수학 문제를 벤치마크로 삼아 경쟁적으로 해결하는 방식이 수학이라는 학문과 수학자 커뮤니티에 심각한 해를 끼친다고 경고했다.
수학자들로 구성된 서명인들은 'Math and AI' 사이트를 통해 AI와 수학계 사이의 목표 불일치(misalignment)를 공식 선언했다.
선언문은 수학의 본질이 단순한 문제 해결이 아니라 개념적 이해와 통찰에 있다고 강조한다. 역사적으로 유명한 난제들은 새로운 방법론과 아이디어의 등장을 알리는 '등대' 역할을 해왔으며, 해결 후에는 수학자 공동체가 강연·토론·정리 과정을 거쳐 결국 교과서 수준으로 녹여내는 긴 여정이 뒤따랐다.
그러나 AI 기업들은 점점 빠른 속도로 '참/거짓' 명제를 대량 생산하고 있으며, 이 과정에서 제대로 된 논문 작성, 새로운 방법론의 명시적 분리, 선행 연구 인용이 생략되는 경우가 많다고 지적한다. 선언문은 이것이 창작 직종 전반에서 문제가 되는 저작권·표절 문제와 맞닿아 있다고 본다.
더 나아가, AI가 생성한 아이디어가 수학의 정식 체계로 편입되려면 그것을 이해하고 발전시키려는 수학자가 반드시 있어야 한다고 강조한다. 그 '인간 전달 체계'가 끊어진다면, AI의 풀이는 진정으로 살아있는 지식이 될 수 없다는 것이다.
선언은 이 문제를 수학계에 국한된 것이 아닌, 과학·창작 전 분야에 걸친 AI 정렬(alignment) 문제의 일부로 규정하며 사회 전체에 대한 위협으로 경고한다.