AI가 80년 난제 수학 문제 해결…수학계 '깜짝 놀라'

오픈AI의 인공지능이 1946년 수학자 폴 에르되시가 제시한 80년 묵은 기하학 난제를 풀어냈다. 이 성과는 수학 커뮤니티에 충격파를 던졌으며, 독립적인 수학자들에 의해 검증되었다. 오픈AI는 지난 5월 20일 자사의 챗봇 소프트웨어가 에르되시의 '단위거리 문제'를 반박했다고 발표했다. 이는 AI가 자율적으로 중요한 수학적 성과를 도출한 첫 사례로 평가받고 있다.

에르되시가 1946년 제시한 단위거리 문제는 평면 위에 점들을 배열할 때 가능한 한 많은 점 쌍이 같은 거리를 유지하도록 하는 최적의 배치 방법을 찾는 것이다. 정규 9각형은 9개의 같은 길이 변을 가지므로 9개의 점 쌍이 같은 거리에 있고, 정사각형 격자에 9개의 점을 배치하면 12개의 점 쌍이 같은 거리를 갖는다. 에르되시는 격자가 커질수록 같은 거리의 점 쌍 개수가 전체 점의 개수보다 약간 더 빠르게 증가한다는 것을 보였으며, 이보다 더 나은 배치 방법은 없을 것이라고 추측했다. 이 추측은 80년간 수학 커뮤니티의 미해결 과제로 남아있었다.

오픈AI의 AI 모델은 대수적 수론의 기법을 활용하여 특정 방정식의 해를 좌표로 하는 점들을 선택함으로써 에르되시의 추측을 넘어서는 배치를 발견했다. 특히 주목할 점은 이 성과가 명시적인 지시 없이 에르되시의 문제에 대한 개방형 질문 하나만으로 도출되었다는 것이다. 오픈AI의 수학자 세바스티앙 부벡은 "모델이 인간처럼 문제를 추론하는 과정을 보는 것이 놀랍다"고 설명했다. 또 다른 오픈AI 수학자 메타브 스와니는 "모델이 단 하나의 프롬프트에 응답하여 모든 작업을 자율적으로 수행했다"고 덧붙였다. 이 추론 과정은 125페이지 분량의 문서로 작성되었으나 오픈AI는 아직 전체 내용을 공개하지 않았다.

수학계 전문가들은 이번 성과에 대해 극찬을 아끼지 않았다. 조지아공과대학교의 톰 트로터 수학자는 "에르되시가 살아있었다면 이 발전에 대해 열광했을 것이 확실하다"고 평가했다. 캘리포니아 버클리 대학의 토니 펑은 "나는 AI의 수학 분야 영향에 대해 신중한 목소리를 내왔지만, 이것은 놀랍다"고 X(구 트위터)에 작성했다. 토론토 대학의 대니얼 리트는 "이것은 내가 그 자체로 흥미로운 것으로 판단한 AI가 자율적으로 생산한 첫 번째 결과"라고 언급했다. 이들은 모두 오픈AI가 증명을 검증하기 위해 요청한 독립적인 연구자들이다.

오픈AI는 이번 성과를 도출한 AI 모델의 구체적인 이름과 작동 방식의 세부 사항을 공개하지 않았다. 부벡은 이 모델이 수학 문제 해결을 위해 특별히 설계된 것이 아닌 범용 추론 모델이라고 설명했다. 이는 특정 분야 최적화 없이도 복잡한 문제를 해결할 수 있는 AI의 잠재력을 보여준다. 한편 1500편 이상의 논문을 발표한 에르되시는 1000개 이상의 미해결 수학 문제를 남겼으며, 현재 이 중 일부가 AI를 통해 해결되고 있다. 이번 사건은 AI가 순수 수학 연구의 영역에서도 중요한 역할을 할 수 있음을 시사한다.