ChatGPT, 80년 미해결 수학 예상 뒤집어: 필즈상 수상자 'AI 수학 마일스톤' 극찬

길이 1의 자가 AI를 수학 연구의 최전선으로 이끌었다.

무한히 넓은 평면 위에 n개의 점을 배치하고, 임의의 두 점 사이의 거리가 정확히 1인 쌍을 '단위 거리 점 쌍'이라 부른다. 이 최대 수는 몇 개일까?

1946년, 수학자 폴 에르되시(Paul Erdős)가 이 문제를 제기했다. 그 후 약 80년간 수학계에서는 최적해가 정방 격자(square lattice)와 같은 구조, 즉 판 위에 점을 깔아 넣는 방식에 가깝다고 믿어왔다.

게시 시점에 320만 회 이상 조회수를 기록한 트윗

OpenAI가 완전히 다른 결과를 제시했다.

OpenAI 공식 블로그에 따르면, 회사의 범용 추론 모델(general-purpose reasoning model)이 정방 격자 예상을 초과하는 수의 단위 거리 점 쌍을 생성하는 새로운 구조족(structure family)을 발견했다. 이 결과는 에르되시의 단위 거리 수 상한이 n^(1+o(1))라는 오랜 예상을 부정하는 것이다.

이 증명은 외부 수학자들에 의해 검증되었으며, 배경과 의의를 설명한 논문도 공개되었다.

주목할 점은 OpenAI가 이 증명이 범용 추론 모델에 의한 것이라고 밝힌 점이다. 모델은 단위 거리 문제 전용으로 설계된 것도, 수학적 증명 탐색 전용 시스템도 아니다. OpenAI 설명에 따르면, 이는 AI가 특정 수학 분야의 중심적인 공개 문제를 독자적으로 해결한 최초의 사례가 된다.

수학계에게는 약 80년의 고전적 예상이 뒤집혔다는 사실일 수 있다. 그러나 AI 산업에게는, 모델이 과학적 창의성의 상류, 즉 '새로운 아이디어 제안', '이종 지식 연결', '복잡한 논증의 전문가 검토 가능 수준까지의 추진'이라는 단계에 손을 뻗기 시작했음을 의미한다.

거리 1, 예상 80년

평면 단위 거리 문제는 조합 기하학(combinatorial geometry)에서 가장 유명한 문제 중 하나다.

2005년 'Research Problems in Discrete Geometry'에서 Brass, Moser, Pach는 이를 "아마도 조합 기하학에서 가장 유명하고 설명하기 쉬운 문제"라고 칭했다. 조합 수학자 노가 알론(Noga Alon)도 이것이 에르되시 자신이 가장 좋아했던 문제 중 하나이며, 해결에 현상금을 걸었다고 밝혔다.

수학적으로, 보통 그 답을 u(n)으로 표시한다. 평면 위에 n개의 점을 놓았을 때, 거리가 정확히 1인 점 쌍의 최대 수이다. 연구자들이 주목하는 것은 n이 커짐에 따라 u(n)이 어떤 속도로 증가하는지이다.

가장 이해하기 쉬운 배치는 n개의 점을 일직선에 늘어놓는 것이다. 인접한 점 사이의 거리를 1로 하면, n-1개의 단위 거리 점 쌍을 얻는다.

좀 더 복잡한 배치가 정방 격자이다. 점을 판 위처럼 배열하면, 각 점은 상하좌우 인접 점과 단위 거리를 형성할 수 있다. 이로써 단위 거리 점 쌍의 수는 약 2n에 도달한다.

알려진 구조 중 하나: 재스케일링된 정방 격자가 다수의 단위 거리를 생성한다.

에르되시가 1946년에 제안한 구조는 더 정교했다. 그는 스케일링된 정방 격자를 사용해 단위 거리 점 쌍의 수를 n^(1+C/log log n) 순서에 도달시켰다(C는 상수). 이 식은 n의 1차보다 빠르게 증가하지만, 그 속도는 매우 제한적이라고 이해할 수 있다. n이 커짐에 따라 C/log log n이 0에 가까워지므로, 전체적으로는 여전히 n의 1차에 가까운 증가가 된다.

오랜 기간 수학자들은 정방 격자 계열 구조가 이 문제의 한계에 가깝다고 생각해왔다. 에르되시는 이를 바탕으로 u(n)의 상한이 n^(1+o(1))라고 예상했다. 여기서 o(1)은 n의 증대와 함께 0에 가까워지는 양을 나타낸다. 쉽게 말해, 단위 거리 점 쌍의 수가 선형 증가를 약간 초과할 수는 있어도, 고정된 비율의 지수적 우위는 나타나지 않아야 한다는 예상이었다.

OpenAI가 공개한 새 결과는 이 예상을 뒤집었다.

공식 블로그에 따르면, 모델은 무한히 많은 예로 이루어진 구조족을 구축했다. 무한 개의 n에 대해, 평면 위에 n개의 점을 배치하고 최소한 n^(1+δ)개의 단위 거리 점 쌍을 얻을 수 있다(δ는 양의 상수). AI 증명 원본은 δ의 구체적인 값을 제시하지 않았지만, 프린스턴 대학 수학 교수 윌 사윈(Will Sawin)의 후속 개선을 통해 δ=0.014임이 밝혀졌다.

정방 격자 계열 구조가 최적에 가깝다고 여겨졌던 반면, OpenAI 모델의 새 구조는 무한 개의 n에 대해 고정된 지수적 우위를 실현하여 n^(1+o(1))라는 관점을 돌파한 것이다.

산업계에 충격이 간 이유는 두 가지다. 첫째, 문제 자체의 무게다. 평면 단위 거리 문제는 공식화는 단순하지만, 본질적 진전은 느렸다.

하한은 오랜 기간 에르되시 초기 구조를 따라 개선되어 왔지만, 최상의 상한 O(n^(4/3))은 1984년 Spencer, Szemerédi, Trotter의 업적에 의한 것이다. 이후에도 Székely, Katz, Silier, Pach, Raz, Solymosi 등이 관련 구조를 연구했지만, 핵심 상하한 사이에는 여전히 큰 격차가 남아 있었다.

둘째, 새 증명에 사용된 도구가 많은 예상을 뒤엎었다는 점이다. 과거 연구자들은 이 문제에 대해 기하학적·조합적 구조를 자연스럽게 떠올렸다. 그러나 OpenAI 모델이 보여준 경로는 문제를 대수적 정수론(algebraic number theory)으로 이끌었다.

에르되시 초기 구조는 가우스 정수(Gaussian integer)로 이해할 수 있다. 가우스 정수는 a+bi(a, b는 정수, i는 -1의 제곱근) 형태로 표현되며, 일반 정수를 확장해 유일 인수분해와 유사한 성질을 유지한다. 이 구조로 인해 일부 스케일링된 정방 격자가 많은 단위 거리를 생성하는 이유가 설명된다.

OpenAI 모델의 새 증명은 더 복잡한 대수적 수체(algebraic number field)를 사용한다. 대수적 수체는 일반 유리수나 정수의 확장으로 이해할 수 있으며, 더 풍부한 대칭 구조를 포함한다. OpenAI는 이 구조들이 다수의 단위 길이 차를 생성하여 평면 위의 점이 거리가 정확히 1인 점 쌍을 더 많이 형성할 수 있게 했다고 설명한다.

증명은 또한 무한 유체탑(infinite class field tower)이나 Golod-Shafarevich 이론 등의 도구를 활용한다. 이 개념들은 대수적 정수론 내에서는 익숙한 것이지만, 유클리드 평면의 조합 기하학 문제에 갑자기 나타난 것은 강한 이종 융합의 의미를 가진다.

외부 수학자들도 이 점을 성과의 핵심으로 본다. 관련 논문 저자 중 한 명인 토마스 블룸(Thomas Bloom)은 AI가 생성한 증명의 중요성을 평가하는 데 있어 중요한 기준은 그것이 인간의 문제 이해를 심화시켰는지 여부라고 썼다. 그의 견해에서는 그 답을 신중하게 긍정할 수 있다. 이 결과는 이산 기하학 문제에 대한 수론적 구조의 영향이 과거 예상보다 깊을 가능성을 시사한다.

조합 수학자 노가 알론은 에르되시가 강의에서 단위 거리 문제를 여러 번 언급했으며, 거의 모든 조합 기하학자가 생각해본 문제이고, 다른 많은 분야의 수학자들도 연구에 시간을 투자했다고 밝혔다. 알론은 OpenAI 내부 모델이 이 오랜 공개 문제를 해결한 것은 현저한 성과라고 생각한다. 특히 놀라운 것은 오랜 예상이었던 n^(1+o(1))이 아니라, 새 구조와 그 분석이 매우 고급 대수적 정수론 도구를 능숙하게 사용하고 있다는 점이다.

필즈상 수상자인 팀 고워스(Tim Gowers)는 관련 논문에서 이 결과를 'AI 수학의 마일스톤'이라고 칭했다.

수론자 아룰 샹카르(Arul Shankar)는 이 논문이 현재 AI 모델이 독창적이고 기발한 아이디어를 제출하고, 그것을 완전한 증명으로 추진할 수 있음을 보여준다고 말했다.

AI가 연구 상류로, 인간 전문가의 역할은

OpenAI는 공식 블로그에서 모델 자체의 유래가 중요하다고 반복 강조하고 있다.

OpenAI 설명에 따르면, 증명은 새로운 범용 추론 모델에 의한 것이다. 그것은 단위 거리 문제에 대해 전문적으로 훈련된 것도, 수학적 증명 탐색 시스템으로 설계된 것도 아니다. OpenAI는 더 광범위한 평가에서 모델에게 일련의 에르되시 문제를 처리시켰고, 그 결과 모델이 평면 단위 거리 문제에서 증명을 제공했다는 것이다.

초기 증명을 검증한 후, OpenAI는 테스트 시 다른 계산량 하에서 모델이 이 문제에서 성공할 확률을 조사했다.

지난 몇 년간, AI의 수학적 능력은 급속히 향상되어 왔다. 모델은 경쟁 문제를 풀고, 형식화 증명을 보조하며, 자료 검색을 돕고, 증명 초안을 생성할 수 있게 되었다. 그러나 이 능력의 대부분은 인간이 명확한 방향을 주거나, 기존 지식 체계의 주변에 머물 필요가 있었다.

OpenAI가 이번에 주장하는 사례는 더 큰 한 걸음을 내딛었다. 모델은 오랜 미해결 문제에 맞서고, 새 구조를 제안하며, 외부 전문가가 검토 가능한 증명을 완성했다. 다시 말해, AI는 수학 연구에서 더 핵심적인 부분, 즉 '경로 발견' 자체에 손을 뻗기 시작한 것이다.

수학은 이러한 능력을 검증하기에 적합하다. 그 이유는 어렵지 않다. 문제가 명확하게 정의되고, 증명이 검증 가능하며, 추론의 단절이 전체 결과에 영향을 미치기 때문이다. 모델이 이러한 태스크를 달성할 수 있다는 것은, 긴 추론의 연쇄를 유지하고, 멀리 떨어진 지식이나 도구를 동일 문제에 적용하는 능력을 갖추고 있음을 시사한다.

소규모 연구 문제에서도 유사한 능력을 보이는 공개 사례는 이미 존재한다. 팀 고워스는 ChatGPT 5.5 Pro에게 수론의 미해결 문제를 처리시켰다. 모델은 2시간 이내에 박사 과정 수준에 가까운 수학적 연구를 제공하고, 기존 경계를 크게 개선했다.

고워스는 자신은 수학적 기여를 거의 하지 않았고, 복잡한 프롬프트도 사용하지 않았다고 밝혔다. 문제는 수론자 멜 나단슨(Mel Nathanson)의 논문에서 인용되었으며, 정수와 집합의 가능한 크기, 그리고 특정 성질을 가진 집합을 효율적으로 구성하는 방법에 관한 것이었다. 연구에 참여한 젊은 학자들은 모델이 제안한 핵심 아이디어가 '완전히 독창적'이라고 생각했다.

이러한 사례를 나열해 보면, 생성 AI의 역할이 변화하고 있다. 그것은 '문제를 푸는 단계'에서 '연구를 수행하는 초기 단계'로 이동하고 있는 것이다.

모델은 더 이상 문제와 방법이 주어진 상황에서 답을 내놓는 것이 아니다. 미해결 문제에서 구조를 제안하고, 경계를 개선하며, 증명의 경로를 모색하기 시작했다.

OpenAI는 이 사례를 더 광범위한 과학 연구 장면에 적용하고 싶어 한다. 공식 블로그는, 만약 모델이 수학에서 복잡한 논증의 일관성을 유지하고, 다른 지식 분야를 연결하며, 전문가 심사를 견딜 수 있는 성과를 생성할 수 있다면, 유사한 능력은 생물학, 물리학, 재료 과학, 공학, 의학 등의 분야 연구에도 기여할 수 있을 것이라고 말한다.

물론, 이 난제의 완전한 연구 과정은 여전히 인간 전문가 없이는 성립할 수 없다. AI 증명의 결과가 진지하게 논의되기 위한 중요한 전제는, 증명이 외부 수학자에 의해 검증되고, 관련 논문이 배경, 설명, 수학적 맥락을 제공하고 있다는 점에 있다.

AI가 중요한 돌파구를 제출하고, 인간 전문가가 그 정확성을 판단하며, 그 의미를 해석하고, 다른 문제로 확장할 수 있는지를 계속 추구한다.

요컨대, AI는 수학자를 대체하기에는 아직 멀었지만, 수학 연구의 노동 구조를 바꿀 가능성을 내포하고 있다. 특히 AI가 복잡한 경로를 일괄 제안할 수 있게 될 때, 미래 연구자의 핵심 임무는 점차 세 가지에 집중하게 될 것이다. 문제의 중요성 판단, 결과의 신뢰성 판단, 그리고 어떤 경로에 지속적으로 투자할 가치가 있는지의 판단.

그리고 OpenAI 모델이 제공한 것은 에르되시조차 상상하지 못한 종류의 구조였다. 이는 소박한 생활 양식과 각지를 여행하는 수학 천사로 알려진 에르되시에 대한 최고의 경의 표명이기도 하다. 문제 해결 방법은 해결 자체보다 더 놀라운 것일 수 있다.