오픈AI가 자사 범용모델이 수학 난제를 해결했다고 공개했다. 사진은 오픈AI로고. 로이터=연합뉴스

챗GPT 개발사인 오픈AI가 자사 인공지능(AI) 기술로 지난 80년간 해결되지 않았던 수학 난제를 풀어냈다. AI가 수학계 주요 난제를 스스로 풀어낸 첫 번째 사례다.

22일 정보통신기술(ICT) 업계에 따르면 오픈AI는 헝가리 출신의 저명한 수학자 폴 에르되시(xxxx-xxxx)가 1946년에 제시한 ‘평면 단위 거리 문제’(planar unit distance problem)에 대한 수학계의 오래된 정설이 틀렸다는 사실을 최근 증명했다. 이 문제를 쉽게 설명하면 ‘평면 위에 여러 개의 점을 찍을 때 정확히 거리가 1(단위 거리로 바뀔 수 있음)인 쌍을 최대 몇 개 만들 수 있느냐’를 묻는 것이다. 예를 들어 한 변이 1인 정사각형의 네 꼭짓점에 점을 찍으면, 거리가 1인 쌍은 네 변에 해당하는 총 4쌍이 나온다. 대각선의 두 점을 연결할 경우 1보다 숫자가 크기 때문에 거리가 1인 쌍에 해당되지 않는다. 계산이 복잡해지는 건 이보다 훨씬 더 많은 점을 찍을 때인데, 수학계에서는 각 점을 바둑판 모양의 정사각형 단위의 격자 형태로 배치하는 것이 최적의 해답이라고 추측했다. 어찌 보면 간단한 문제처럼 보이지만 에르되시가 문제를 제기한 후 지난 80년간 그 어떤 수학자도 이 추측을 증명하거나 반증하지 못했다.

수학자 폴 에르되시가 1946년에 제시한 '평면 단위 거리 문제'에 대해 기존 수학계의 정설을 표현한 그림. 사진 오픈AI 홈페이지 캡처

하지만 지난 7일 오픈AI 소속 메탑 사우니(Mehtaab Sawhney)와 마크 셀키(Mark Sellke)가 일반적인 논리 추론을 위해 훈련된 대규모 언어 모델(LLM)에 이 추측이 맞는지 질문을 던졌는데, AI가 이 추측이 틀렸다는 결론을 내렸다. 다만 추측이 틀렸다는 사실만 증명했을 뿐, 최적의 값이 무엇인지는 아직 찾지 못한 것으로 알려졌다. 오픈AI는 AI의 결론을 소속 수학자들과 관련 분야를 연구한 외부 전문가들에게도 검증을 맡겼는데, 풀이가 올바르다는 사실까지 확인했다. 오픈AI는 인간 수학자들에게 AI가 내놓은 풀이를 정리하고 설명하는 작업을 맡겨 18쪽 분량의 논문을 홈페이지에 공개하기도 했다.

오픈AI는 이번 성과가 수학 문제를 해결하는 특화 AI 모델이 아닌 범용 추론 모델로 진행됐다고 설명했다. 오픈AI 측은 이번 성과가 “수학과 AI 커뮤니티에 중요한 이정표”라며 “수학 특정 분야의 중심적 위치를 차지하는 주요 미해결 문제가 AI에 의해 자율적으로 해결된 첫 사례”라고 설명했다. 오픈AI는 또 “이러한 능력은 수학을 넘어선 영역에서도 중요하다”며 “생물학과 물리학, 재료 과학, 공학, 의학에서도 유용하게 쓰일 수 있다”고 했다.

수학계 대가들 역시 이번 성과가 수학 최고 권위 학술지에 게재될 만한 수준이라며 찬사를 보냈다. 필즈 메달 수상자인 티머시 가워스 케임브리지대 교수는 "AI가 그냥 미해결 수학 문제를 푼 것이 아니라, 매우 잘 알려진 미해결 수학 문제를 해결한 매우 명확한 첫 사례"라고 평가했다. 저명한 산술 통계학자인 아룰 샹카르는 “해당 논문은 현재 AI 모델이 인간 수학자의 조력자 수준을 넘어섰다는 걸 보여준다”며 “AI는 독창적이고 기발한 아이디어를 생각해내고, 이를 스스로 결론을 낼 수 있는 능력을 갖추고 있다”고 말했다. 여전히 사람의 역할이 중요하다는 의견도 있다. 에르되시 문제 사이트를 운영하는 맨체스터대 소속 토머스 블룸 영국왕립학회 대학 연구 펠로는 “AI가 생성한 최초 증명은 완전히 유효했지만, 오픈AI의 인간 연구자들과 본 논문에 참여한 수많은 다른 수학자들에 의해 크게 개선됐다”며 “인간은 여전히 이 증명을 논의하고, 소화하며, 개선하고, 그 결과를 탐구하는 데 있어 필수적인 역할을 한다”고 강조했다.