“정답보다 이해·발견 중요해져”
수학자가 평생 매달려도 풀지 못할 문제를 인공지능(AI)이 단숨에 해결하는 시대가 왔다. 난제가 풀렸으니 기뻐해야 할까, 아니면 수학자가 할 일이 사라졌다고 걱정해야 할까.
세계적인 수학자 테렌스 타오(51) 미국 캘리포니아대학교 로스앤젤레스(UCLA) 교수는 조금 다른 질문을 던졌다. AI가 정답을 찾아주는 시대를 피하기보다, 인간이 수학으로 무엇을 해야 할지 집중한 그의 생각에 시선이 모였다.
테렌스 타오는 이달 9일 미국 캘리포니아공과대학교에서 ‘수학 2.0(Math 2.0)’이라는 제목으로 강연했다. 10일 자신의 블로그에 발표자료를 공개한 그는 AI의 등장으로 수학 연구의 목적과 성과를 평가하는 기준까지 달라져야 한다고 주장했다.
그동안 수학계에서는 어려운 문제를 해결하고 이를 증명하는 일이 중요한 성과였다. 하나의 난제를 풀기 위해 수십 년을 바치는 학자도 있었다. 테렌스 타오는 이러한 전통적인 연구 방식을 ‘수학 1.0’이라고 정의했다.
그간의 상황은 AI가 등장한 뒤 바뀌었다. 수학은 방대한 논문과 교과서가 디지털 자료로 축적돼 있고, 컴퓨터로 증명의 타당성을 검증할 수도 있다. AI가 실력을 발휘하기에 유리한 환경이다.
실제로 AI는 과거 해결이 어려웠던 일부 수학 문제에서 성과를 내고 있다. 테렌스 타오는 수학계가 증명이 귀했던 시대에서 증명이 풍부해지는 시대로 이동하고 있다고 봤다.
그렇다고 AI가 모든 난제를 풀 수 있다는 뜻은 아니다. 테렌스 타오는 현재 수학 연구의 최전선에 있는 문제 대부분은 여전히 미해결 상태라고 강조했다. AI의 성공 사례만 널리 알려지고 실패 사례는 잘 드러나지 않는 현상도 경계했다.
흥미로운 것은 그가 걱정하는 문제가 단순히 수학자의 일자리 감소가 아니라는 점이다. 테렌스 타오는 미해결 문제를 수학자들에게 등대와 같은 존재라고 설명했다. 수학자들은 하나의 문제를 해결하기 위해 여러 길을 탐색한다. 그러다 처음에는 예상하지 못했던 새로운 이론이나 연구 방법을 발견하기도 한다.
그런데 AI가 답만 빠르게 내놓는다면 어떨까. 목적지에는 일찍 도착하겠지만 그곳으로 향하는 과정에서 발견할 수 있었던 수많은 지식을 놓칠 수도 있다. 정답을 얻는 것과 수학을 이해하는 것은 서로 다른 문제라는 이야기다.
테렌스 타오가 제안한 ‘수학 2.0’은 여기서 출발한다. AI를 단순히 난제를 해결하는 기계로 사용하는 대신, 기존 증명을 더 간결하게 만들거나 서로 다른 연구 성과를 연결하고 새로운 수학적 구조를 발견하는 데 활용하자는 것이다.
실제 사례도 있다. 테렌스 타오가 참여한 등식 이론 프로젝트는 인간 학자와 자동화된 증명 기법을 결합해 보편대수학과 관련된 2200만 건 이상의 명제에 대한 참과 거짓을 판정했다. 개별 문제를 하나씩 해결하는 수준을 넘어 방대한 수학적 관계를 체계적으로 조사한 것이다.
테렌스 타오는 앞으로 검증된 수학 지식을 축적하는 데이터베이스와 교육 자료, 수학 연구에 특화된 개방형 AI 모델 등도 중요해질 것으로 내다봤다. 그는 ‘수학 2.0’을 실현하는 데 가장 큰 장애물은 기술이나 제도적 문화가 아니라 상상력이라고 강조했다.
AI가 정답을 찾아주는 시대에도 수학자의 역할이 끝나는 것은 아니다. 오히려 어떤 질문을 던지고, 발견한 지식을 어떻게 이해하고 활용할 것인지가 더 중요해질 수 있다. 수학의 미래가 정답을 찾는 속도보다 질문의 깊이에 달려 있다는 것이 테렌스 타오의 제안이다.
김한별 기자 khstar@sputnik.kr
