과학/건강

2026년 10월 26일 오픈AI의 발표는 이 변화를 가장 선명하게 드러낸 사건이다. 회사는 자체 AI 모델이 수학의 국소 평활화 추측(Local Smoothing Conjecture), 컴퓨터과학의 지수시간 가설(Exponential Time Hypothesis·ETH), 물리학의 상호작용 양자장론 존재 증명(Yang-Mills 및 QCD 관련)에서 수십 년 묵은 난제에 대한 증명을 산출했다고 밝혔다.

보도에 따르면 물리학 부분은 밀레니엄 난제의 일부와 연결되며, 2004년 노벨 물리학상 수상자 데이비드 그로스를 포함한 전문가 그룹이 검증을 주도한다. 수학과 컴퓨터과학 쪽은 Lean으로 형식화해 공개되었고, 물리학 쪽은 복잡성을 이유로 전문가들이 재작성하는 방식으로 진행되고 있다. 이 발표를 “AI가 인간의 한계를 넘어섰다”고 읽는 것은 과학적 지식의 성립 조건을 오해한 결과다. 지식은 단순한 정답의 제시가 아니라, 논리적 정합성, 원래 문제와의 정확한 대응, 기존 연구 흐름과의 정합성, 그리고 그 결과가 더 넓은 이론 체계 안에서 갖는 의미의 해석이 모두 충족되어야 비로소 확립된다.

세 가지 성과를 구체적으로 살펴보면 이 점이 분명해진다. 국소 평활화 추측은 파동이 특정 지점에 과도하게 집중되지 않는다는 수학적 성질에 관한 것으로, 증명이 성립하면 Kakeya 추측과 Stein의 제한 추측까지 연쇄적으로 해결된다. AI가 보조 편미분방정식을 도입해 모든 차원에서 증명을 내놓았다는 주장이지만, 그 핵심 아이디어가 기존 연구 흐름과 어떻게 연결되는지, 새로운 통찰이 어디까지인지는 인간 수학자들이 재구성하고 설명해야 한다. ETH의 반증은 특정 계산 문제의 시간 복잡도에 관한 가설을 뒤집는 것으로, 원래 가설을 제안한 러셀 임팔리아조와 라마모한 파투리가 검증 그룹에 포함된 점이 의미심장하다. AI가 발견한 알고리즘이 실제로 어떤 실용적 함의를 갖는지, P vs NP 문제와 어떤 관계를 맺는지는 인간의 해석과 추가 연구를 필요로 한다. 물리학 부분의 경우, 쿼크와 글루온의 상호작용을 기술하는 QCD를 포함한 상호작용 양자장론의 수학적 존재 증명은 이론 물리학의 토대와 직결된다. 그러나 자료가 아직 완전히 공개되지 않았고 전문가 그룹이 스스로 재작성하겠다는 태도를 취한 것은, AI가 내놓은 결과물을 그대로 지식으로 수용하지 않겠다는 의지로 읽힌다. 과거 오픈AI가 대량으로 공개한 AI 작성 수학 논문에서 오류와 검증 부담이 지적된 전례도 이 신중함을 뒷받침한다.

이러한 양상은 과학사가 보여 주는 도구의 진화와 연속선상에 있다. 망원경이 관측 범위를 확장했을 때 천문학자들은 관측 결과를 이론으로 통합하는 작업을 인간 손으로 수행했다. 컴퓨터가 수치 계산을 대신했을 때도 물리적 의미의 해석과 모델의 타당성 판단은 인간에게 남았다. 알파폴드가 단백질 구조 예측에서 혁신을 이루고 노벨상을 받은 경우에도, 예측 결과를 실험적으로 검증하고 생물학적 의미를 부여하는 과정은 인간 연구자의 영역이었다. AI는 이전의 도구들보다 훨씬 능동적으로 가설을 생성하고 형식적 증명을 수행할 수 있다는 점에서 질적 도약이지만, 그 도약은 ‘탐색의 자동화’에 가깝지 ‘이해의 자동화’는 아니다. Lean과 같은 형식 검증 도구는 기계적 오류를 걸러내는 데 탁월하지만, “이 증명이 원래 문제의 본질을 제대로 포착했는가”, “이 결과가 다른 미해결 문제와 어떻게 연결되는가”, “이 지식이 어떤 새로운 질문을 열어내는가”를 판단하는 능력은 아직 인간 쪽에 있다. AI의 성과는 인간 지식의 축적—훈련 데이터, 문제 설정, 형식 검증 도구, 검증에 참여하는 전문가 네트워크—위에서 작동한다.

미래 인간과 AI의 공생은 따라서 ‘AI가 풀고, 인간이 검증한다’는 단순한 분업을 넘어, 보다 정교한 상호 강화 관계로 발전할 가능성이 크다. AI는 방대한 탐색 공간에서 인간이 단시간에 도달하기 어려운 후보를 제시하고, 형식적 일관성을 빠르게 점검하는 역할을 맡는다. 인간은 문제의 의미와 우선순위를 설정하고, AI가 내놓은 결과를 비판적으로 재구성하며, 실험·관측·이론적 통합을 통해 그것을 현실 세계와 연결한다. 또한 AI 결과물의 한계와 전제 조건을 명확히 하고, 그 결과가 사회·기술·윤리에 미치는 함의를 성찰하는 역할도 인간의 몫으로 남는다. 오픈AI가 학술적 공적을 추구하지 않고, 원래 가설 제안자나 권위 있는 연구자를 검증 과정에 포함시킨 접근은 이러한 공생의 초기 규범을 실험하는 시도로 볼 수 있다. 이 모델이 정착하면 과학 연구의 속도는 빨라지지만, 지식의 신뢰성과 전수 가능성은 인간이 주도하는 검증·재구성·해석 과정의 질에 좌우된다.

이 공생이 지속 가능하려면 세 가지 조건이 중요하다.

첫째, 검증 인프라의 체계적 확충이다. AI가 생성하는 후보의 양이 기하급수적으로 늘면 인간 전문가의 검증 용량이 병목이 된다. 공개 저장소의 표준화, 형식 검증 도구의 고도화, 검증 작업에 대한 학술적 인정과 재정적 지원이 병행되지 않으면 ‘검증 과부하’가 과학의 속도를 오히려 둔화시킬 수 있다.

둘째, 이해 가능성의 유지다. 블랙박스 결과물이 쌓이면 과학 공동체는 ‘왜 맞는지 모르는 채 맞는 결과’에 의존하게 되고, 이는 장기적으로 이론적 직관과 창의적 질문 능력의 축소를 가져올 위험이 있다. 인간이 AI 결과를 재작성하고 설명하는 과정은 단순한 확인이 아니라, 지식의 전수와 다음 세대 연구자의 성장을 위한 필수 단계다.

셋째, 신뢰와 책임의 제도화다. AI 기업이 문제를 선택하고 결과를 내놓는 과정에서 편향이나 선택적 공개가 발생할 수 있다. 독립적 검증 그룹의 자율성 보장, 자료의 충분한 공개, 결과에 대한 책임 소재의 명확화, 그리고 공개 범위와 시점에 대한 합의된 규범이 정착되어야 한다.

과학은 원래부터 도구의 발전과 함께 진화해 왔다. AI는 그 도구의 다음 단계로 진입하고 있지만, 도구가 아무리 강력해져도 도구가 내놓은 것을 ‘의미 있는 지식’으로 만드는 판단과 통합, 그리고 그 지식이 자연과 사회에 미치는 함의를 성찰하는 일은 여전히 인간의 영역에 남아 있다. 이번 발표가 시사하는 것은 AI가 수십 년 난제에 손을 대는 시대가 도래했다는 점과 동시에, 그 손이 인간의 눈과 머리, 그리고 비판적 공동체와 결합할 때 비로소 과학적 진보가 된다는 점이다.

공생은 이미 시작되었고, 그 질은 우리가 검증과 이해, 책임의 제도를 얼마나 성실하게 설계하느냐에 달려 있다. AI가 인간의 한계를 넘는 순간은 아직 오지 않았다. 다만 인간과 AI가 서로의 한계를 보완하며 함께 한계를 밀어내는 새로운 과학의 단계가 열리고 있을 뿐이다. 그 단계에서 인간이 잃지 말아야 할 것은 속도가 아니라, 왜 그 결과가 중요한지, 그리고 그것이 우리의 세계에 어떤 의미를 갖는지 묻는 능력이다.