衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
面对近期AI大厂推进数学研究的方式，连一向与AI为善的陶哲轩都坐不住了。
刚刚，陶哲轩、邓煜等25位菲尔兹奖得主联合发起并作为首批签署人，发布了一份声明表示：AI公司推进数学的方式，已经与数学共同体的目标出现“severe misalignment（严重偏移）”。
因鉴于近期AI急剧发展对数学领域带来的冲击极为严峻，发起人未走流程繁琐的协商程序，而是选择紧急公开发布，以尽快回应危机。
过去几个月，大语言模型的数学能力急剧提升，已经能解决多个数学领域中重大的未决问题；但AI公司越来越倾向于把解决数学问题当作benchmark来推进的做法，对数学这门科学、对数学共同体都是有害的。
AI公司的目标与数学共同体的目标严重错位。我们认为，这属于更广泛的错位问题的一部分，影响着其他科学与创意职业，乃至整个社会。
回顾过去半年，AI在解决数学难题方面频频取得了突破性进展——
5月，OpenAI内部模型给出Erdős单位距离猜想反例。7月，Claude参与推翻Jacobian conjecture。9月初，GPT-6 Astra在孪生素数猜想方向上取得了新进展，用Lean形式化证明把连续素数间距的上界从246推到了186。本周，OpenAI用1万个Agent跑了88小时，拿出Navier-Stokes证明，并由此引发出一场涉及OpenAI、Anthropic和两位数学家之间的罗生门事件。单纯从数学进展来说，这无疑是好事。
但无可否认，由此还带来的一系列冲击和影响。
本周关于Navier-Stokes的实践更是成为直接导火索，促使25位菲尔兹奖得主在过去一周紧急商议，并迅速发表此联名公开信。
声明全文：https://mathandai.org/
首先要说明，这份声明并不是呼吁or要求停止AI，或停止用AI来主导/辅助数学研究工作，也没有否认AI取得的这些成果。
他们的核心担忧集中在下面三个方面：
第一，AI解题速度开始超过数学共同体消化知识的速度。
第二，AI公司追求benchmark成绩，数学界追求方法、理解和知识传承，两套评价体系开始分叉。
第三，当AI能快速完成开放问题后，数学研究的优先权、人才培养和开放文化都需要重新定规则。
avier-Stokes争议暴露出无数个对AI与数学的灵魂拷问几日前，OpenAI宣布用1万个Agent跑了88小时，解决Navier-Stokes（构造平滑外力使流体有限时间爆破，符合克雷题面C、D情形）这一千禧年难题，而后引发了一场连环抓马，将纽约大学数学家Tristan Buckmaster和Anthropic研究员Levent Alpöge这两名人类一同裹挟进舆论场。
（故事具体详情可见：《难评！OpenAI刚官宣的NS方程大突破，被数学家手撕了》）
事件引发的争议，每一点都直击灵魂：
一个研究者在AI工具里输入的Prompt，算不算未发表研究材料？
模型公司是否在得知数学家研究思路和进展的前提下，利用上万Agent暴力破题，抢跑成果？
OpenAI提出的解决方案中，要求将Anthropic员工Alpöge排除在作者名单之外，是否违背数学研究精神、规则和常理常情？
顶尖模型接受过相关用户数据，那么怎么证明顶尖模型给出的数学证明成果是AI独立产生的？
AI把“证明”做出来以后，谁负责把它变成人能理解的数学？
AI声明暴力破解数学难题，并署名为个模成果，但后续一系列验证问题却要丢给人类数学家，这其中的各个环节是否合理？
……
此外，事件很快造成了数学界对大厂后台监控Prompt数据、窃取灵感并凭算力霸权抢跑截胡的强烈恐慌。
原本极度提倡开源共享的数学界濒临陷入寒蝉效应，研究者犹豫是否还能向对话框透露半成品思路。
大家会不会被迫从开放协作走向防御性闭门造车，造成学术生态的严重倒退？
这些问题错综复杂，相关问题越探讨越多，越探讨越说不明白，以至于相关争议愈演愈烈。
总而言之，抓马事件引发的警示，以及余波带来的惊慌无措，说不完，也说不清。
大家爱玩的《三体》梗之一，是“不要回答，不要回答，不要回答”。
现在，所有困惑、担忧和揪心的点，只能化为一句——
无法回答，谁能回答，到底该如何回答？
25位菲尔兹奖得主联合声明的重点数学这门科学的意义，不只是解题、证明与寻找新方法
声明中首先表明了数学家眼中的数学、数学问题、数学证明和数学研究等，原本应该是什么样的。
在数学家看来，一个著名数学问题长期以来更像一个地标和灯塔（landmark and lighthouse）。
数学家通过解决它来检验，人类对于某一片数学领域究竟理解到了什么程度。
因此，一道重大问题被解决之后，研究工作通常还会继续很久。
数学共同体需要理解新的证明、识别其中出现的新方法，把这些方法与已有知识连接起来，再通过报告、讨论、简化等过程逐渐消化。
最终，理想状态是把成果整理成研究生甚至本科生都可以学习的教材知识。
而且，有些数学思想还会继续传播几十年甚至几百年，最后变成普通人都能够理解和使用的工具。
solving problems is only a tool and proxy。
因此，求解问题仅是实现数学研究目标的一类工具与代理指标，数学研究更为重要的追求是概念理解与洞见（conceptual understanding and insight）。
一个好的问题既能训练研究者，也能指引研究方向、催生新方法，还能吸引众多数学家围绕它，逐步构建起相关的认知体系。
现状：AI商业目标与数学学科本质严重错位如上所述，声明中表示数学的核心在于深入理解基本结构、获取概念洞察（Insight&Understanding）与提炼方法，解决难题只是实现该目标的手段与载体。
然而，商业公司仅将“解决数学难题”作为衡量和推介大模型能力的Benchmark，功利化推进，忽略“理解”这一首要目标，以极快节奏批量生产“True/False”（真/假）断言。
顶尖数学家们无法不重视的三方面担忧乍一看，用Scaling Law类似的暴力美学来推进数学进展，的确攻克了前人暂未解决的难题，而且是以闪电般的速度。
但声明表示，“（这）非但不能孕育新思想，反而会破坏数学研究的土壤。”
声明中呈现了人类顶尖数学家们的更多隐忧。我们梳理归类了一下，大约可以划分为三个方面。
一个方面关于流程、合规。
1、 AI生成的解决方案往往在匆忙中向媒体宣布，未留出时间撰写严谨规范的论文。
2、AI及其背后的机构，缺乏对前人相关工作（Prior Work）的妥善引用与归因，引发了严重的学术署名与潜在的剽窃（Plagiarism）争议。
另一方面，围绕“数学开放问题被快速耗尽，却无法如解决一般快地去补充”这件事。
1、随着AI以暴力搜索和极速推理的节奏批量解决（或给出反例）各大领域悬置已久的开放问题，如果只是为了消灭问题而消灭问题，那么只是对开放问题的“功利性耗尽”。
2、然而目前AI缺乏“向前探索（Forwards Exploration）”的能力，即无法敏锐地感知数学地貌，提出具有深远价值的“新开放问题”。
3、作为地标的存量开放问题正在被AI迅速消耗和填平，它又不能提出新开放问题，这……？
最后一方面，关乎对数学育人模式和传递知识作用的摧毁。
1、多年的学术训练不仅是为了产出最终答案，更是为了培养人类“深入理解”与“提出新问题”的能力。AI 直接输出结果的方式破坏了这种训练。
2、数学的发展高度依赖人类社区通过报告、讨论、简化，并最终将其整合进教材与教学中的消化过程。如果没有人类数学家愿意接手并将AI构想出的想法整合进数学正典，这些想法将无法真正活起来。
换句话说，代际之间关键的人类知识传递链（Human Transmission Chain）将会断裂。
声明最后还写了这么一段话：
这些问题必须紧急解决，数学界、开发这些技术的公司以及更广泛的社会都必须重视这些问题，因为在许多其他形式的智力工作中，社会也将面临类似的问题。
署名的首批25位菲尔兹奖得主有哪些？声明最后附上了署名的25位菲尔兹奖得主的名单。
这份名单横跨代数几何、数论、动力系统、概率、PDE、数学物理，覆盖近半个世纪数学最核心突破。
其中大多数人最熟悉的名字，应该是陶哲轩和今年刚刚拿下菲尔兹奖的邓煜。
而恰恰这两人之前对用AI来推进数学研究，都持比较开放的态度。
陶哲轩几乎是这一波AI浪潮里第一波积极上手使用AI帮助个人研究的数学家，甚至可以称之为积极倡导AI辅助科研的领军者。
他把AI视为卓越的“研究助理”。
在他看来，AI在代码生成、文献检索以及借助Lean等工具进行形式化证明验证方面表现优异，能够大幅帮学者承担繁重、套路化的辅助工作，从而提升整体科研效率。
不过，他始终对“AI神话”保持高度清醒，坚决反对将其过度神圣化。随着AI技术进展，他的关切也逐步延伸至学术伦理与规则建设。
今年获得菲尔兹奖后，邓煜在接受多家媒体专访时也谈论过对于AI的态度。
邓煜透露自己日常会使用AI辅助科研（如借助AI验证特例、查找文献或核验局部逻辑）；面对当前的AI热潮，他直言相比于直接去用AI，更关心AI底层的数学基础。
此外，邓煜认为AI改变了传统数学问题的解决门槛（许多因精力限制而被搁置的高难度技术细节得以被加速攻克），未来三四年数学界很可能进入快速发展期。
他相信“未来数学家与AI将走向人机协作”。
仅在一周前，邓煜在朋友圈写的一段话还被广泛流传。
相信那时候的他，对AI之于数学的心态，与几天之后签署声明时大有不同了。
一切发展得太快，一切都太过急迫。
One More Thing这份重磅声明之前，今年6月，有一份《莱顿人工智能与数学宣言》发布。
该宣言呼吁采取行动应对AI在数学研究中的应用，呼吁建立规范，让AI作为辅助工具，保护数学作为人类智力活动的核心价值。
宣言由来自10国约60位数学家、计算机科学家、学者参与，由6人组成工作组，历时8个月起草。当时，就得到国际数学联盟IMU背书，大量数学家（含陶哲轩、Peter Scholze等菲尔兹奖得主）公开支持签署。
3个月后的今天，25名菲尔兹奖得主发布联合声明。
参考链接：
https://www.techmeme.com/260911/p27#a260911p27
https://mathandai.org/
https://mathstodon.xyz/@tao/117253629967855195
— 完 —
量子位 QbitAI · 头条
关注我们，第一时间获知前沿科技动态号
深富策略提示：文章来自网络，不代表本站观点。
