数学者コミュニティからAI開発企業に向けて、異例の共同声明が出た。mathandai.org に掲載された「A Severe Misalignment of AI in Mathematics（数学におけるAIの深刻なミスアラインメント）」で、署名にはテレンス・タオ、ピーター・ショルツ、セドリック・ヴィラーニ、森重文ら25名のフィールズ賞受賞者が並ぶ。結論から言うと、この声明はAIの数学能力そのものを否定していない。むしろ「ここ数ヶ月でLLMの数学能力は劇的に向上した」と認めた上で、未解決問題を解かせてベンチマークにする動きが数学という科学を損なうと主張している。Hacker Newsでも取り上げられ、議論を呼んだ。
何が報告されたか
声明の核はこの2文に集約されている。
However, the push by AI companies to solve mathematical problems as a benchmark is detrimental to the science of mathematics, and to the mathematical community. The goals of the AI companies and the goals of the mathematical community are severely misaligned.
（訳：しかし、AI企業が数学の問題をベンチマークとして解こうとする動きは、数学という科学にとっても数学コミュニティにとっても有害である。AI企業の目標と数学コミュニティの目標は、深刻にずれている。）
声明はまず、研究数学を「形・数・自然現象の基本構造を理解する営み」と定義する。何世代もかけて積み上げられた考え方・手法・抽象化の集積があり、現代の技術と科学はその上に建っている。有名な難問は、その風景に対する理解がどれだけ進んだかを測る目印であり灯台だった、というのが声明の立場だ。
重要なのはその先で、問題が解かれると新しい洞察と手法が抽出され、講演・議論・簡略化という長く骨の折れるプロセスを経て、最終的には大学院生や学部生が読める教科書の形に落ちる。一部のアイデアはさらに旅を続け、数十年から数百年後に一般の人々が使う道具になる。声明が守ろうとしているのは、この時間のかかる人的プロセスそのものである。
具体的なポイント
- 問題を解くことは目的ではなく代理指標。一次的な目標は概念的な理解と洞察であり、それを忘れると道具が目的そのものを損なう、と声明は述べる。
- 真偽の言明を高速大量生産すると土壌が壊れる。新しいアイデアに生命を吹き込むどころか、肥沃な地面を破壊しうるという指摘。
- 解決が急いで発表される問題。まともな書き上げ、新手法の切り出し、他者の先行研究の引用をする時間が残らない。
- 帰属と剽窃の問題。これは他のあらゆる創造的職業と同じ構図だと明記されている。
- 人的な伝達の鎖が失われる。AIが生んだアイデアを育て、数学の正典へ統合する意思を持った数学者がいなければ、そのアイデアは完全には生きられない。
- 最も貴重な資源は学生とアイデア。学生に問題を出すのは答えを得るためではなく、研究などで前進できる力を育てるためだと位置づけられている。
- 知的労働一般への脅威。長年の訓練は最終的な答えや成果物を出すためだけでなく、理解と新しい問いを立てる能力を育てるためにあった。AIが人類の過去の蓄積の上でその成果物を直接出せるようになると、両者の目標が一致しなくなる。
Indeed, the mass production at faster and faster pace of "true/false" statements could destroy fertile ground instead of breathing life into new ideas.
（訳：実際、「真か偽か」の言明をますます速いペースで大量生産することは、新しいアイデアに命を吹き込むどころか、肥沃な土壌を破壊しかねない。）
それでも声明はAI不要論には立っていない。AIには本物の数学的な研究と理解を強化し加速する可能性があるとし、数学という職業の側も変化に適応する必要があると認めている。その上で、この変化が分野の利益になるか破壊的に働くかは、この技術を制御する人間たちの判断によって大きく決まると結んでいる。
賛同表明の手順
声明ページには賛同（endorse）の導線がある。ORCIDでサインインするか、所属機関の学術メールアドレスを確認すると、署名がページに反映される仕組みだ。それ以外の細かい要件は声明ページには記載されていない。
まとめ
- 25名のフィールズ賞受賞者が、AI企業のベンチマーク偏重と数学コミュニティの目標の深刻なズレを共同声明として公開した。
- 争点はAIの能力ではなく、問題を解くこと自体が目的化して、理解・帰属・人的な継承という本来の目標が失われる点にある。
- 声明はこれを数学だけの問題とせず、他の科学・創造的職業、そして社会全体が直面する問題の先行例として位置づけている。
実装家視点で言うと、これは数学に限った話に見えて、評価指標を握る側が分野の価値観を書き換えてしまう構図の話だと思う。自動化パイプラインを組むとき、測れる指標（通った本数、スコア、処理時間）を最適化していくと、その指標が本来の代理でしかなかったことを忘れる瞬間が必ず来る。声明が言う「ツールが一次目標に牙を剥く」は、規模こそ違えど自分の手元でも起きていることだ。ベンチマークを設計する側に回ったとき、それが何の代理なのかを書き残しておくくらいしか、いまのところ対抗策を思いつかない。
コメント