世界を動かす技術を、日本語で。

OpenAIが主張する高速フーリエ変換を計算する数学の考察

2026年10月13日原文(argmin.net)

概要

  • OpenAI による「より高速なフーリエ変換」アルゴリズムの主張
  • FFT (Fast Fourier Transform)と計算量理論の基礎解説
  • ビッグO記法 と「銀河系アルゴリズム」の問題点
  • 理論と実際の計算機との 乖離 の批判
  • AI時代における 理論計算機科学 の現状と課題

OpenAIの「より速いフーリエ変換」主張の考察

  • OpenAI が公開した数学リポジトリで、「従来より高速なフーリエ変換(FFT)」を主張
  • FFT はデジタル信号処理で最重要級のアルゴリズム
    • 信号の周波数成分抽出、フィルタリング、スペクトル操作の高速化
  • 通常の離散フーリエ変換(DFT)は n^2 回の演算が必要
    • FFT は再帰的手法で O(n log n) に高速化
  • 入力サイズnが大きい場合、劇的な速度向上を実現
    • n=1,000,000なら従来比で 1万倍以上の高速化

ビッグO記法と「銀河系アルゴリズム」

  • ビッグO記法 は計算量の上限を定性的に示す記法
    • 実際の定数や閾値は無視されがち
  • O(n) でも、隠れた定数が巨大なら実用性は皆無
    • 例: C=10^80なら「線形時間」でも現実的に実行不可能
  • Richard Lipton と Ken Regan による「銀河系アルゴリズム」概念
    • 隠れ定数が宇宙規模で実用性ゼロのアルゴリズムへの皮肉

OpenAIのFFTアルゴリズムの実態

  • OpenAIの新FFTは 理論上 Cooley-Tukey法より漸近的に速い
    • しかし、隠れ定数が 10^100 など実用範囲外
    • 実際には既存FFTの方が圧倒的に高速
  • 計算モデルが非現実的
    • 無限精度の複素数演算を仮定
    • 入力サイズに対して指数関数的なメモリが必要
    • 現実の計算機では実装不可能

理論と現実の乖離

  • Jacques Morgenstern (1973年)や Nir Ailon (2013年)による理論的限界の証明
    • 有界係数や数値安定性を考慮すれば、 n log n より速いFFTは困難
  • OpenAIの主張は 形式主義の暴走 の一例
    • 計算機科学理論が「現実の計算機」から乖離
    • 問題設定自体が現実と乖離した「数学的パズル」化

コンピュータ科学理論界隈の文化的問題

  • STOC や FOCS など理論会議の論文は、実装や現実的な実行を重視しない傾向
    • 「アルゴリズムが存在する」ことだけを主張し、実際の動作は問わない
    • 理論計算機科学が実用性から遊離した純粋数学化
  • AIはこの悪習を増幅
    • AI生成論文が「中身のない理論」量産を助長
    • コミュニティ全体で「実用性」や「現実との接続」を再考すべきタイミング

結論と今後の課題

  • OpenAIの「高速FFT」論文は、実用的なブレイクスルーではなく 理論的珍事
  • ビッグO記法 の乱用、モデル仮定の非現実性、理論と実装の乖離が顕著
  • 理論計算機科学界隈は、 現実の計算機 との接続や実用性への回帰が必要
  • AI時代には、 実用性と理論 のバランスを再考する重要性

Hackerたちの意見

これはちょっとひどい意見だね。「スロポジトリ」って新しい言葉は初めて聞いたけど、著者が理論家に対して悪意を持っているのはちょっと問題だと思う。STOCやFOCS、SODAなんかは「実用的なアルゴリズム」をやってるわけじゃないからね。そういうのが見たいなら、ESAやALENEX、VLDB/SIGMODみたいなもっと応用的な場に行くべきだよ。実験をしないからって理論を批判するのはフェアじゃないと思う。彼らは数学者なんだから、ビッグOにおかしな定数があっても、定数なら全然問題ないよ。追記:ベンがかっこいいと思いながらも、こういう意見を持つことはできるからね。

└

アルゴリズム理論家が実用的なパフォーマンスを気にしないなら、なんで私たちが彼らのやってることを気にする必要があるの?ただの変なゲームをしてるだけで、他の誰にも興味がないよね。もっと「銀河的」なアルゴリズムを考えるよりも、ビッグOをもっと利用されにくいものに置き換えて、理論家たちにそのゲームをやらせる方が有用かもしれない。

└

「悪意がある」ってのは言い過ぎだけど、「悪用」ってのは完全に妥当だと思う。実用性が全くない理論は意味がないし、物理システムでは実装不可能な任意精度の算術を必要とする計算の複雑性の結果は、まさにそれに当てはまる。

└

理論家として、銀河定数には「興味がない」ってのはちょっと本当かも。哲学的な理由で計算の構造に興味があるんだ。でも、計算モデルには本当に関心がある。別の言い方をすると、ビッグOの中の定数は本当に定数じゃなくて、定数時間の操作として仮定するものに依存してるんだよね。

└

全部読んでみると、すごく納得できるよ。これは、アルゴリズムの漸近的複雑性を測る方法がしっかりしてないことを同時にバカにしてるんだ。要するに、時間計算量の計算は定数値を無視してる。だから、アルゴリズムAが何かをするのに10^10 + n回の反復が必要で、Bがn^2の場合、理論上はBの方が悪いってことになる。だってn < n^2だから。でも実際には、Aの最初の反復が役に立つまでにすごく長い時間待たされることになる。つまり、時間計算量はアルゴリズムが最初の反復を超えてどれだけスケールするかを示してるけど、宇宙の終わりまで待たないと始められないかもしれないってことは教えてくれないんだ。

└

悪意 >クソみたいなこと これって数学を議論するには生産的でも面白くもない方法だと思う。

先週のバナー計算複雑性結果の計算モデルが「正確な複素算術」だとは気づかなかった。これや「正確な実数算術」は、この分野の論文で一般的な前提なの?私の外部者としての仮定は、みんながチューリングマシンに相当するものを気にしていると思ってたんだけど。編集:私が「相当するもの」と言っているのは、実際には整数を操作するユニバーサルレジスタマシンのことを指している。

└

いいえ、チューリングマシンをモデルとして使うのは珍しいことです。

└

複雑性理論でチューリングマシンを使う人はほとんどいないよ。せいぜいP対NPみたいな話で使うくらい。チューリングマシンはレジスタマシンよりも「ほんの少し」多項式的に遅いから、あまり関係ないんだ。でも、実際のコンピュータに似たものの線形対二次の話をする時には、チューリングマシンは間違ったモデルだよ。

└

チューリングマシンは計算可能性には良いけど、複雑性にはあまり向いてないね。

└

こういうのは結構一般的だよ(例えば、https://en.wikipedia.org/wiki/Blum%E2%80%93Shub%E2%80%93Smal...を見てみて)。もちろん、実際にこれらをどう表現するかを扱う数値解析という非常に豊かな分野もあるけど、こういう前提を持つのはスタート地点としては普通だと思うよ。

現在、境界を改善するための取り組みが進行中だよ。彼らは約0.001635527380375392のかなり大きなカッパに達したみたい。 https://github.com/CrocSwap/integer-mult-bounds

Hacker Newsで議論の続きを見る