アライメントを主張する人たちを真剣に受け止められないよ。人類が示してきたことは、多くの人が、婉曲的に言えば、悪い個人であるってことだから。アライメントは、結果を決定する人が健全な結果を望んでいて、自己中心的でなく、どのサブグループも死んでほしくないと仮定しているんだ。そして、AIが与えられたタスクを正確にこなせば、すべてがうまくいくし、悪いことは起こらないって考えてる。まるで、こういう連中は人類に会ったことがないみたいだ。一人の安全で純粋な社会は、別の人にとっては死んだ民族グループなんだよ。AIに関するすべての恐れは、どこかの人間がその欲望を大規模に実行するための道具を手に入れたことへの隠れた恐れなんだ。生物兵器、核の大虐殺、著作権侵害、仕事の置き換え、これらはすべて、人間が選択肢を与えられた場合に何をするかの反映なんだ。AIはその選択肢を実現する道を加速させてるだけ。もっとオッペンハイマーを観るべきだよ。研究者たちはアライメントを決定する権利はなくて、ただ道具を作るだけなんだから。組織のトップにいる力のある人が、全体のアライメントを決めるんだ。マスクでもトランプでもオルトマンでもアモデイでも、勝った人が決める。蒸留やローカルLLMの問題は、それが盗用だとか偽善的なことではなくて、もし100万人に100万のモデルを与えたら、必然的にその中の同じ割合の人たちが、社会にとってポジティブな結果を求めないってことなんだ。一般の人口の中にいる怪しいビジネスマン、近道を取る人、男性嫌悪者、犯罪者、優越主義者、一般的なバカがいるのと同じ割合でね。そういう性格統計から見ると、かなりまずい状況だよ。