AIによる死

いや、これは完全にAIの概要の問題だよ。最初はGoogleが検索クエリに最も合う結果を上に表示して、リンクをクリックすれば質問に答えてるか確認できたんだ。でも今は、AIの要約が上に来ることが多い。AIの要約LLMは、明らかにすごく速くて、すごくバカなLLMで、すべての検索結果に対してウェブページのテキストを使って運用するには安すぎるんだ。それは製品の決定で、非常に悪い選択だったね。今「Suicide Squad」で検索すると、>「suide side squad」というフレーズは「Suicide Squad」のスペルミスのようですって出てくる。

もしダーブ・バリーについてドーチェスターで聞いてたら、正確だったよ。

Googleに対して一番不満だったのは、Javaのドキュメントを（クラス名で）検索したときに、1.4のバージョンがデフォルトで表示されて、6のバージョンが出てこなかったことを覚えてる。

これはGoogleの問題だね。Googleは時々不正確な情報を表示することがあって、それを修正する方法はほとんどないんだ。確かに、修正する方法はあるよ。それはHNのトップページに問題を載せることさ。

Googleマップの自動コンテンツは本当にひどいよね。超プライベートなカントリークラブ？じゃあ、カートパスを全て自転車道としてマークしちゃおう。墓地？それも自転車道。オフィスビルと駐車場の間にあるランダムな歩道と草？信じられないかもしれないけど、それも自転車道なんだ。

これはAIの概要だけの問題じゃないと思う。Googleの問題だよ。Googleは時々不正確な情報を表示することがあって、修正する方法はほとんどないんだ。まあ、この場合、不正確な情報が表示されるのは、AIの概要が二人の異なる人の情報を混ぜ合わせているからで、情報源が間違っているわけじゃないんだ。従来の検索では、どのウェブページも二人のうちの一人について話していて、その人に関する情報だけが含まれているはずなんだ。だから、この問題はAIの概要特有のものだと言えるね。

Googleは、個々の正確さを優先するインセンティブがあんまりないよね。コンテンツの量が多いから、スケールの裏に隠れやすいし。

正直、もし「デイブ・バリーは2016年に亡くなったと思われていたが、実は生きていると明らかにし、議論が続いている」とか言ってたら、全然驚かないな。

今さっき受け取ったAIの概要がこれだよ: > ユーモリストのデイブ・バリーがAIの概要で一時的に「死亡」したっていう事件があって、その後訂正されたんだ。デイブ・バリーのサブスタックによると、AIは最初に彼を亡くなったと報告して、その後生きてるって言って、また亡くなったってなって、最後にはまた生きてるってなったらしい。この出来事は、AIが事実情報に関してどれだけ信頼できないかを示してるね。