LLMボイス

社会的な生き物としての一面を考えると、自分以外の脳が生み出す自然言語のエントロピーやサプライズに惹かれるのも分かるな。誰かの言語出力を正確にモデル化できなくても、共通の理解を得るのが会話の本質みたいなもんだと思う。これがLLM生成のテキストに欠けてる重要な要素かもしれない。実際にコンテンツがあっても、その伝え方にサプライズや不確実性が欠けてるから、興味を持ち続けるのが難しいんだよね。何が伝えられるかは分からなくても、どう伝えられるかが分かりすぎると、興味が失われちゃう。

その気持ち分かるよ。最新のモデルは確かに「良くなってる」けど、生成される文章にはまだ何か違和感がある。明らかな特徴はほとんど消えたけど、なんか内部の感覚がまだ警戒心を抱かせるんだよね。

私のお気に入りのルールの一つ：完璧は、何も追加するものがないときではなく、何も取り除くものがないときに達成される。これは文章にとって非常に貴重だよ。LLMからのテキストは、余分な部分が多すぎて、数文で同じことが言えたんじゃないかと思う。文章は思考と密接に結びついている：考えや議論、アイデアを洗練させて、捨てたり、考え直したりする。LLMのテキストは、いつもこの厄介な疑問を私の中に呼び起こす：あなたが考えていることを読んでいるのか、それともあなたのエージェントが返したものを受け入れているのか。

「その情報密度はしばしば本当に低い」 それが単に低すぎるだけでなく、同時に高すぎることもあると思う。関連性のない情報が多すぎて、必要な情報がほとんど埋もれてしまっている。これは注意メカニズムの副作用かもしれないね。AIが文書内の情報を追跡する能力は、他の情報によってあまり妨げられないから、情報を言葉ごとに密に整理する一方で、特定の概念が文章全体にまばらに広がっているのかも。順序が変だと感じるのも、AIは人間ほど情報をきちんと整理する必要がないから、文書に保存する際に情報の順序が見落とされがちだからかもしれない。

「攻撃的にAI推進派」ってどういうこと？そんな概念は初めて聞いたよ。

平均への回帰が部分的に影響してると思う。もし長文ジャーナリズムやニューヨーカーの声だけを基にモデルを作ったら、記事のテンプレート構造や文法、構文を含めて、そのパターンを再現することになる。高い語彙のラップでも同じことができるよ。英語や人間の思考を均等に詰め込むと、スタイルやエレガンス、個性が欠ける結果になる。もう一つの問題は、文章は線形に進まないことが多いってこと。最初と最後を書いて、間を埋めたり、編集したり、修正したりする。どこに向かってるかはなんとなくわかっていて、そこに到達するための決定を下せる。言語モデルは、パスを実行するように再設計されるといいかも。何かのテンプレートを選んで、マッドリブを埋めて、詳細なパスを実行して、説得力や感情のパスを実行して、スタイルのパスを実行する。今のモデルの文章は、自動補完のように聞こえるよ。

統計的予測誤差を最小化するように訓練されたモデルは、予測可能（つまり退屈）に聞こえるだろうね。良い人間の著者は、文章を面白く保とうとするけど、LLMは予測可能さを目指している。内容を予測するだけでなく、反応の形や形式も予測していて、RLHFの好みに強く影響されているみたいで、長文の反応を促進する傾向がある。そのため、必要な分量を生成するためにフィラーで埋める必要がある。これらのモデルのほとんどは、質問を長文で権威的または包括的に聞こえるように解釈するように訓練されているみたいで、短い会話を始めることができず、会話をうまく進めることができない。どうやらMuseはこの点でずっと良いらしいけど、今のところ私はMetaやFacebookのサービスにサインアップするのを避けていて、この勝利のストリークを壊す気はないよ！

こういうのって「AIに積極的に賛成」っていうのと矛盾しない？ > 最近の読書がどれだけひどいか > AI生成のコンテンツで溢れていて、全部ひどい > すべてが同じように聞こえて、支離滅裂な混乱になってる。AIの利点は分かるし、技術を使うのも楽しんでるけど、みんなが言ってるように、今の「コンテンツ」に大混乱を引き起こしてるよね。良いことには悪いこともあるってことかな。

あなたには「AIに積極的に賛成」するための個人的な金銭的または他のインセンティブがあるの？

ちょっとイラッとするのは、すべてを盛り上げようとする試みだね。（「XじゃなくてYだよ」）みたいな。リアクションバッジコンポーネントなんだから、盛り上げる必要なんてないのに。殺人ミステリーで決定的な証拠を見つけたわけじゃなくて、ただCSSルールが間違っていただけなのに。