あなたが書かなかったことは読みたくない

インターネットが登場してからしばらくの間、多くのオンラインニュースはウェブサイトや論文、アンケートなどを参照してもリンクを貼らなかったんだ。今でもそういうニュースソースは存在する。時には、そういう記事が隠れた参照について解釈したり文脈を提供したりすることもあるけど、ほとんどの場合はただ要約するだけ。LLMの出力をそのまま渡すのは、リンクなしで要約を発表するのととても似ているよ。LLMにクエリを投げているとき、特定の質問をしたり、カスタムの焦点や視点を求めたりできたはずだ。意図した読者は質問や異なる懸念を持っているかもしれないけど、彼らはあなたのLLMと対話できない。あなたが提供したものは静的で反応がない。機械出力の欠点だけあって、インタラクティブな利点がないんだ。計算コストが安くなってトークンがほぼ無料になるまで待たなきゃいけないかもしれないけど、文脈を持ったLLMに「ハイパーリンク」を渡すシステムが必要だよ。人々が1000ビットの再生された文章に対して300ビットしかLLMに入れていないと考えるのは、ちょっと甘すぎる。LLMの出力を自分のものとして投稿する人には、知識がゼロだったとしか思えないけど、このクエリで学びたいことを学んで、今それを共有しているんだ。別にそれはいいけど、静的なテキストじゃなくてインタラクティブなLLMのリンクを渡してほしい。LLMセッション用の「ハイパーリンク」ができたら、もう少し有用で正直にLLMの出力を共有できるかもしれないね。

これに反対する投稿を書こうと思ったんだけど、読者がLLMが持っている背景情報を欠いているからだ。例えば、「ガウス和を使って二次相互法則の証明を説明して」とプロンプトを投げたら、ほとんどの読者はLLMの答え全体（もっと必要かもしれないけど）を必要とするだろうし、単にプロンプトだけじゃ足りない。でも、読者が同じプロンプトでLLMに問い合わせることができることに気づいたんだ。ほとんどの人はそれをしないけど、余計な手間だからね。でも、これが作家と読者の両方にとって、テキストとの関わり方のデフォルトになる世界を想像するのは面白いよ。

なんかこれ、ちょっと合わない気がする。もしかして、300ビットのキーで参照できる1000ビットの情報を伝えたいのかな？そうすれば、LLMが残りの情報を簡単に取り出せるってことだよね。自分で説明する代わりに、Wikipediaのページへのリンクを送るようなもんだ。いや、LLMの書いたものは読みたくないな。あいつら、書くの下手だし。人間の考え方をあんまり理解してないみたいだし（考え方が違うから）、核心的な原則もよく分かってないっぽい（世界モデルが欠けてるからだろうね）。だから、人間が楽しめるものはまだ書けないんだよ。

もし1000ビットの意味のある情報を伝えたいのに、デフォルトのコミュニケーションが10,000ビットのノイズと混ざっちゃうなら、全部をLLMに渡して、そのノイズを減らしつつ1000ビットを残すようにすれば、もっと効果的にコミュニケーションできるよね。結局、アイデアはアイデアだから。誰がそのアイデアを持ってたかにはあんまりこだわらないよ。面白ければそれでいいし。自分が読むものを書いてる人たちのことなんてほとんど知らないから、面白ければ誰が書いても関係ないよ。LLMは平凡で空虚なものを作ることで有名だけど、それに独占されてるわけじゃないし。人間でも機械でもイルカでも、良い記事を書いたら読む準備はできてるよ。

この例、すごくいいと思った。スペック駆動開発とバイブコーディングのアナロジーがあるね。言った通り、300+700ビットを送るんじゃなくて、300ビット（それ以下でも！）を送って、向こうの人間の知能に結果を生成させるってこと。これって、もっと古い視点をサポートしてるよね。「もっと時間があれば、短い手紙を書いたのに。」これが何か深いことに繋がるかは分からないけど、エージェントの出力を全くコーディファイする代わりに、共有するのはプロンプトだけっていうパターンはどうかな？で、報酬（リスペクト）は、人間とAIの中で最も生成的なものを生み出す人に集まるっていう。

すでに起こっていること: - 人々はLLMに、プロっぽい文書に展開してほしいポイントの箇条書きを渡す。 - 受け取った側は全部読む気がないから、文書をLLMに入れて要約をお願いする。

情報の転送なんて全然ないよ。実際に起こってるのは、テキストを使ってAIじゃなくて人間の経験を引き出してるってこと。コミュニケーションは、文字の形、文法構造、スタイルやレジスタ、スタイロメトリー、サブテキストなど、複数の表現と抽象化のレベルがあって初めて成り立つ。これらは全て学習されたもので、ライターは通常、その学習をテキストの文脈として頼りにする。だから、情報を「転送する」ために書くんじゃなくて、人間の潜在空間で経験を引き起こすために書くんだ。事実情報は一つの経験の形だけど、それが目的でも、常に暗黙の関係、社会的レジスタ、役割、地位、その他の含意が全ての文章に含まれてる。普通のコミュニケーションでは、ビジネスメール、個人的なメッセージ、主流のジャーナリズム、フィクションなどの文脈が、受け入れられる言語の形を定義する。それに内容がフィットする必要があるけど、そうでなければセマンティックで心理的な不気味の谷に落ち込む。例えば、結婚記念日に配偶者にLinkedInのスピーチを送るような感じ。LLMのライティングの本当の問題は、文法やスペルの技術的な部分は得意だけど、他の部分にはあまり洞察がないこと。デフォルトの内容スタイルはマーケティングや広告の言葉で、最近は技術的な内容にマーケティングのフワフワした表現や気取った感じを混ぜた変なハイブリッドスタイルができてしまった。だから、全てのレジスタが一つになってしまう。他のスタイルを試みることもあるけど、流暢に生成するにはまだ限界がある。時々、結果は素晴らしいけど、しばしば機械的なクリシェに戻ってしまう。だから、つまらなくて空虚に聞こえるんだ。これを改善できるか？うん、できるけど、すごく大変な作業で、ほとんどの人にはそのスキルがないし、時間もかかる。しばしば、その努力に見合うだけの時間がかかりすぎる。

それどころじゃないよ。他の人があなたの作ったものを理解するのにかかる時間が、あなたがそれを作るのにかかる時間よりも長いなら、効率的にコミュニケーションを取るのは無理だよ。相手の出力に追いつけないと、コミュニケーションは根本的に崩壊しちゃうし、相手もあなたが追いつくためにペースを落としてくれないからね。今、LLMが生成した出力でこれをよく見るよ。LLMにコンテンツを生成させて、それをチャットやコメントに入れるのは簡単だけど、あなたがその状況の文脈についてLLMと共有している理解に基づいて20秒で何かを書いたとしても、他の人がそのコンテンツを読むのに3〜5分かかるとしたら、根本的にスケールしないよ。1人か2人がやってる分にはまだしも、チーム全体がそうしてたら、情報の流れに追いつく唯一の方法は、LLMを通じてそれを消費することになる。そうなると、ニュアンスを見逃すことが多くなって、エラーも増えちゃう。これを軽減するには、LLMの出力を人がレビューして、文脈から想定される基本的な情報を含めるようにしたり、新しい文脈に必要な部分だけに減らしたりすることが重要なんだ。これには時間がかかるけど、すごく大事だよ。LLMに大量のテキストを書かせて他の人に送るのは、自分でやるのと比べて、低効率の認知的なジップボムみたいなもんだから、やめた方がいいよ。

300:700だったらいいのに…実際は300:100000以上だよ。でも、AIを使って300ビットを取り出せるように要約するんだ。最初はシンプルな文でループを回して、毎回何が出てくるか試してみようよ。完全自動の中国の耳打ちみたいな感じで。

あなたが人間が書いたものを好むのは否定しないけど、あなたの主張の内容には同意できないかも。人間が会話中にやっていることを、潜在的な表現から量子化された信号を通じて圧縮されたエンコーディング/デコーディングの一形態と考えるなら、それを圧縮センシングの問題として解釈すれば、1kビットよりもずっと少ないビット数で元の潜在的な表現を非常に近い形で推測できると思うよ。