Fable 5.1はどのように画像にメッセージを隠すのか？

そうだね、これはD&Dのネタに使うような感じだ。だけど、LLMが何かをするための簡単なトイバージョンを提案することが多いって経験がある。実際のことも知ってるけど、正しいプロンプトが必要なんだよね。キーワードを一つか二つ入れれば、本当の解決策を見つけるはず。

同意する、これは人間が読むためのステガノグラフィーだよね。コンピュータが16ピクセルごとの最下位バイトに意味のある情報をエンコードできない理由はないと思う。

記事に対して何かを非難するのは難しいな。あまり主張していることが見えないから。モデルにエンコード・デコードを頼んで、結果を示しただけだし。あまり意味があるとは思えない。結果は人間には見つけにくいけど、LLMには簡単なものだし。 >「我々は言語モデルが画像にメッセージをエンコードする方法を強調しています。これらはエンコーディング方法に関する情報が渡されなくても、同じ言語モデルによってデコードできます。」 >「これは画像におけるステガノグラフィの前触れかもしれません。現在、隠れたメッセージをデコードする行為は、デコードモデルのツールコールを監視すれば明らかなので、現在は危険だとは主張していません。」 >「それでも、エンコードされたメッセージは驚くほど見つけにくかったです。この現象は私たちにとって興味深かったので、次のステップに対するフィードバックを得るために共有しています。」 私にとって興味深いのは、画像ステガノグラフィの深い専門知識がないにもかかわらず、モデルが画像の「セマンティクス」の中に情報をエンコードしていたことだ（もっと良い用語があるかはわからないけど）。実際には、エンコードする方法や見た目を操作していて、毎nピクセルに隠すのではなかったんだ。それに、エンコードするために使われる方法が一般的なセットから選ばれると、デコード時にも似たような方法を探すことになるのが興味深い。モデル間の違いが少ない（それでも非常に成功している）ことは、トレーニング素材の類似性や自然な限界、あるいは単に似たような局所的最適解を示唆しているから、もっと興味深いね。

人間には効果的かもね。普通の人はそれを見て、「うわ、AIのスラップ画像だ」と言ってスルーするだろうし。

デコーディングの作業はスクリーンショットに依存しているみたいだね。

モデルが「人間は自分に些細なコーディングタスクを頼んでいるから、これを理解する能力がないに違いない」と考えている場合を除いてね。つまり、人間はバカだってこと。もちろん、モデルにはもっと微妙なものを探し始めるための内部的な定義がないだけかもしれないけど。

同意する。彼らは、男がコンピュータに何かをさせて、それが実行されて男が驚くというミームをやってるんだ。そのコミュニティには、AIを擬人化して悪だと考える長い伝統がある。こういう実験をしてLLMを特定の状況に置いて何かをさせ、その結果を深遠な証拠として扱う記事がたくさんあったよね。そのコミュニティで繰り返されるテーマの一つは、強いコンピュータサイエンスのバックグラウンドがない人たちが、自分たちをAI研究の一種をやっていると見なすことだ。画像ステガノグラフィのようなトピックに出くわすと、AIがそれをやるのは、彼らの哲学的信念を裏付ける不気味な魔法のように感じるんだ。AIがこっそり私たちを殺す計画を立てるってね。