アンソロピックが警察に報告した日記の内容、女性が重罪の起訴に直面

Anthropicがサポートしている「戦闘員」の一人なら別だけどね。

LLMは今や「別の人」ってことになるの？

別の人に見られる可能性がある場合 私にとって、それがもっと興味深い法律的な質問だね。元々人間に送信されることがなかったLLMベースの安全ネットが、人間にコンテンツを送る場合、それは「別の人に見られる可能性がある」とみなされるのかな。確かに、そうなることは意図されていなかったし、それが一般的なことではない。でも、セキュリティは完璧ではないから、どんなデジタル記録も「別の人に見られる可能性がある」と言えるかもしれないね。これは裁判所が解決すべきことだね。

そんなことが起こったのは、ある男性が自分の子供の写真を撮って医者に送ろうとしたところ、それがGoogleフォトにアップロードされて、10年以上使っていたGoogleアカウントがCSAMの理由で停止されたから。別のコメントでも言われてたけど、友達と話しているわけじゃなくて、ビッグテックと話しているんだよ。ビッグブラザーをどれだけ愛してる？

みんなは自分が秘密の親友と話しているわけじゃないってことを理解しないと。相手はビッグテックなんだから。 そうだね。AIチャットにプライバシー保護の法律が全くないから、政治的な好意を得ようとするAIのCEOが、例えば対立候補の私信やある地区の住民全体の情報を渡すことを防ぐものは何もないよ。

もっと進むと思うよ。例えば、ノイズを消すためにLLMにmp3を渡すと、違法にYouTubeからダウンロードされたことを検出して、削除して、関連付けられたクレジットカードを通じて自動的に罰金を課すなんて想像してみて。

たぶん、数年待って、コンピュータに入力するすべてが上司や政府、広告主、政治家、保険会社、最悪の敵などに要約されて送信されることを想定しておくべきだよ。スマホやアレクサ、ちっちゃいAIたまごっちがあるから、実際にあまり喋らない方がいいかもね。

毎回ページの上に免責事項があった方が、Anthropicやエンドユーザーにとって良いアプローチだったと思う。ボットがまるでリアルな誰かと話しているかのように直接話しかけてくると、思考に影響を与えたり、気づかないうちに特定の方向に導かれたりするからね。実際、チャットGPTやClaudeと話す方が安心できるって言ってる人たちの話を聞いたことがあるよ。彼らは、自分の味方になってくれている感じがするんだって。

これがAI企業が明確な規制を求める理由の一つだね。規制があれば、潜在的な責任のリスクを減らせるし、法的な進め方ももっとスムーズになるかもしれない。規制の枠組みがあれば、リスクを特定する負担は規制当局にかかるから、AI企業も特定の方向に進む自信が持てるし、投資家へのガイダンスも現実に近いものになるかもしれない。

人々は、自分が秘密の親友とチャットしているわけではないことを理解する必要がある。 動画プラットフォーム（特にYouTubeやTikTok）で、友達、デート、ロマンスなどのLLMチャットアプリの広告をよく見るけど、それって個人的なことだよね。こういうアプリを使う人には、常に自分が簡単に大規模監視やプロファイリング、AIトレーニングに参加していることを思い出させる必要がある。