本文へ
ハクソク

世界を動かす技術を、日本語で。

ラリー・エリソン：「市民は録音されているので、最良の行動をとるだろう」

元記事: 原文(techradar.com)

概要

  • Oracle共同創業者Larry Ellisonが AIと監視社会の未来 について警鐘
  • AIが リアルタイム映像解析 を通じて社会行動に影響を与える可能性
  • 監視技術の進化が 市民の行動変容 を引き起こす懸念
  • George Orwellの『1984年』に類似した ディストピア的未来像
  • 企業や政府による AI利用の監視強化 が進行中

Larry Ellisonが語る監視社会の到来

  • Oracle共同創業者 でCTOのLarry Ellisonによる将来予測
  • 2024年9月のOracle財務アナリスト会議での 質疑応答セッション
  • AIやドローン、監視システム の台頭に言及
  • ストリート、車両、玄関、警察官などに設置された カメラの爆発的増加
  • AIが 膨大な映像データ をリアルタイムで解析し、自動的に問題を報告
  • AIの普及によって市民は 行動を無意識に調整 するようになる可能性
  • George Orwellの小説『Nineteen Eighty-Four』における ビッグブラザー的世界観 との類似性

AI監視社会への懸念と現状

  • AIによる監視への 反発運動と研究 の拡大
  • 米国国土安全保障省（DHS）が AIでSNS監視・要約 を行う事例
  • 大手企業による 職場監視 の進行
    • Meta CEOのMark Zuckerbergが 社員の行動解析 にAIを利用していると認める
    • クリックやキーストロークのトラッキングによる データ収集
  • ここ数十年の 監視強化の流れ が続く中、Ellisonは 新技術が監視社会を加速 させることを懸念

まとめ：AIと監視社会の未来像

  • AI技術の進化が 個人のプライバシーと自由 に与える影響
  • 企業や政府による 監視の高度化 と市民生活への波及
  • テクノロジーの進歩に伴う 倫理的・社会的課題 の重要性
  • 監視社会に対する 市民の意識変化と対応策 の必要性

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

もちろん、最も良い行動っていうのは、権力者たちにとって全く脅威にならない行動だよね。なんて素晴らしい未来が待ってるんだ、仲間たちよ。

└

それは主観的な意見だね。子供の頃、私の「良い行動」には、法執行機関を襲ったり、議会の壁に糞を塗りたくることは含まれてなかったけど、今ではその行動が受け入れられて、公式に称賛されることもあるんだよね。

└

それが今、中国で起こってることだね。

└

もちろん、録画は権力者を脅かす人々に対して使われるけど、権力者は沈黙の中にいる。昔から変わらないよ。権力は他の人を黙らせるんだ。これは協調行動の問題から来てる。非対称な法執行の基盤であり、専制政治の礎でもある。表面的には「法の支配」で支配されている社会でもね。新しいのは、権力の手綱がどれだけ集中しているかってこと。逆説的に、これが大きな不安定の時代を引き起こすかもしれない。「四人の皇帝の年」だね。

HBOの「ウエストワールド」の後半のシーズンを最後まで見た人は、エリソンが描いてる世界の信じられないほどリアルな見方を得られたと思う。しかも、その時期は必要なコンピュータ技術の多くがまだSFみたいに思えた頃だったし。アーロン・ポールのキャラクターが10年前にダイナーで母親と交わしたランダムな会話を、機械知能が録音して保存していたってアイデアには、ちょっと笑っちゃったのを覚えてる。プライバシーの熱心な支持者ではなかったけど、大きな政治的行動がない限り、パノプティコンが包括的で実行可能、しかも安価に出現するのは避けられない気がする。

└

つまり、遠隔でしか参加できない親戚とのミーティングを作らなかったってこと？それに参加できなかった親戚のために文字起こしもしなかったの？びっくりだわ /j

ラリーはいい例になって、すべてのコミュニケーションを公開すべきだよ。彼は常に「良い行動」をしてると思うし。

└

たとえ彼がやったとしても、エプスタインの連中はすでに何でも逃げ切れるってことを示してるから、何の意味があるんだろうね。

10年か20年後に振り返ると、ほぼ全ての人が監視される時代がAIの最大の社会的影響の一つ、いや、もしかしたら最大かもしれないって見られると思う。まだ表面をかすっただけで、ほとんどの人がそれを深く考えてない気がする。エリソンが何が起こっているのかを人々に教育していることには感謝してるかな。

└

そうだね、LLM（大規模言語モデル）は、ビッグテックがオンラインの世界からリアルな世界まで監視を拡大するのを可能にするだろうね。それによって、彼らの生活のあらゆる側面を監視することになる。みんながそのことに気づくまでには、たぶん10年くらいかかると思うよ。Facebookのコストを理解するのに10年かかったみたいにね。

ここで本当に危険なのは、「監視は悪い」ってだけじゃないんだ。AIが監視を制限していた労働コストを取り除くことが問題なんだよ。CCTVはすでに問題だったけど、誰かがそれを見たり、検索したり、解釈したり、エスカレーションしたりしなきゃいけなかった。AIはそれを変える。監視を検索可能で、スケーラブルで、管理的に役立つものにする。変化は「あなたは観察されるかもしれない」から「あなたの行動は常に機械的に解釈される」に移る。それが国家の道徳的な形を変える。民主主義は警察、裁判所、国境、監査、詐欺検出、公共の秩序を持つことができる。真剣な議論は、誰も監視されるべきではないってことじゃないと思う。問題は非対称性だ。普通の市民が国家やその契約者に対して、国家よりも透明になったら、自由な社会は生き残れない。原則はこうあるべきだ：人にはプライバシーを、権力には透明性を。警察のボディカメラは警察に責任を持たせるべきだし、調達は監査可能であるべきだ。アルゴリズムによる決定には監査の記録が必要だし、内部告発者やジャーナリストは保護されるべきだ。公共のシステムは市民にとって理解できるものであるべきだ。私が心配しているのは、オーウェルの漫画的なバージョンだけじゃなくて、退屈なバージョンなんだ。安全ダッシュボード、リスクスコア、詐欺検出、生産性分析、移民の取り締まり、「信頼と安全」、コンプライアンスの自動化、調達契約。ブーツは必ずしもブーツとして現れるわけじゃない。時にはインフラとして現れることもある。で、難しい質問は、監視が秩序を生み出せるかどうかじゃない。もちろん生み出せる。刑務所もそうだ。問題は、その後に責任ある権力を生み出すかどうかだ。パノプティコンは「良い行動」を生み出すかもしれないが、それは市民を管理された対象に変えてしまうだけだ。最近の新しいビジネスの文脈、例えばアマゾンの倉庫作業員や配達員を通じて人をコントロールしようとするこのフェティッシュな感覚を理解しようとしてるんだけど、それが生み出すのはただの恨みだけなんだよね。それで会社や社会を作りたいの？恨みの上に？

└

「あなた」というわけではないけど、どれだけ自分がコントロールを持ちたいと思ってる？CEOや取締役会の役割を狙っている人たちや、王を作り出そうとしている人たち、いろんな役職に立候補しようとしている人たちほどじゃないよね。彼らは恐れられることをすごく許容してるし。

Hacker Newsで議論の続きを見る

同じ出典の記事