本文へ
ハクソク

世界を動かす技術を、日本語で。

生物コンピューティングに対する不安

元記事: 原文(kuber.studio)

概要

  • AI技術 の進化と 人間の神経細胞 の利用に対する違和感の表明
  • DOOM をプレイするために訓練された ラボ育成ニューロン の事例紹介
  • 意識 や 倫理的線引き への疑問提起
  • 商業的動機 と技術開発の止まらなさへの懸念
  • 結論の不在 と社会的議論の必要性の指摘

AIと人間ニューロンの境界線への違和感

  • ChatGPT登場以降、多様なLanguage Modelを試作・構築経験
  • 重み や 行列演算 など、AIの基礎は「ただの数学と確率」との認識
  • しかし、 同じ仕組み が 人間のニューロン で動作する現実への強い違和感
  • DOOM への個人的な関心と、 WADsの解析 や QRコード内エンジン 構築などの活動歴
  • 数ヶ月前、 培養ニューロン が DOOMをプレイ する動画に遭遇し衝撃を受ける

DOOMをプレイするニューロンと意識の問題

  • 200,000個のニューロン がDOOMを人間以上にプレイ可能という事実
  • 最初は「ただの実験」と受け流すも、時間が経つほどに違和感が強まる
  • LLM は「次のトークン予測器」であり、 意識がない とされる理由の整理
  • しかし、 人間のニューロン が同じ報酬機構で「永遠に同じゲームを繰り返す」状況に不安
  • それが 意識 なのか、 誰が判断 するのかという根源的疑問

科学実験と倫理の境界

  • ゲームプレイのため、 視覚データ をニューロンに入力
  • ニューロンが反応するには 何らかの解釈 が必要
  • 人間の脳が電気信号を解釈することを「見る」と呼ぶなら、 チップ上のニューロンも「見ている」 のか？
  • 200,000ニューロン はクラゲやミミズ以上の規模
  • どこで線を引くのか、誰が「意識の有無」を決めるのかという倫理的課題

商業的インセンティブと技術開発の暴走

  • 人間の脳 はシリコンよりも 情報量・省電力 で優れている可能性
  • 商業的利益 が存在する限り、技術開発は止まらない現実
  • パンドラの箱を開けた状態であり、「間違い」とされることも利益のために継続する社会構造
  • 監視社会 や ブラックマーケット の例を挙げ、同様の道を辿る危険性を指摘

結論の不在と議論の必要性

  • 明確な 結論や答え は現時点で存在しない
  • MindDump というブログ名通り、違和感や不安をそのまま表現
  • 社会的議論 がほとんどなされていない現状への警鐘
  • 人間ニューロン利用AI の倫理・意識問題への真剣な議論の必要性

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

これは、ベジタリアニズムや生物システムの利用・虐待に関する倫理的な問題と同じだと思う。これはジュリアン・バギーニの「食べられたい豚」からの抜粋だよ。

「40年間のベジタリアン生活を経て、マックス・バーガーは豚のソーセージ、カリカリのベーコン、フライドチキンのごちそうを前にして座ろうとしていた。マックスはずっと肉の味が恋しかったけど、彼の信念は食欲よりも強かった。でも今、彼は清らかな心で肉を食べることができた。」 「ソーセージとベーコンは、彼が先週出会ったプリシラという名の豚から来た。プリシラは話すことができ、さらに重要なことに、食べられたいと思うように遺伝子操作されていた。人間のテーブルに乗ることがプリシラの生涯の目標で、彼女は屠殺の日に期待に胸を膨らませて目を覚ました。彼女は快適で人道的な屠殺場に急ぐ前に、これらのことをマックスに話していた。彼女の話を聞いたマックスは、彼女を食べないのは失礼だと思った。」 「鶏肉は『脳を取り除かれた』遺伝子組み換えの鳥から来た。つまり、自己や環境、痛みや快楽を意識することなく、植物のような生活を送っていた。だから、彼を殺すことは人参を引き抜くのと同じくらい野蛮ではなかった。」 「しかし、皿が目の前に置かれたとき、マックスは吐き気を感じた。これはベジタリアン生活のせいで起こる反射的な反応なのか？それとも正当な精神的苦痛の身体的なサインなのか？気を取り直して、彼はナイフとフォークを手に取った…」 出典：ダグラス・アダムズの「宇宙の果てのレストラン」（パン・ブックス、1980年）

└

これってバギーニのやつ？それともアダムズの？

└

最後の出典の行は何を表してるの？「宇宙の果てのレストラン」を読んだけど、確かに食べられたいと思う動物についての話はあるけど、その特定のシーンは含まれてなかった（少なくとも私が読んだバージョンには）。あの行はバギーニがアダムズの本からインスパイアを受けたってことを示してるの？

└

何年も意図せずに、そしておそらく倫理的に問題のある菜食主義者として、この本を読んでないけど、死んだものを食べるのは気持ち悪い。自分の死や消費を考えさせられるから、全然食欲が湧かないんだよね。

└

プリシラも毎日絶対的な苦痛の中で生きたいと思ってたのかな？動物が生きてる間に扱われる方法が、私が農業のやり方に反対する主な理由で、肉を食べない理由でもあるんだ。

└

結局のところ、ビーガンも肉食者と同じゲームをしてるよね。どこかに線を引いてる。肉食者は家畜の肉がダメで、ペスカタリアンは魚はオッケーだけど、肉はダメ。ビーガンは全て禁止。もちろん、生きたまま食べられても気にしない命は除いてね。レタスをいくらでも屠殺していいよ。レタスの擁護者なんていないし。要するに、道徳的な議論はちょっとバカバカしくて論理的じゃない。残念ながら、私たちは食物連鎖の中で生きていて、命を消費しないと生きられない。太陽や無機資源から資源を確保できれば、もっと道徳的に正しいのに。状況は良くなる可能性もあるけど、悪化する可能性もある。少なくとも、私たちの獲物の多くは獣医のケアを受けていて、エアガンで殺されるから、生きたまま食べられるよりはマシだよね。

シリコンで動くAIが原理的に意識を持つと信じる人は、生物のコンピュータも意識を持つと信じなきゃダメだよね？なんでその人たちはもっと懸念を表明しないんだろう？

└

同じ質問だね。公開ボタンをクリックする前にずっと考えてたけど、もしかして哲学的すぎるかなって思ってた。でも、ずっと気になってたから。

└

シリコンで動くAIが意識を持つなら、人間がペンと紙でやる計算も意識を持つってことになるの？

└

なんでその人たちはもっと懸念を表明しないんだろう？お金が好きだからだよ。

└

それはちょっと違うと思う。生物の脳が意識を持てるからって、全ての脳がそうだとは限らないよね。例えば、全てのコンピュータがWindows XPを動かしているわけじゃないし。生物的なコンピューティングに対して、なんでもっと関心を持つと思うの？ まだ実現可能性も示されてないのに、LLMベースの「AI」はもう広く使われてるし。

└

そうでもないよ。クラゲは意識を持ってるの？ にんじんは意識を持ってるの？ あれらは生物で、複雑な機能を果たしてるけどね。

Hacker Newsで議論の続きを見る