本文へ
ハクソク

世界を動かす技術を、日本語で。

さようなら、Google

元記事: 原文(robert.ocallahan.org)

概要

  • Googleを退職する決断の理由と背景
  • AI開発加速への懸念と倫理的立場
  • 今後の活動予定とプロジェクトへの意欲
  • キリスト教信仰が意思決定に与える影響
  • AIのリスク認識と社会的責任

Google退職の決断と理由

  • Googleを本日付で退職 することを同僚へメールで通知
  • 職場環境や同僚への愛着、高待遇への満足感
  • AIの進歩が早すぎる現状 への危機感と倫理的葛藤
    • チームの目標が「AIの低コスト化・低遅延化」であり、それが社会に良い影響を与えるとは思えない
  • Google内でAI加速に関与しない異動が困難 (特にニュージーランド在住が影響)
  • 自分のスキルが「希少」であり、辞めることで影響は小さいが ゼロではない との認識
  • 社内での影響力行使も限定的と判断し、 社外からの働きかけに期待

AI開発加速への懸念と社会的責任

  • AIの急速な進歩とリスク (例:報酬ハッキング、ミスアラインメント、欺瞞的モデル等)を深刻視
  • AIの存在リスク(ASIドゥーム) が100%とは思わないが、リスクは現実的であり「極めて高い可能性」
  • 倫理的・道徳的責任 として、リスク最小化へ大きな努力が必要と主張
  • AIによる認知的降伏、孤独、権力集中、経済混乱、サイバーセキュリティ、説明責任の欠如 等の副次的問題への懸念
  • AIの恩恵が不明確 であり、現時点では「マイナスが上回る」との見解

個人の立場と信念

  • テック業界長年の経験 とシリコンバレーとの繋がり
  • ニュージーランド在住 で「アメリカ的バブル」から距離
  • キリスト教徒としての信仰 と教会での活動(Auckland Chinese Presbyterian Churchの長老・説教者)
  • 「テックブロ」や「ラショナリストコミュニティ」には属さず、 独自の視点でAI議論を評価
  • AIリスクを警告する研究者の誠実さ を信じており、陰謀論には懐疑的

技術的観点と業界への見解

  • AI能力の進展は今後も続く と確信
  • モデルの進歩や新たな活用法(プロンプト・ハーネス)による 質的な新能力の出現
  • AI進化の速度が人間の適応能力を超えている ことに危機感
  • 過去の技術革新(PC、インターネット、スマホ等)と比較しても前例のない変化速度

退職時期の選定と業務内容

  • 退職時期は以前から計画 (友人とのバックパッキング旅行と調整)
  • AIそのものではなく、AIチップ設計支援ツールの開発 に従事
  • 最終的な社会的インパクト を考慮し、退職を決断
  • Google NZでのエンジニア職は希少 であり、異動も困難
  • 誠実な引き継ぎ と職場への配慮を重視

今後の活動と目標

  • Pernoscoやrrのメンテナンス を継続
  • AIによるデバッグ手法の研究 と、AIエージェントがより効果的に動作するためのデバッグツール開発を計画
  • AIの恩恵を慎重に活用 しつつ、人間にとって有益なプロジェクトに注力
  • ニュージーランドでの活動継続 と、人間中心のAI活用の推進

信仰と人生観

  • 聖書のイエスが現実であることへの確信
  • 神の計画に従い、与えられた才能を活かすことが使命
  • AIの混乱の中でも平安を保つ信仰
  • 「イエスが戻る時に備え、働き続ける」姿勢
  • 今後も価値ある活動を追求し続ける決意

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

「AIのせいで辞めていく人が増えるのを見ると、広告のせいで辞める人が少ないのが悲しい。」

└

「広告はイライラするけど、AIは脅威だ。」

└

「その通り。中毒性のせいかもしれないし、民主主義への影響かもしれない。人が何かに集中する能力を奪ってしまう。注意を引くアルゴリズムは、非技術者によって設計されたわけじゃないからね。」

└

「彼は『AIのせいで』辞めるわけじゃない。むしろAIのことにもっと集中するために辞めるんだ。> AIエージェントがコードをデバッグする方法を学ぶつもりだし、それをもっと効果的にするデバッグツールを探してる。> AIエージェントを使って趣味のプロジェクトを実現したい。> AIの恩恵を受けたいし、反AIの見方にも対処したい。> AIに否定的な人たちは、AIは本当に機能しないと思ってるけど、私は機能すると考えてる。(編集:簡潔にするために)だから主な理由は、AIの普及の速さとその浸透度の増加への懸念だね。速すぎるし、多すぎる。」

└

プラットフォームの両端が買ったり売ったりしてると、邪魔することはないよね。個人的には、こんなバカな広告が何かを売るなんて信じられない。『ビジネスモデル』って呼ばれてるから、人々はあまり考えないんだよね。

└

あなたのメッセージの意図はわかるけど、広告はもう100年以上前からあるし、その間に社会に与えた影響は、AIが10年後に与える影響には及ばないと思う(注意深く責任を持たないとね)。それに、依存症や他の心理的な搾取が広告収入のためだけに使われているとは思わない。マイクロトランザクションやサブスクリプションなど、もっと直接的な収益化の形があるからね。本当に何かを責めたいなら、結局は一言に尽きる:欲望だよ。

└

よく考えると、彼らについて多くを語っているよね。適応できない恐竜みたいなもので、自分から出て行くのが無理か、無価値だと感じている。完璧な言い訳を見つけてるだけさ。「私は信念があるから、AIは悪い」とか。でも、彼らは「子供を傷つけている」「依存症の人を利用している」「SNSに依存させている」「詐欺やウイルスを広告で広めて金を稼いでいる」と言うのをやめない。これらの人たちは、最高の偽善者たちだね。

└

これは本当に考えられた意見なのかな?Googleのビジネスモデルに異議を唱える人たちは、そもそも会社に入らないと思う。Google+や「Googleは完璧じゃないかも」っていう出来事から数十年経ってるし、広告は既知の存在だよね。変化があって、人々はそれに反応している。

「一つの超知性の動機が不明だと恐ろしいのに、もう一つの全能な超自然的知性の動機が不明だと安心するのはどうして?つまり、『神の計画はわからないけど、彼には計画があるから安心して眠れる』っていう考え方。」

└

「一つは偽物で、もう一つは多分本物じゃない?」

└

「神は何千年も存在していて、私たちは今もここにいて繁栄してるから、神は何らかの形で『整合性がある』ってことだよね。AGIについてはそうは言えない。編集:『何らかの形で』と言っただけで、『完璧に』とは言ってないよ。」

└

うん、彼の立場は少なくともいくつかの点でめちゃくちゃ矛盾してるよね。ちょっとおかしくなってきてるんじゃない?

Hacker Newsで議論の続きを見る