概要
OpenAIが安全性研究者3名を解雇し、その理由について両者の主張が対立。 解雇された研究者たちは、OpenAI内部の文化に悪影響が及ぶと警告。 研究者側は情報漏洩や規則違反を否定し、透明性と外部協力の重要性を強調。 OpenAIは「規則違反のパターン」を理由に解雇したと説明。 この出来事はAI安全性と企業文化の在り方に波紋を広げている。
OpenAI安全性研究者3名の解雇と公開書簡
- OpenAIが Jasmine Wang、 Tomek Korbak、 Mikita Balesni の3名の安全性研究者を解雇
- 解雇理由について、OpenAIは「 機密情報の不適切な取り扱い」を主張
- 研究者たちは 公開書簡 で、情報漏洩や規則違反を否定
- 書簡は Safety and Security Committee、 Safety Advisory Group、 Mission Advisory Council 宛て
研究者側の主張と懸念
- 解雇理由に対し「 外部専門家との連携は安全性確保のため不可欠」と主張
- 「 恐怖と不明確な規則が安全性の議論を妨げている」と警告
- 以前は 安全性懸念の提起や異議申し立てが奨励されていた企業文化
- 現在は「 従業員が自分の立場に不安を感じている」と指摘
- 研究者たちは Hugging Face事件 への対応も正当な手順だったと説明
OpenAI側の対応
- OpenAIは TechCrunch へ「 規則違反のパターン」があったと説明
- 研究者らの「 安全性懸念の提起や発言が理由で解雇したのではない」と強調
- 具体的な規則違反の内容や、懸念を提起した従業員保護策については明言せず
- 内部メモで研究者の AI安全性への貢献を評価 しつつ、報復解雇を否定
具体的な事例と詳細
- Wang は「 経営幹部のメール誤閲覧」が解雇理由とされたが、 採用業務のために委任されていたアクセス であり、問題発生後すぐに報告したと説明
- Korbak は外部安全性評価者と連携し、 社内規則の範囲内で行動
- Balesni は社内外の連携を図り、 取締役や経営陣の承認を得ていた と主張
今後への影響と要望
- 研究者たちは「 第三者安全性監査人の組織内常駐」や フロンティアモデルの監査性維持、 透明性のある議論文化の継続 を要望
- Wangは「 今のままでは、今後も同様の解雇が続く恐れ」と指摘
- 「 リスクに最も近い人が発言を恐れる環境では、安全なAGI開発は不可能」と警鐘
OpenAIとAI安全性文化の課題
- 今回の解雇は OpenAIの企業文化やAI安全性の在り方 に疑問を投げかける事例
- 外部協力の必要性 と 従業員の発言の自由 をどう両立させるかが課題
- AI開発現場の透明性と説明責任 の重要性が再認識される状況