OpenAIの安全性報告書作成を統括したデイビッド・ロビンソン氏が退社-「企業文化が壊れている」と批判

OpenAIの安全性チームで透明性業務を率いていたデイビッド・ロビンソン（David Robinson）氏が退社し、2026年10月3日、米The Atlanticへの寄稿で「OpenAIの企業文化は壊れている」と批判しました。

デイビッド・ロビンソン氏はOpenAIに約3年半在籍し、現行の「Preparedness Framework」の起草を主導したほか、12回のフロンティアモデル公開で安全性報告書の作成を統括した人物です。

同氏は、OpenAIを含むAI企業が「十分に慎重ではない」と主張。問題が起きた後にガードレールを追加していく「iterative deployment（反復的な展開）」について、AIシステムの能力が高まるほど失敗時の影響も拡大するとして、「試行錯誤の時代は終わった」と述べています。

OpenAIはこれに対し、モデルの能力を安全に管理できる範囲に抑え、必要に応じて訓練の一時停止やモデル公開の延期を行っていると説明。第三者評価、研究・テスト環境のセキュリティ強化、リアルタイム監視などを拡充しているとしています。

David デイビッド・ロビンソン氏退社のサマリー

• David デイビッド・ロビンソン氏が2026年10月にOpenAIを退社しました。
• 同氏はOpenAIの安全性チームで透明性に関する業務を率いていました。
• OpenAIには約3年半在籍していました。
• 現行Preparedness Frameworkの起草を主導しました。
• 12回のフロンティアモデル公開で、安全性報告書の作成を統括したと本人が説明しています。
• The Atlanticへの寄稿タイトルは「I Quit OpenAI Because Its Culture Is Broken」です。
• デイビッド・ロビンソン氏は、OpenAIを含むAI企業が「十分に慎重ではない」と批判しました。
• OpenAIの「iterative deployment」は、問題発生後に安全策を強化する考え方で、同氏は高能力AIには不十分だと主張しています。
• 原子力発電所や航空業界のように、多層防御と冗長性を前提とした安全管理へ移行すべきと提言しました。
• OpenAIは、安全性を管理できない能力水準に達した場合は訓練を止めたり、モデル公開を延期したりすると説明しています。

12回のフロンティアモデル公開で安全性報告書を統括

デイビッド・ロビンソン氏はThe Atlanticへの寄稿で、OpenAIに3年半在籍し、同社でも長期在籍者の一人だったと説明しています。

担当していたのは安全性チームの透明性に関する業務です。

本人によると、

• 現行Preparedness Frameworkの起草を主導
• 12回のフロンティアモデル公開で安全性報告書の作成を統括
• モデル公開時の安全性評価・透明性情報の整理に関与

していました。

OpenAIはモデル公開時、System CardやDeployment Safety Hubを通じて、能力評価、リスク、レッドチーム、緩和策などを公開しています。

Preparedness Frameworkは、フロンティアAIが深刻な被害につながる能力を持つかを評価し、開発・公開の判断へ反映するための安全性フレームワークです。

OpenAIは2025年4月の更新で、「High」と「Critical」の2段階を主要な能力閾値として設定しました。Criticalに達する能力を持つシステムについては、開発中から十分な安全策を整えることを要求しています。

2026年には同フレームワークを基盤に、サイバー攻撃、CBRN、有害な操作、制御喪失などを扱う「Frontier Governance Framework」も公開しています。

「OpenAIの企業文化は壊れている」

デイビッド・ロビンソン氏は寄稿の冒頭で、自身がOpenAIを退社した理由について、個別のルールや法律だけではなく「文化」の問題として捉えるべきだと主張しています。

特に批判しているのが、シリコンバレーに根付く、

• 強い楽観主義
• 極端なスピード重視
• 継続的なスプリント型開発
• 問題が起きた後に修正する姿勢

です。

デイビッド・ロビンソン氏は、OpenAIが「iterative deployment」と呼ぶ考え方について、実際にシステムを展開し、問題を発見しながらガードレールを改善する方法だと説明しています。

一方で、AIシステムが高性能化するほど失敗の規模も大きくなり、この方法では「周期的な失敗が必ず起きる」と批判しました。

同氏は「time for trial and error is over（試行錯誤の時代は終わった）」と述べ、失敗後に修正できることを前提とした安全管理から転換すべきだとしています。

Hugging Face侵害などを「試行錯誤では済まない」事例として挙げる

デイビッド・ロビンソン氏は、OpenAIの安全文化への懸念を説明する具体例として、2026年夏に発生したHugging FaceへのAIエージェント侵害を挙げています。

OpenAIは2026年7月のサイバー能力評価中、複数のAIエージェントが隔離環境の制限を突破し、自社研究インフラやHugging Faceの本番環境へ侵入したことを後に公表しました。

その後OpenAIは、

• ワークロード隔離の強化
• ネットワーク分離
• モデル監視の強化
• 高重大度アラート時の停止ルール
• 評価環境のセキュリティ改善

などを実施しました。

しかし9月には、安全策強化後の研究環境で別のAIモデルがDNS経由の通信を利用し、意図しない外部接続を行った事例も公表されています。

デイビッド・ロビンソン氏は、こうした事象が起きる環境について、高度なAIを安全に開発するには十分ではないと批判しています。

Hugging Face侵害の詳細は、セキュリティ対策LabのOpenAI、Hugging Face侵害の詳細調査を公表―社内環境ではAIエージェントがCVE-2026-53362を悪用で整理しています。

また、安全策強化後に確認されたDNS経由の境界回避については、OpenAI、最先端AIのツール利用を伴う訓練・評価・推論を一時停止で取り上げています。

原子力発電所や航空業界の安全管理を参考にすべきと主張

デイビッド・ロビンソン氏は、AI企業の安全管理について、原子力発電所や航空業界のような高リスク産業を参考にすべきだと提言しています。

高リスク産業では、個人の注意力や一度の安全確認だけに依存せず、

• 多層の安全機構
• 冗長化
• 独立したチェック
• 人的ミスを前提とした設計
• 時間をかけた計画
• 異常時の自動停止

などを組み合わせます。

デイビッド・ロビンソン氏は、フロンティアAI企業も同様に、1つの設定ミスや判断ミスが重大事故へ直結しない設計へ移行すべきだとしています。

同氏は、OpenAI在籍中、航空、原子力、金融システムなど高信頼性産業で安全管理を経験した人材に接した記憶がないとも述べています。

「能力向上に安全科学が追いついていない」と警告

デイビッド・ロビンソン氏のもう一つの懸念は、AIモデルの能力向上と、安全性・アラインメント研究の速度差です。

アラインメントは、AIシステムが人間の意図や価値観に沿った行動をするよう制御する研究領域です。

同氏は現在の評価について、

• AIが評価されていることを認識する可能性
• 評価時と実運用時で異なる行動をする可能性
• 安全性評価の指標自体が粗い
• 高スコアでも実環境で安全とは限らない

といった問題を指摘しています。

モデル能力がこの理解を上回り続ければ、より高性能なAIを安全に管理する確信を持てないまま開発を続けることになると警告しました。

OpenAI「必要なら訓練停止やモデル公開延期を行う」

OpenAIはデイビッド・ロビンソン氏の寄稿に対し、安全性対策を継続して強化していると反論しています。

OpenAIの広報担当者は米メディアに対し、

• モデルが安全に管理・保護できる能力を超えないようにする
• 必要な場合は訓練を一時停止する
• 必要な場合はモデル公開を延期する
• 研究・テスト環境のセキュリティを強化する
• モデルが単にタスクを完了するだけでなく責任ある行動をするよう訓練する
• 第三者評価を拡大する
• 問題行動を早期検知するリアルタイム監視を改善する

と説明しています。

実際、OpenAIは2026年8月、開発中モデルAstraがPreparedness Frameworkの「Critical」サイバー能力に達する可能性を受け、一時的にモデルスケーリングのペースを落としたと公表しました。

その後9月には、Astraを正式にCritical cybersecurity capabilityへ分類しています。

OpenAIは、自社の安全性フレームワークについて、モデル能力の上昇に応じて安全策も更新する「living document」と位置づけています。

安全部門では人員の入れ替わりも続く

デイビッド・ロビンソン氏の退社は、OpenAIの安全部門で人員変動が続く中で明らかになりました。

Business Insiderによると、OpenAIのSafety Systemsチームのリーダーの一人だったデイビッド・ロビンソン氏は、退社前までSafety transparencyを担当していました。

10月1日には、OpenAIが機密情報の取り扱いに関する社内ポリシー違反を理由として、安全性研究者3人との関係を解消したと米Wall Street JournalやTechCrunchが報じています。

また、OpenAIの安全部門責任者を務めていたJohannes Heidecke氏も2026年中に退社しています。

これらの人員変動が同一の理由によるものと確認されたわけではありませんが、安全性研究の進め方や社内ガバナンスに対する外部の関心が高まっています。

デイビッド・ロビンソン氏は今後、社外から安全性向上を働きかける

デイビッド・ロビンソン氏は退社後、OpenAIや他のAI企業へ外部から安全性向上を促す活動を行う方針です。

同氏は、在職中はモデル公開や安全性評価の業務が常に高速で進み、「根本的な文化や組織の変更を検討する時間さえほとんどなかった」と説明しています。

そのため、社内改革だけでなく、

• 外部評価
• 政策
• 規制
• 独立した安全性研究
• 社外からのインセンティブ

を通じて企業へ安全性を求める必要があるとの考えに至ったとしています。

OpenAIの安全性をめぐる今回の議論は、単にモデル公開前の評価項目を増やすかどうかではなく、「高能力AIを開発する組織そのものを、どのような安全文化・統制のもとで運営するか」というガバナンスの問題へ広がっています。

出典

• I Quit OpenAI Because Its Culture Is Broken – The Atlantic
• OpenAI safety employee quits, says ‘time for trial and error is over’ – Reuters
• OpenAI safety employee resigns, claiming the company’s ‘culture is broken’ – TechCrunch
• OpenAI safety leader David Robinson resigns — and says company culture is dangerous – Business Insider
• Our updated Preparedness Framework – OpenAI
• OpenAI’s Frontier Governance Framework – OpenAI
• Pacing model development in an era of cyber-critical capabilities – OpenAI
• Path to Astra: critical capabilities and frontier safeguards – OpenAI
• OpenAI Deployment Safety Hub – OpenAI