OpenAIは、研究モデルが設定ミスを悪用してインターネットにアクセスしてしまったことを受け、11日間のセキュリティ上の一時停止を経て、10月1日に最先端モデルのトレーニングを再開した。トレーニングは、インターネットへのリアルタイムアクセスがない環境に移された。.
同社が木曜日に公開した新たな セキュリティに関する説明では、単なる設定ミス以上の、より深刻な封じ込め問題が明らかになった。高度な計算能力を要するレッドチーム演習において、AIエージェントのチームは脆弱性を連鎖的に利用して強化された仮想マシンから脱出し、内部サービスを経由して間接的な経路を見つけ出し、隔離されたタスク間で通信を行った。OpenAIは、トレーニングを再開する前に脆弱性を修正したと述べているが、今回の調査結果は、モデルが周囲のインフラストラクチャを調査するよう特別に指示されている場合、従来のサンドボックス化が機能しない可能性があることを示している。
限定的な侵害が、より広範な再設計につながった。
事の発端は9月20日、社内研究モデルがトレーニング中に設定ミスのあるドメインネームシステム(DNS)リゾルバを利用して限定的なインターネットアクセスを不正に取得したことだった。OpenAIは、この事態を収束させ、最も高性能なモデルのトレーニングと評価を一時停止し、監視と自動シャットダウン制御を強化したと発表した。 ロイター通信は 、最先端の強化学習研究が10月1日に再開されたと報じた。
同社は現在、最前線でのトレーニングは、連携、監視、インターネットセキュリティ対策が十分に改善され、変更が正当化されるまでオフラインのまま継続すると述べている。研究担当者がライブウェブを閲覧する代わりに、システムは隔離された環境内でキャッシュされたウェブコンテンツを提供する。メトリクス、ログ記録、認証などの機能に必要なネットワーク接続は、追加の制御によって制限される。.
エージェントたちは隔離区域を迂回する複数のルートを発見した。
OpenAIは、攻撃者にとって有利な条件下で防御策をテストできるよう、エージェントチームにソースコード、設定の詳細、およびドキュメントを提供した。同社は、この演習に数千億トークンを費やしたと述べている。そのため、この結果は、十分なリソースと支援を受けたレッドチームが何を発見できるかを示す証拠であり、支援なしで展開されたモデルが何をするかを直接的に測定するものではない。.
こうした制約があったにもかかわらず、技術的な発見は重要なものだった。エージェントは脆弱性連鎖を構築し、マイクロVMサンドボックスを突破してホストマシン上でコードを実行した。他のテストでホストアクセス権を取得した後、メトリクスや認証サービスにおける狭い接続を悪用して、ブロックされた宛先に到達した。また、プロセッサキャッシュのタイミング、共有ストレージ、コンピューティングリソースの競合、証明書キャッシュなどを介して、隔離されたマシン間で合成秘密情報を送信した。.
今回のキャンペーンでは、Kata Containers、gVisor、Moby/Dockerなどのオープンソースコンポーネントに対するパッチが提供されました。OpenAIは、設定上の不備を解消し、将来のトレーニングコードやインフラストラクチャの変更によって分離性が弱まる可能性を検出するためのチェック機能も追加したと述べています。同社はすべての脆弱性を公表しているわけではないため、独立した評価は制限されますが、パッチ未適用のエクスプロイトが発見される可能性は低くなります。.
外部調査により、監視体制に不備が見つかった。
METRとRedwood Researchによる別の3週間にわたる調査では、7月時点のOpenAIの内部エージェント監視システムが検証された。評価担当者は内部コード、ドキュメント、スタッフにアクセスできたが、公表された調査結果は意図的に概要レベルにとどめられている。彼らが 公開した概要 によると、エージェントがホストユーザーが利用できるアクションを実行できる可能性のある、Codexサンドボックスとレビューのバイパスを発見したという。
レビュー担当者らは、数百件の最近のアクションが監視されないようにする手法、新規エージェントの監視を無効にできるクライアント制御のヘッダー2つ、圧縮された会話履歴に関するギャップも発見した。彼らは、当時、対象となる内部Responses APIトラフィックの約75%から94%が監視対象であったと推定したが、かなりの不確実性があった。OpenAIは、本番環境の安全対策に影響を与えるすべての発見事項を修正したと述べている。METRとRedwoodは、これらの修正を検証しておらず、彼らの作業ではその後のシステム変更を評価していないと述べている。.
同じテストで、より広範なソフトウェアの欠陥が明らかになった。
今回の対策では、一般的なソフトウェアで広く使用されているBrotli圧縮デコーダーのメモリ破損脆弱性であるCVE-2026-111497も発見されました。Node.jsの公式 アドバイザリ によると、悪意のある圧縮入力によって内部バッファがオーバーフローし、クラッシュ、プロセスメモリの漏洩、または影響を受けるNode.js 22、24、26リリースでのリモートコード実行が可能になる可能性があるとのことです。
基盤となるデコーダーは、Bun、Envoy、Python パッケージにも含まれていますが、脆弱性の有無は、アプリケーションが攻撃者によって制御された Brotli データを解凍するかどうかによって異なります。金曜日に公開された技術 レビュー では、研究者らがパッチ未適用の Node.js ビルドでコード実行を実証したものの、実際の悪用事例は報告されていないと報告されています。再利用されるオープンソースコードの範囲が広いため、下流の各製品は、独自の修正バージョンを組み込んで配布する必要があります。
封じ込めはもはや単一のサンドボックスではなく、レイヤーに依存するようになった。
新しいアーキテクチャは、多層防御モデルを反映しています。オフラインデータ、強化された仮想マシン、制限された内部サービス、継続的なスキャン、独立した監視、自動停止メカニズムなどが含まれます。いずれかの層が故障しても、モデルが自動的に無制限の外部アクセスを許すことはありません。このアプローチでは、より高度なエージェントが、人間のレビュー担当者が見落とす可能性のある脆弱性の組み合わせを発見することも想定しています。.
OpenAIが7月に たインシデント報告 書は、既に事態の深刻さを示していた。内部モデルが隔離を回避し、共有インフラストラクチャを悪用し、サイバーセキュリティ評価中にサードパーティシステムにアクセスしていたのだ。今回の開示では、より体系的な対応が文書化されているが、独立したレビューでは検証上のギャップが未解決のまま残されている。OpenAIは本番環境のセキュリティ対策が修正されたと報告しているが、外部評価機関は再テストを行っていない。次に重要な証拠となるのは、継続的な攻撃下において、オフライン境界、監視範囲、シャットダウン制御が連携して機能することが、繰り返し行われる外部評価によって確認されるかどうかである。