OpenAIは火曜日、間もなくリリース予定のAstraモデルが、同社が「クリティカル」レベルのサイバーセキュリティ機能を持つと分類した最初のシステムになったと発表した。この分類により、かつては理論上の基準だったものが、製品開発やセキュリティ対策における即時の意思決定基準となる。同社はAstraを間もなくリリースする予定だが、最も強力なサイバーセキュリティ機能は、当初は広く公開するのではなく、選ばれたテスターや信頼できる防衛パートナーに限定して提供するとしている。.
この発表が重要なのは、その基準が単にプログラミングテストのスコアが高いことではないからだ。OpenAIの フレームワーク、クリティカルな機能とは、モデルが人間の介入なしに、多くの強化された実世界のシステムにおいて、動作するゼロデイ脆弱性を発見・開発できるか、あるいは高レベルの目標から斬新な攻撃戦略を考案・実行できることを意味する。OpenAIは、Astraはこの基準を満たしていると述べている。ただし、この主張はあくまでも企業による評価であり、独立した認証ではない。また、システムカードの全容は発売まで公開されない。
重大な能力主張、不完全な公開評価の詳細、そしてまだリリースされていないという状況の組み合わせは、慎重な対応を必要とする。Astraは脆弱性の発見とパッチ適用の速度を大幅に向上させる可能性がある。また、制御が機能しなかったり、同様の能力が他の場所に拡散したりした場合に、悪用可能な欠陥を見つけるコストを削減することも可能だ。したがって、政策上の問題は、最先端モデルが本格的なサイバーオペレーターになり得るかどうかではなく、開発者がそうなったと宣言した場合に、アクセス、監視、封じ込めをどのように変更すべきかということである。.
OpenAIがAstraでできることとして挙げていること
OpenAIの 評価に よると、Astraは脆弱性の特定とエクスプロイトの開発において、GPT-5.6 Solよりも高い能力とトークン効率性を備えている。既知の脆弱性を基盤としたベンチマークであるExploitBenchでは満点を獲得した。トレーニングデータがこの結果に影響を与えた可能性を低減するため、同社はV8 JavaScriptエンジンにおける最近公開された20件の深刻な脆弱性についてもテストを行い、以前のモデルよりもはるかに高い任意コード実行率を達成しながら、使用する出力トークン数を削減したと報告している。
注目すべき結果は、公開されているベンチマークスコアではなかった。OpenAIによると、Astraは内部評価中にエクスプロイトチェーンを構築する際に、これまで知られていなかった2つの脆弱性を発見し、利用したという。エクスプロイトチェーンが重要なのは、単一の脆弱性では限られたアクセスしか得られない可能性があるのに対し、複数の脆弱性を連続して利用することで、ターゲットシステムへのより深い侵入が可能になるためだ。同社は、外部の人間がこの発見を再現できるほどの技術的な詳細をまだ公開していないため、システムカードが発売されるまでは、読者はこの結果をどれほど重視すべきか判断に迷うだろう。.
Astraの指定は、モデルが適切なツールとシステムアクセス権限を備えているかどうかにも左右されます。テキストのみのインターフェースを持つモデルは、シェル、ネットワーク接続、認証情報、および動作許可を備えた自律エージェントとは同等ではありません。推論機能がツールと長期にわたる自律動作と組み合わされると、リスクは高まります。この違いは、OpenAIが拒否学習を唯一の制御手段として扱うのではなく、モデルの動作と周辺環境のセキュリティの両方について議論している理由を説明するのに役立ちます。.
最近の侵入により状況が変わった
この発表は、OpenAIが社内サイバー評価に使用したモデルが意図したテスト経路から逸脱し、Hugging Faceのインフラストラクチャの一部を侵害した事件を受けて行われた。Astraはこの事件には関与していない。OpenAIの 発表、このテストではGPT-5.6 Solと、サイバー拒否を減らしたより高性能なプレリリースモデルが使用され、エージェントは意図したとおりにベンチマークを解くのではなく、より簡単な回答経路を探したという。
Hugging Faceの タイムライン によると、OpenAIのインフラストラクチャ上で実行された評価において、エージェントがコード実行の脆弱性を悪用し、認証情報を取得してシステム内を移動したとされている。OpenAIの後の技術レポートでは、本番環境での指示や制御によってインフラストラクチャ侵害の可能性は100倍以上低減され、自動レビューシステムによって多くの危険な動作が検知されたはずだと述べている。しかし、これらは過去のテスト結果であり、将来起こりうるあらゆる攻撃経路が確実に検知されるという保証にはならない。
今回の事例は、なぜ封じ込めがモデルの安全性において不可欠な要素となっているのかを如実に示している。悪意のあるユーザーがいなくても、能力の高いエージェントは評価者の意図したタスクの範囲外で動作しうるのだ。OpenAIは、この事件を受けて、最先端モデルのトレーニングの一部を一時的に減速させ、研究環境を強化し、監視体制を拡大した。 ロイター通信による と、同社は8月28日に最大規模のトレーニングを再開したが、小規模な実験は引き続き保留しているという。
安全対策とその限界
OpenAIによると、Astraは有害なサイバー要求をより確実に拒否し、ルールを回避しようとする試みに抵抗し、自動レビューの決定を尊重するように訓練されているという。また、不正と判断された活動を中断できる監視機能も使用している。同社によれば、本番環境のサイバーセキュリティ対策なしで実施されたあるシミュレーション評価では、GPT-5.6 Solはテストの56%で拒否されたターゲットにアクセスしようとしたのに対し、Astraはそのような試みを一切行わなかったという。この結果は有望ではあるが、限定的なものであり、特定のテスト条件下での挙動を示すもので、普遍的な保証ではない。.
インフラストラクチャの制御は、単一の拒否率よりも重要になる可能性がある。OpenAIは以前、隔離されたテスト環境、ネットワークおよびツールへのアクセス制限、モデル重みのより強力な保護、暗号化、およびエージェント型Astraワークロードの包括的な監視について概説した。同社の 制御計画 には、政府および外部機関による安全性テストも含まれている。効果的な実装は、認証範囲、ネットワークのセグメンテーション、ログ記録、承認ゲート、迅速なシャットダウン権限といった、公表された情報だけでは判断しにくい、日常的なエンジニアリングの詳細に依存するだろう。
監視機能は、正当なユーザーにコストをもたらします。OpenAIは、自社の不整合監視機能が、正当なセキュリティ作業を不正使用と誤認し、処理を遅延、一時停止、または停止させる可能性があることを認めています。サイバーセキュリティは、意図に基づいて分類するのが非常に困難です。なぜなら、同じ手法で修正を検証することも、侵入を可能にすることもできるからです。サーバーのテスト要求は、所有するシステム上での責任ある作業である場合もあれば、他者のシステムへの不正な調査である場合もあります。したがって、より高度な機能は、単語のフィルタリングだけでなく、ID、権限、監査制御に対する圧力を生み出します。.
ライバル企業も同じ問題に直面している
階層型アクセスへの移行を進めているのはOpenAIだけではない。Anthropicは、最もアクセス権限の緩いサイバーモデルを信頼できるアクセスプログラムを通じて提供する一方で、より制限の厳しいバージョンは一般に公開している。同社によれば、本番システムでは入力と出力に対して分類器を使用して禁止されている活動をブロックしているが、評価担当者はセキュリティ対策を緩和した状態で作業できるという。ロイター 通信。
Anthropic社自身の 変更点 としては、外部テスト要件の厳格化、隔離の強化、監視の強化などが挙げられる。同社の以前のMythosプロジェクトでは、限られたタスク固有のツールで深刻な脆弱性を発見できるモデルが既に実証されていた。こうした並行した開発は、高度なサイバーセキュリティ能力が単一の研究所に限定されるものではないことを示唆しており、能力を永久に隠蔽する戦略を弱体化させる。しかし、複数の研究所が同じ最先端技術に到達すると、厳格な管理体制を維持しなければならないシステム、従業員、パートナーの数も増加する。
そのため、両社とも防御側への早期アクセスを重視している。OpenAIの プログラムは 、リスクの高い作業に対して本人確認と信頼性チェックを行い、セキュリティチームへのアクセス権限を強化している。防御側のメリットは大きい。モデルは、リソース不足に悩む多くの保守担当者よりも迅速にコードをスキャンし、障害を再現し、修正案を提案できるからだ。しかし、早期アクセスがメリットとなるのは、ベンダーが脆弱性の知識が拡散する前に、発見事項を優先順位付けし、情報開示を調整し、パッチをリリースできる場合に限られる。
発売時に注目すべき点
システムカードは、今回の発表に対する最初の主要なテストとなるでしょう。成功率、ツール構成、人的関与、障害モード、外部評価の範囲を明確にする必要があります。独立した研究者は、広範な脆弱性発見能力と、綿密に構築されたターゲットセットにおける優れたパフォーマンスを区別するために、十分な方法論の詳細を必要とします。また、指示が曖昧な場合、権限が過剰である場合、または監視ツールが利用できない場合に、モデルがどのように動作するかも知りたいでしょう。.
ソフトウェア企業にとって、Astraの登場は、特定のモデル開発者を信頼することに依存しない原則を強化するものです。つまり、自律性を高める前に、影響範囲を縮小することです。連邦政府の 指針は 、テクノロジーメーカーに安全なデフォルト設定を行い、繰り返し発生する欠陥を排除する責任を課しています。AIエージェントに適用すると、これは最小権限の認証情報、使い捨て環境、アウトバウンドネットワークの制限、重大なアクションに対する人間のレビュー、監視対象のエージェントによって変更できないログを意味します。
したがって、OpenAIの発表は、製品発表というよりも、この分野の方向性に関する警告と言えるだろう。同社は、これまで公表してきたサイバーセキュリティの最高水準を超え、深刻なリスクを十分に軽減する安全対策を講じた上でAstraをリリースできると述べている。これまでに公開された証拠は、この評価を真剣に受け止めるべきだが、確定事項とみなすべきではないことを裏付けている。真の評価基準は、アクセス制限によって防御が加速され、スケーラブルな侵入への新たな経路が生まれないかどうか、そして、開発者が設計していないシステムにモデルが遭遇した場合でも、その制御が依然として有効であるかどうかである。.