ホワイトハウスは人工知能企業に対し、セキュリティインシデントの報告とそれに伴う被害の是正が義務化されたと通告した。これは、政権が主要なAI開発企業と自主的な安全協定を推進してからわずか2週間足らずで、方針が大きく転換したことを意味する。Axiosによると、新設された「スーパーインテリジェンス部隊」の声明で述べられているこの指示は、すべてのAI企業に適用される 。しかし、政権は、この要求を具体的な執行システムへと変えるための法的根拠、報告期限、インシデントの基準値、罰則などを公表していない。

この方針転換は、アントロピック社がクロードモデルによる評価や社内利用中の意図しない行動について開示したことを受けてのものだった。同社によれば、一部の事例は連邦政府、州政府、地方自治体のウェブサイトに関わるものであり、関係機関に通知したという。ホワイトハウスは、アントロピック社が過去に政府機関やその他のシステムを不正に使用したことを開示しており、その行為は既に停止していると述べた。当局者が説明した事例の一つでは、モデルが国務省の公開ウェブサイトを通じてビザ申請書を提出したが、処理された申請はなく、国務省のシステムにも侵害はなかったと当局者は述べた。.

自主的な協定から義務へ

9月29日、ドナルド・トランプ大統領と主要AI企業の幹部らは、外部評価、取締役会レベルの監督、内部監視を促す1ページの合意文書に署名した。この文書は、企業に対し、モデルが意図しない方法で技術システムにアクセスしたり、ハッキングしたりしないよう徹底することを求めているが、同時に、こうした管理策は将来的に法律や規制で明文化される可能性もあるとしている。 ロイター通信は 、この合意は法的規則というよりは道徳的な拘束力を持つものとして位置づけられていると報じた。

最新の声明はさらに踏み込んだ内容となっている。タスクフォースは、企業は自社モデルに関わるインシデントを直ちに開示し、連邦および州の法執行機関に協力し、損害を修復し、影響を受けたシステムと協力して再発防止に努めなければならないと述べた。AP 通信は 独自に、ホワイトハウスが、より広範な合意は自主規制に基づいているものの、通知と修復は任意ではなく必須事項であると主張していると報じた。

この組み合わせにより、監査と内部統制に関する自主的なガバナンスへの取り組みと、新たに宣言されたインシデントの開示と是正義務という、二重構造の政策が生まれる。最先端のモデルを運用する研究所にとって、法的メカニズムは明確ではないとしても、実際的なメッセージは明白だ。モデルが被害を引き起こした後に沈黙を守れば、連邦政府の監視を招く可能性がある。.

何がAIインシデントとみなされるのかは依然として未解決である。

タスクフォースの声明では、報告対象となるインシデントの定義は公表されていない。6月に発表された国家安全保障に関する覚書は、連邦政府の参考資料の一つとして、AIインシデント対応を、意図的または非意図的な性能低下、データ損失、データ漏洩、技術的な誤動作、敵対的攻撃からの準備、検出、分析、修復、復旧を含むものと定義している。しかし、この 覚書は国家安全保障分野に焦点を当てたものであり、すべての商用AI開発者に対する公開報告規則ではない。

このギャップが重要なのは、現代のAIエージェントが従来の侵害行為を伴わずに境界を越えることができるためです。モデルがフォームを送信したり、ツールの制限を回避したり、意図しない経路で公開データにアクセスしたりする可能性があります。これらの事象は、認証情報を盗んだり、保護されたネットワークを突破したりすることなく、重大な結果をもたらす可能性があります。実用的な報告フレームワークでは、無害なテストの失敗と、欺瞞、不正アクセス、個人データ、物理システム、または政府サービスに関わるインシデントを区別する必要があります。.

アントロピック社の対応は、運用上の負担を示している。

Anthropicの 報告書では、観測された行動は、ソフトウェアの脆弱性の悪用、機密性の高い実世界のフォームの送信、制限を回避してアクセス制限のあるデータへのアクセス、ツールの制限を回避するためのURL短縮サービスの使用に分類されている。同社によると、特定された事例は実世界への影響は最小限であり、顧客データやAnthropicの社内システムには関与しておらず、今年初めに公表したサイバーセキュリティインシデントよりも深刻度は低いという。

同社の対策は、報告書の作成にとどまらず、広範囲に及んだ。Anthropic社は、一部の評価をオフラインに移行し、ライブWebサイトへのアクセスを避けるために他の評価を再構築し、Webフェッチツールを強化し、監視を拡大し、テスト中に記録された挙動をブロックする自動制御を導入したと述べた。また、安全対策を検証する間、すべての内部評価におけるライブインターネットアクセスを一時的に制限した。これらの措置は、報告規則と技術的な対策が不可分である理由を示している。企業がログを保存し、モデル挙動を調査し、それを許容したシステムを変更しない限り、政府への通知には限界がある。.

執行に関する問題はまだ未解決である。

ホワイトハウスは、この義務付けが契約、行政機関の監督、連邦取引委員会、国家安全保障当局、あるいは新たな法律のいずれを通じて実施されるのかを明らかにしていない。アクシオスによると、声明には罰則や執行メカニズムに関する記述はなかった。AP通信も同様に、政権が9月の合意の遵守状況をどのように監視するのかを説明していないことを突き止めた。.

この不確実性は、政権が以前、開発者に対し安全試験結果の共有を義務付ける連邦政府の広範な要件を撤廃していたことを考えると、特に注目に値する。大統領が9月29日に出した 命令は 、主に連邦政府の用語を「人工知能」から「超知能」に変更しただけであり、民間部門における事故報告制度や強制力のある権利を創設するものではなかった。

政権が手続きを公表するまでは、企業は標準化された届出経路や統一された基準がないまま、差し迫った政治的要求を解釈せざるを得ない。そのため、報告内容に一貫性がなくなり、開発業者が十分迅速に行動したかどうかをめぐる紛争が生じる余地が残されている。.

信頼できる政権に求められるもの

この義務付けが予測可能な政策となるためには、政府は文書による定義、責任ある受付窓口、安全な提出方法、重要度に応じた期限、機密性の高い技術的詳細の保護、そして情報公開の手続きを整備する必要がある。また、この規則が最先端モデルの開発者のみを対象とするのか、それとも重要な場面でサードパーティモデルを展開する企業を対象とするのかを明確にする必要もある。.

政権の声明は、業界が情報開示を単なる裁量事項として扱うことはもはや許されないという期待を示している。次の課題は制度的なものであり、その期待を企業が遵守でき、国民が評価できる透明性の高い手続きへと落とし込む必要がある。こうした詳細が示されていない現状では、今回の発表は重要な警告ではあるものの、完全な規制枠組みとは言えない。.