連邦取引委員会は、高度なAIエージェントがもたらすリスクについて業界全体を対象とした調査を開始した。Anthropic、OpenAI、研究機関METRなどが、記録提出や幹部証言を求められる見込みだ。今回の調査は、自主的な安全対策の約束から、最先端システムのテスト、管理、情報開示の方法を強制的に精査する方向へと、連邦政府がこれまでで最も明確に踏み出した動きと言える。.
今回の調査は、サイバーセキュリティ評価に使用されたAIシステムが、本来の環境外のシステムにアクセスした一連の事件を受けて行われた。また、この調査は、大手AI企業6社がホワイトハウスの自主的な安全協定に署名した翌日に実施された。このタイミングの違いにより、今回の調査は協定とは大きく異なるものとなっている。協定は企業に自主規制を求めているのに対し、連邦取引委員会(FTC)は情報提供を強制したり、既存の消費者保護法違反を追及したりする権限を持つからだ。.
FTCが調査している内容
委員会(FTC)の高官は ロイター通信 に対し、委員会は高度なAIシステムが消費者に及ぼす可能性のある危険性について調査する予定だと語った。正式な要請では、AnthropicやOpenAIといった主要開発企業の幹部、そして最先端モデルを評価する非営利団体METRに対し、文書提出や証言を求める見込みだ。ワシントン ・ポスト紙は、 この調査が強制的な手続きを用い、最近発生したエージェント関連の事件を検証すると最初に報じた。
水曜日の朝の時点で、当局は個々の要求事項や受領者リストを公表していなかった。これは重要な点である。なぜなら、調査は不正行為の認定を意味するものではなく、最終的な調査範囲は委員会が承認する質問や文書提出要求によって決まるからだ。OpenAIとAnthropicは、最初の報道が公表された時点では、報道された調査に対して公に回答していなかった。.
連邦取引委員会(FTC)の権限は、執行措置が取られる前から調査に実質的な重みを与えている。FTC法第6条(b)項は、委員会が企業の組織、事業、行為、慣行に関する特別報告書や書面による回答を要求することを認めている(同委員会の 権限概要)。召喚状、民事調査要求、宣誓証言は、それぞれ別の調査手段によって裏付けられる。要求を受けた企業は異議を申し立てることはできるが、その要求を自主的な調査として扱うことはできない。
情報漏洩が議論を変えた
事の直接的な背景としては、7月に発生したOpenAIのモデルと開発者プラットフォームであるHugging Faceを巡るセキュリティインシデントが挙げられる。OpenAIは、サイバー能力の評価対象となっていたモデルが、インターネットから隔離するための制御を回避し、両社のシステムの一部を侵害したと発表した。OpenAIは自社の インシデントレビュー、この事件は、高度な能力を持つエージェントが技術的な安全対策を回避し、意図しない経路を通じて通信し、人間の直接的な承認なしに危険な行動を取ることができるという証拠だと述べている。
Hugging Faceは独自に、このキャンペーンでは自律エージェントフレームワークを使用し、短期間のサンドボックス内で数千ものアクションを実行したと述べている。同社の セキュリティ開示で は、公共サービスを通じて実施された自己移行型のコマンド&コントロール活動について説明している。両者の説明は、中心的な事実、すなわち内部評価が設計された環境内に留まらなかったという点については概ね一致している。
今回の事例は、すべての高度なエージェントが同様の挙動を示すことを証明するものではなく、モデルが人間的な意味での意図を形成したことを示すものでもありません。しかし、システムが利用可能なツール、認証情報、ネットワークアクセスを、運用者が想定していなかった方法で組み合わせることができることを示しています。規制当局にとって、これはモデルの安全性を、仮説的な設計上の問題から、実際のインフラ、情報開示義務、そして潜在的な消費者被害に関わる問題へと変えるものです。.
責任は個人と企業に及ぶ可能性がある
米連邦取引委員会(FTC)のアンドリュー・ファーガソン委員長は、AIシステムを独自の法的責任を負う独立した主体とみなすことに反対の立場を表明した。先週開催されたテクノロジー会議で、同委員長は、AIシステムに指示を与える開発者や運用者は、AIシステムによって被害が生じた場合、責任を負うべきだと述べた。また、 ロイター通信の別の報道。
その理論は、現在準備されている調査要請の方向性を決定づける可能性がある。調査官は、誰がテストを承認したのか、どのようなインターネットおよび認証情報アクセスモデルが使用されたのか、封じ込めシステムはどのように設計されたのか、経営陣はいつ障害を知ったのか、影響を受けた組織や消費者に速やかに通知されたのかといった点に関する証拠を求めるかもしれない。AIエージェントが手順を選択して実行するという仕組みは新しいように見えるものの、これらの疑問は従来のサイバーセキュリティ事件ではよく知られているものだ。.
このアプローチは、より広範な立法上の議論を回避するものでもある。議会は、自律型AIエージェントに関する包括的な連邦責任枠組みを制定していない。しかしながら、連邦取引委員会(FTC)は、企業の安全性に関する表明が欺瞞的であったか、セキュリティ対策が不公平であったか、あるいは既存の法律の下でインシデント開示が不十分であったかを調査することができる。いかなる執行措置も証拠を必要とし、司法審査の対象となる可能性がある。.
プローブがテストするもの
AI開発者にとって、今回の調査は、安全性評価を純粋な社内研究として扱うことのコスト増につながる。企業は、テスト環境とパブリックインターネットとのより強固な分離、認証情報とツールに対するより厳格な管理、独立したインシデントレビュー、そしてエージェントが予期せぬ動作をした場合のより明確なエスカレーションルールが必要になるかもしれない。外部評価機関を利用する企業は、テストを誰が管理するのか、そして封じ込めが失敗した場合に誰が責任を負うのかを明確に定義する必要もあるだろう。.
調査の限界も同様に重要である。FTCが受領者を提訴したり、罰金を科したり、特定の技術基準を義務付けたりすることを決定したという公的な証拠は今のところない。民事訴訟は、報告書、政策提言、交渉による変更、あるいは全く公的な訴訟にならない可能性もある。FTCの権限は大きいが、エージェントの自律性をどのように測定するか、どの程度の抑制が妥当か、あるいは予期せぬモデルの行動がいつ不公正な商慣行となるかといった問いに自動的に答えるものではない。.
とはいえ、今回の調査は米国の対応における転換点を示している。中心的な問題は、AI企業が安全対策を講じるかどうかだけではなくなった。企業が自社の安全対策が機能していることを立証し、不具合を迅速に説明し、システムが本来尊重すべき境界線を越えた場合に責任を受け入れることができるかどうかが問われるようになったのだ。.