ホワイトハウスが新たに発表した人工知能(AI)安全協定は、大手テクノロジー企業6社に対し、最先端システムに関して内部統制、外部監査、取締役会による監督を実施するよう求めている。しかし、企業が協定を遵守しなかった場合の罰則、規制当局の設置、あるいは情報公開の義務付けについては規定されていない。この点が、共通の安全対策の青写真と強制力のある連邦基準との違いを際立たせ、協定の実質的な効果は企業の自主的な行動に左右されることになる。.
そのギャップこそが、ドナルド・トランプ大統領とGoogle、Anthropic、Meta、OpenAI、xAI、Nvidiaの幹部が署名した1ページの合意書が提起する中心的な政策課題である。 ロイターが土曜日に発表した分析による と、政権はこの合意を高度なAIに対する国民の懸念の高まりへの回答として提示しているにもかかわらず、不遵守に対する具体的な罰則は明記されていない。トランプ大統領はこの約束を「道義的に拘束力のあるもの」と呼んでいる。
この協定は、責任ある行動をとるという一般的な約束よりも具体的な内容となっている。その 4つの柱からなる枠組みは 、訓練と展開中にモデルの能力と整合性を監視する管理体制、それらの管理体制をチェックする内部チーム、独立した外部監査人または評価者、そして報告を受け、問題が確実に是正されるよう監督する独立した委員会を求めている。
しかし、この文書では対象となるモデルが明確に定義されておらず、期限も設定されておらず、監査結果の公表も義務付けられておらず、外部評価者が真に独立しているかどうかを誰が判断するのかも明記されていない。企業は定期的に会合を開き、基準とベストプラクティスを確立すると述べており、これらの手順が最終的には法律や規制で成文化される可能性があることを認めている。今のところ、参加と遵守は任意である。.
審判のいない安全構造
この協定の最大の特長は、その階層構造にある。社内の技術管理によって開発段階におけるリスクの高い行動を特定でき、別の社内チームがそれらの管理策が機能するかどうかを検証できる。外部の評価者が会社の前提を検証でき、取締役が是正措置を要求できる。原則として、これにより、製品の発売を急ぐエンジニアだけに安全管理の責任を負わせるのではなく、責任を分散させることができる。.
弱点は、あらゆる段階が依然として企業間の協力に依存している点にある。外部評価者は企業との提携を通じて選定され、報告書は企業の取締役会委員会に提出され、協定では証拠を検証したり是正措置を課したりする権限を持つ連邦政府機関は設置されていない。 AP通信の報道 によると、参加者の中にはこの仕組みが未完成だと考えている者もいた。アントロピック社の最高経営責任者であるダリオ・アモデイ氏は、この技術には実際のリスクがあるものの、その対処方法についてはまだ議論中だと述べた。
政権側は、既存の権限で不正行為に対処できるとし、規制強化は中国に比べてアメリカのイノベーションを遅らせる可能性があると主張している。顧問らは、企業が問題を無視した場合の潜在的な結果として、証券法などの法的手段を指摘している。しかし、これらの法律は一般的に、確立された法的義務と事後的な執行を通じて運用されており、協定自体はそれらを拡大したり、予防的なライセンス制度を確立したりするものではない。.
この合意は、より広範な自主的な戦略に合致するものである。
このアプローチは、政権のこれまでの政策と整合している。 6月に出された大統領令 では、各機関に対し、開発者が対象となる最先端モデルを連邦政府に早期に提供できる自主的な枠組みを構築するよう指示していた。同大統領令は、新モデルに対する強制的なライセンス取得、事前承認、許可制度を創設するものではないと明言していた。
ホワイトハウスの 国家立法枠組み も同様に、統一的な連邦政策、AIを利用した詐欺や国家安全保障上のリスクに対する対策、そしてイノベーションへの障壁の削減を求めている。また、州法の矛盾が米国の競争力を損なう可能性があると警告している。その結果、連邦政府による厳格な審査よりも、国家レベルでの連携と民間による規制を一貫して優先する姿勢が見られる。
その理念は今、信憑性の試練に直面している。 ロイター/イプソスが最近実施した調査 によると、アメリカ人の73%がAI企業が深刻な社会被害を防ぐために十分な対策を講じていないことを懸念しており、55%が開発のペースを落とすことが望ましいと回答した。この調査は、有権者が特定の規制モデルを好んでいることを証明するものではないが、業界からの保証だけでは国民の不安を解消できないことを示している。
その約束を測定可能にするにはどうすればよいでしょうか?
この協定は、直ちに包括的な認可制度へと発展しなくても、より大きな影響力を持つ可能性がある。政策立案者は、審査対象となる最先端モデルを定義し、評価者の最低資格要件と利益相反に関する規則を定め、監査結果の標準化された要約を義務付け、是正期限を設定し、機密性の高い技術証拠を受け取る機関を指定することができる。議会はまた、どのような不備が法的責任を生じさせるかを具体的に定めることもできる。.
これらの選択にはトレードオフが伴う。情報公開はセキュリティ上の脆弱性や企業秘密を暴露する可能性がある。承認された監査人のリストが狭いと、ボトルネックが生じ、大企業に有利になる可能性がある。モデルの閾値は、計算方法の変化に伴い、すぐに時代遅れになる可能性がある。したがって、効果的な監視には、固定されたチェックリストではなく、機密性の高い報告、技術的な専門知識、そして定期的な更新が必要となる。.
現時点では、この合意は規制制度というよりは、ガバナンスのひな形として理解するのが最も適切だろう。連邦政府の政策課題に独立監査と取締役会の責任を盛り込み、有力企業6社から書面による確約を取り付けている。しかし、遵守状況がどのように検証されるのか、また署名企業が義務を果たせなかった場合にどうなるのかについては、国民に明らかにされていない。この合意が真に意義のあるものとなるかどうかは、その約束内容よりも、それに続く基準、情報開示、そして執行体制にかかっている。.