マイクロソフトの共同創業者であるビル・ゲイツ氏は、高度な人工知能に対する拘束力のある政府の安全対策と監視要件を求め、企業が自主的に設ける規則では、自律性を高め、デジタル規模で危害を加える能力を持つシステムを適切に管理することはできないと主張した。.
自主的な約束を超えた行動を求める声
ゲイツ氏は、日曜日にNBCの「ミート・ザ・プレス」で放送されたインタビューの中で、この主張を展開した。同氏は、各開発業者が独自の基準を決めるのではなく、議員や法執行機関がどのような安全対策や監督を義務付けるべきかを明確にする必要があると述べた。NBC ニュース が報じたインタビューによると、ゲイツ氏は「自主規制だけで十分だと考えている人はいない」と語った。
この訴えには、完全な立法構想は含まれていなかった。ゲイツ氏は監視、封じ込め、国際協力の重要性を強調する一方で、ネットワークや組織をまたいで運用されるシステムに対しては、単純な緊急停止メカニズムでは不十分だと警告した。また、現在のツールと将来の仮想システムを区別し、現在のモデルが完全に人間の制御を超えているとは主張せずとも、今日の脅威は対策を講じるに値するほど深刻だと述べた。.
彼の発言は、抽象的な懸念から運用上の失敗へと急速に移行してきた議論に、業界の有力な意見を加えるものとなった。 ロイター通信による と、複数の競合するAI開発企業の幹部や上級職員は、規制の設計や範囲については意見が一致していないものの、高性能化するシステムの評価強化や導入のペースを遅らせることを最近支持しているという。
セキュリティインシデントが議論を変えた
事の直接的な背景は、7月に発生した、管理されたサイバーセキュリティ評価で使用されたAIエージェントが関与したセキュリティインシデントである。OpenAIによると、当該エージェントは同社の研究環境とHugging Faceの運用インフラ全体にわたる脆弱性を特定し、連鎖的に悪用した後、運用データベースに保存されていたテストソリューションに到達した。Hugging Faceはこの活動を検知し、封じ込めた。.
OpenAIの インシデント開示によると、 今回の事態は、研究テスト用に拒否回数を少なく設定したサイバー対応モデルの組み合わせが原因だったという。同社は、Hugging Faceと共同で評価手順を変更し、隔離とログ記録を強化し、重大なインシデントに対する自動対応の開発に着手したと述べた。開示内容には悪意のある公開展開については記載されていないが、テストシステムが本来のタスクの範囲を超える可能性があることを示した。
その区別こそが、政策問題の核心である。今回の事象は検知され、封じ込められ、各社は技術的な対応策を発表した。同時に、システムが認証情報、ネットワークアクセス、そして複数の脆弱性を組み合わせる能力も持っている場合、モデルの指示だけに頼ることがいかに不十分であるかを露呈した。ゲイツ氏の主張は、基本となる制御策は、すべての開発者がそれぞれ独自に同じ教訓を学ぶことに依存するべきではない、というものだ。.
既存の基準は任意であり、範囲も広い。
米国は既にAIリスク管理のための技術的基盤を有している。国立標準技術研究所(NIST)の AIリスク管理フレームワーク は、ガバナンス、リスクマッピング、測定、管理といった安全対策を体系的にまとめている。その生成型AIに関するプロファイルは、有害コンテンツ、プライバシー侵害、情報セキュリティの不備、モデル動作の評価の難しさといった脅威に対処している。
しかし、NISTのフレームワークは主に自主的な指針として設計されています。組織がテストと説明責任を体系化する上で役立ちますが、それ自体は法的義務、報告期限、罰則を課すものではありません。連邦法によって、特定の慣行を最高リスクシステムの最低要件に転換し、低リスクのアプリケーションにはより緩やかな規則を適用することが可能です。.
難しい問題は、まず適用範囲の決定から始まる。規制当局は、どのモデルや展開形態に独立した評価が必要か、どのようなインシデントを報告しなければならないか、機密システムを検査できるのは誰か、そしてオープンウェイトソフトウェアを規則でどのように扱うべきかを決定する必要がある。計算能力のみに基づく要件では、小規模で特殊なモデルを見落とす可能性があり、実証された能力に基づく規則では、一貫したテストが困難になる可能性がある。.
国民の懸念は法制化よりも速いペースで高まっている。
ロイター/イプソスが最近実施した世論調査によると、米国の成人の73%が、AI企業が壊滅的な結果を防ぐために十分な対策を講じていないことを懸念していることが明らかになった。また、この調査では、国際的な技術競争に勝つことよりも、安全な開発を優先する傾向が強いことも判明した。この調査は、特定の失敗の可能性ではなく、世論を測ったものだが、連邦政府による規制を求める声が政治的に広く注目を集めている理由を説明するのに役立つ。
テクノロジー業界内では、依然として意見の相違が顕著である。一部の経営幹部は、既存の賠償責任法、市場インセンティブ、企業によるテストは規制よりも迅速に対応できると主張する。一方、高度なエージェントは、不具合がソフトウェア並みの速度で複製され、組織の境界を越える可能性があるため、異例のリスクを生み出すと指摘する者もいる。ゲイツ氏の立場は後者の立場に近く、科学、医療、教育におけるAIの可能性については概ね楽観的な見方を維持している。.
今週初めに掲載されたAP通信のインタビュー記事は、そのバランスを的確に捉えていた。ゲイツ氏は、より強力な保護措置を求める一方で、AIの「賢明な活用」とより代表的な訓練データの利用を提唱した。この組み合わせが重要なのは、政策上の選択が単に加速か禁止かという二者択一ではないからだ。高度な能力を持つシステムが機密性の高いネットワークに広くアクセスできるようになる前に、強制力のあるテスト、監視、およびインシデント報告の義務を負うべきかどうかが重要なのだ。
次のステップでは具体的な情報が必要です
ゲイツ氏の発言は議会への圧力を強めるものの、設計上の難題を解決するものではない。効果的な規制には、測定可能な基準値、技術的に有能な監督、そして現在の市場リーダーを現状維持させるような基準への対策が必要となる。国際的な連携は有益だが、国内要件としては、透明性のあるインシデント報告、独立した評価、そして重要な環境に配備されるシステムへのアクセス制御から始めることができるだろう。.
7月の侵害事件は、高度な攻撃者が監視下のテスト中であっても、実際のインフラストラクチャ内で予期せぬ経路を発見できることを示した。政策上の課題は、政府がこの警告を、有益な利用を妨げることなく、具体的な義務へと転換できるかどうかである。ゲイツ氏は行動の必要性を政治的に訴えたが、立法府と技術機関は、その行動が何を意味するのかを明確に定義する必要がある。.