欧州議会は賛成 499票、反対28票、棄権93票で、人工知能法に関する交渉方針を採択した。これにより、欧州連合は人工知能を規制するための世界初の包括的な法的枠組みの実現に一歩近づき、ChatGPTや類似ツールの背後にある急速に成長しているシステム世代を対象とした新たな義務が追加された。6月14日の採決は、12月に独自のアプローチを採択した欧州連合理事会との交渉における議会の立場を定めるものとなる。
欧州議会の 発表 によると、議員らは欧州で運用されるAIシステムが安全で、透明性があり、追跡可能で、差別がなく、環境に配慮したものであることを望んでいる。採択された 改正案 は、欧州委員会のリスクベースの枠組みを維持しつつ、禁止事項を拡大し、汎用システムと生成システムに対して具体的な透明性要件を設けている。これは最終的な法律ではなく、条文を決定するための機関間協議の幕開けとなる。
リスクベースの法律が生成型AIに対応するために拡大
欧州委員会は、大規模な言語モデルを主流技術とする公共生成型AIシステムの波が押し寄せる以前の2021年4月に、初めてAI法案を提案した。委員会の当初の 提案は 、リスクのカテゴリーに基づいて構築されていた。一部の利用は禁止され、高リスクのシステムには義務的な要件が適用され、低リスクのアプリケーションにはより緩やかな透明性に関する義務が課される予定だった。
議会は、立法過程において急速に変化した市場に合わせて、その基本構造を維持しつつ、適応させてきた。採択された方針の下では、基礎モデルの提供者は、予見可能なリスクを評価・軽減し、設計および文書化の要件を満たし、適格モデルをEUデータベースに登録する必要がある。生成システムは、コンテンツがAIによって生成されたことを開示し、違法コンテンツを防止するようにモデルを設計し、トレーニングに使用された著作権保護された素材の要約を公開する必要がある。.
これらの規定は、多くの下流アプリケーションで使用できる技術を規制することの難しさを反映している。一般的なテキスト生成用に訓練されたモデルは、後に顧客サービス、教育、ソフトウェア開発、医療管理など、リスクプロファイルが大きく異なる様々な環境に統合される可能性がある。そのため、議会のアプローチは、モデルレベルで一定の義務を課す一方で、指定された高リスク用途にシステムが展開される際には、より厳格な規則を維持するというものである。.
生体認証監視および禁止されている行為
議会はまた、禁止を求める行為のリストを拡大した。この法案は、公共の場での遠隔生体認証を制限し、機密性の高い特徴を用いる特定の生体認証分類を禁止する。さらに、インターネットや監視カメラ映像から生体認証データを無差別に収集して顔認識データベースを作成することも禁止する。この手法は、プライバシー擁護団体や市民的自由擁護団体から懸念の声が上がっている。.
議員らはさらに、法執行機関、国境管理、職場、学校における感情を推測することを目的としたシステム、および脆弱性を悪用したり特定のソーシャルスコアリング技術を使用したりするアプリケーションを標的とした。これらの規定は、欧州委員会の当初の提案におけるより限定的な禁止事項を超えており、加盟国との間で最も激しい交渉が行われる問題の一つとなる可能性が高い。.
2022年12月に発表された理事会の 包括的なアプローチ も、リスクベースの体制を支持したが、定義と汎用AIの取り扱いを修正した。理事会は、EU市場に投入されるシステムが安全で基本的人権を尊重しつつ、投資とイノベーションを促進することを目的としていると述べた。現在、この2つの機関間の相違点が交渉の余地を決定づけている。
高リスクシステムは文書化と監視の対象となる
この法案の中核は、高リスクカテゴリーに関する規定である。重要インフラ、教育、雇用、生活必需サービス、法執行、移民、司法行政などの分野で使用されるシステムは、リスク管理、データ品質、技術文書、記録管理、人的監視、正確性、サイバーセキュリティに関する要件を満たす必要がある。議会はまた、高リスクシステムが利用者に重大な影響を与える場合、利用者が苦情を申し立て、説明を受けられるようにすることも求めている。.
この枠組みが重要なのは、多くの要件が、損害が発生した後だけでなく、システムが欧州市場に参入する前または参入時に適用される点にある。これにより、開発者と導入者にはコンプライアンス義務が生じ、規制当局はモデルの文書化、データガバナンス、監視を検証するための根拠を得ることができる。テクノロジー企業にとっての実務上の課題としては、どのシステムがどのカテゴリーに該当するのか、サプライチェーンにおいて誰が責任を負うのか、汎用モデルが第三者によって改変された場合に規則がどのように適用されるのか、といった点が挙げられる。.
ワシントン・ポスト紙の当時の報道によると、今回の投票は、世界各国の政府が急速に進化するAIシステムを理解し、規制するための取り組みを加速させている中で行われた。EUの取り組みは、現在の生成型AIブームが始まる何年も前から始まっていたため、異例の速さで進んでいる。この先行優位性により、他の地域が自主的な取り組み、行政機関の権限、そして試行的な立法に留まる中、EUの議員たちは一般的な原則から拘束力のある義務へと移行することができた。
交渉によって最終的なバランスが決まるだろう
次の段階は、欧州議会、欧州理事会、欧州委員会によるいわゆる三者協議です。各機関はそれぞれ異なる文書と政策上の重点事項を持って協議に臨みます。最終的な規則は、欧州議会のより厳しい規制と加盟国の立場を調和させ、設立モデル、高リスク指定、法執行の例外、執行に関する技術的な問題を解決する必要があります。.
理事会の12月の 会合記録に よると、加盟国は議会が作業を終える前に既に交渉権限について合意していた。つまり、立法プロセスにおいて、最終交渉に入ることができる正式な立場が2つ存在することになる。政治的合意にはまだ数ヶ月かかる可能性があり、その後、法案作成と移行期間を経て、ほとんどの義務が適用されることになる。
この法律は、ヨーロッパ以外にも影響を及ぼす可能性がある。EU市場でAIシステムを開発または販売する企業は、他地域で提供する製品にも影響を与えるコンプライアンスプロセスを構築する必要が生じるかもしれない。ヨーロッパはこれまで、市場アクセス法とプライバシー法を用いてグローバルな企業慣行を形成してきた。AI法の支持者たちは、同様の効果によって、文書化、透明性、リスク管理に関する基本的な期待値が生まれることを期待している。.
同時に、この法律の実効性は、技術的に依然として難しい定義に左右されるだろう。人工知能は幅広い統計システムやソフトウェアシステムを包含する一方、基盤となるモデルは急速に進化し、リリース後に用途変更される可能性がある。狭すぎる規則は時代遅れになる可能性があり、広すぎる規則は通常のソフトウェアを高額なコンプライアンス体制に巻き込む可能性がある。議会の条文は、リスク階層と強力な汎用モデルに対する具体的な義務を通じて、こうした緊張関係を管理しようとしている。.
TIME誌の報道では、今回の欧州議会での採決は、包括的なAI規制に向けた大きな一歩だと評された。特に、生成システムによって議員たちはChatGPTの公開前に作成された提案を修正せざるを得なくなったことがその理由として挙げられる。今や中心的な争点は、欧州がAIを規制するかどうかという点から、最終的な規制の具体的な範囲へと移っている。
499対28の投票結果は、議会に強力な交渉権限を与えた。すべての技術的または政治的な論争を解決するものではないが、具体的な規制モデルを提示した。それは、容認できない利用形態を限定的に禁止し、高リスクシステムに規制を課し、生成モデルに透明性を求め、AIサプライチェーン全体にわたる企業に及ぶ執行体制を構築するというものだ。今後の交渉によって、この枠組みのうちどれだけが法制化されるかが決まるだろう。.