欧州議会は水曜日、賛成523票、反対46票、棄権49票で人工知能法案を可決した。これにより、欧州連合は、議員らが「リスクに基づいて人工知能を規制する世界初の包括的な法的枠組み」と称する法案の採択に向けた最終段階に入った。この法案は、AIシステムの使用方法に応じて異なる義務を課し、容認できないとみなされる特定のアプリケーションを禁止し、強力な汎用モデルに対して新たな透明性と安全性の義務を課すものとなる。.

3月13日の発表で、議会は、この法律はイノベーションを支援しつつ、基本的人権、民主主義、法の支配、環境の持続可能性を保護することを目的としていると述べた。今回の採決は、生成型AIが一般に普及する以前から始まった長年の交渉を経て行われ、ChatGPTなどのシステムが汎用モデルが様々な分野に急速に普及する可能性を示したことを受けて大幅に修正された。

リスク階層が、画一的なAI規制に取って代わる

AI法の中核となる構造は、リスクに基づく階層構造である。許容できないリスクをもたらすとみなされるシステムは禁止され、高リスクに分類されるシステムは、導入前および運用中に厳しい要件を課される。高リスクのカテゴリーには、重要インフラ、教育、雇用、生活必需サービス、法執行機関、その他自動化された意思決定が人々の権利や機会に重大な影響を与える可能性のある分野での利用が含まれる。.

ロイター 通信によると、リスクの高い開発者は、リスク管理、データ品質、技術文書作成、記録管理、人的監視、および正確性といった課題に取り組む必要がある。また、この法律は、法執行機関によるリアルタイムの遠隔生体認証を制限しており、例外は限定的に定義された重大犯罪や脅威に限られる。

AIの利用方法の中には、全面的に禁止されるものもある。議会の概要には、社会的評価、特定の形態の操作的なAI、脆弱性の悪用、認識データベース構築のための無差別な顔画像の収集、職場や学校における感情認識、そしてプロファイリングや個人的特徴のみに基づく予測型警察活動などが含まれている。.

生成AIは議員たちに枠組みの書き換えを迫った。

欧州委員会による当初の提案は、大規模言語モデルが一般市場向け製品となる前の2021年に提出された。ChatGPT、GPT-4、Geminiなどのシステムの台頭により、汎用モデルは単一の固定された用途にきれいに収まるのではなく、何千もの下流アプリケーションに組み込まれる可能性があるため、規制上の問題が生じた。.

最終的な政治的妥協案では、汎用AIのための独立したレイヤーが設けられた。AP 通信 によると、強力なモデルを提供する企業は、トレーニングに関する文書化や欧州の著作権規則への準拠など、透明性に関する義務を負うことになる一方、システムリスクを生み出すと判断されたモデルには、追加の評価とリスク軽減策が求められる。

この仕組みは、モデル開発者と、特定の高リスク環境でAIを導入する企業との間で責任を分担しようとするものです。汎用モデルは、ある用途では低リスクであっても、採用、医療判断、重要インフラなどに使用される場合は、高リスクシステムの一部となる可能性があります。そのため、規制当局は、元のモデル提供者で止まることなく、サプライチェーン全体を通して情報を把握する必要があります。.

生体認証と基本的人権は、依然として最も議論の的となっている条項の一つである。

この法律は生体認証による識別と分類に厳しい制限を設けているが、警察による遠隔生体認証システムの使用を完全に禁止しているわけではない。特定の条件下では使用が認められており、この妥協案は市民自由団体から批判を浴びている一方、政府は重大な犯罪捜査には限定的な例外が必要だと主張している。.

ユーロニュース によると、議会の首席交渉担当者2人は、今回の採決を「安全で人間中心の」AIに向けた歴史的な一歩と評した。この法案はまた、人々が苦情を申し立てる権利、そして場合によっては、高リスクなシステムで行われた決定について説明を受ける権利も保障している。

この規則集は、欧州に本社を置く企業だけでなく、それ以外の企業にも適用されることを意図している。EU域外のプロバイダーであっても、そのシステムが欧州市場に投入された場合、あるいはその成果物がEU域内で利用された場合は、適用範囲に含まれる可能性がある。こうした域外適用という点が、米国のテクノロジー企業が規則の施行状況を注視している理由の一つである。.

業界は共通枠組みを支持するものの、その実施には懸念を示している。

テクノロジー企業や業界団体は、AIガバナンスの必要性を概ね認めている一方で、コンプライアンスが複雑化しすぎて、欧州におけるAIの導入が米国や中国に比べて遅れるような事態は避けなければならないと警告している。水曜日の投票後、 BSA | The Software Allianceは 、この法律を重要な節目と位置づけ、二次的な規則やガイダンスが策定されるにあたり、政策立案者と業界との継続的な協力を促した。

他の業界関係者からは、より慎重な意見も出ている。Ars Technicaは、 コンピュータ・通信産業協会(CCIA)が、一部の義務規定によってイノベーションが阻害されたり、リスクの低いシステムに負担の大きい要件が課せられたりする可能性があると懸念していると報じた。実際の影響の多くは、まだ策定されていない規格、定義、および施行に関する決定に左右されるだろう。

この法律は、重大な罰金を規定している。重大な違反には、数千万ユーロ、あるいは全世界年間売上高の一定割合に相当する罰金が科せられる可能性があり、違反の内容に応じて上限額は異なる。この規模は、大手AI開発企業がコンプライアンスコストを軽視できないようにすることを目的としている。.

クリエイターや出版社は、汎用AIと著作権で保護されたトレーニング教材との関係性に関する条項の制定を求めて闘った。欧州のクリエイティブ団体連合は 3月13日の声明 、この法律により、汎用モデルの提供者は著作権遵守ポリシーを維持し、システムのトレーニングに使用されたコンテンツの詳細な概要を公開することが義務付けられると述べた。

これらの規定によってすべての著作権紛争が解決されるわけではありません。裁判所や規制当局は、既存の著作権法がモデルのトレーニング、ライセンス供与、および成果物にどのように適用されるかを依然として判断する必要があります。しかし、AI法は文書化と透明性に関する義務を定めており、これにより権利保有者はモデルがどのように開発されたかを理解し、保護された著作物が違法に使用されたと考える場合に訴訟を起こしやすくなる可能性があります。.

決定的な作業は交渉から実施へと移る

水曜日の欧州議会での採決は、最終的な手続きではありません。合意された条文は、公表され発効する前に、欧州連合理事会によって正式に採択される必要があります。それが完了すれば、義務は一度にすべて適用されるのではなく、段階的に導入されます。まず禁止されている慣行が適用され、次に汎用モデルに関する規則が適用され、その後、高リスク枠組み全体が適用される見込みです。.

導入スケジュールは、規制当局と技術開発企業との間で新たな競争を生み出している。標準化団体、各国当局、そして欧州委員会の新設AIオフィスは、企業がコンプライアンスをどのように実証するかを定義しなければならない一方で、モデルの機能は急速に進化し続けている。この課題は、システムリスク、計算能力、評価、そして下流での利用に関する測定方法が技術的に依然として議論の的となっている汎用AIにおいて、特に深刻である。.

しかし、土曜日までに政治的な方向性は明確になった。AI法案は523対46の圧倒的な賛成多数で可決され、欧州は自主的なAI原則から強制力のある法的義務へと移行する準備を進めている。問題は、リスクベースの枠組みが、法律制定プロセスよりも速いペースで進化する分野において、技術的な選択肢を固定化することなく、ユーザーを保護し、危険なアプリケーションを抑制できるかどうかである。.