イタリアのデータ保護当局は金曜日、OpenAIがChatGPTを通じてイタリア人ユーザーの個人データを処理することに対し、即時かつ一時的な制限措置を課した。これは、急速に成長している生成型人工知能サービスに対する、これまでで最も重大な規制介入となる。.

イタリアの規制当局であるガランテは、 3月31日付の命令 、プライバシーに関する通知、アルゴリズムの学習に使用される個人情報の大規模収集の法的根拠、システムによって生成された不正確な個人データ、およびユーザーの年齢を確認する効果的なメカニズムの欠如に関する懸念を特定したことを受け、調査を開始したと述べた。また、3月20日に発生したセキュリティインシデントにより、一部のユーザーのチャットタイトルと一部の支払い情報が漏洩したことも指摘した。

トレーニングデータがAI議論の中心に躍り出る

この命令は、単なるデータ漏洩の仕組みにとどまらない。ガランテは、ChatGPTの基盤となるアルゴリズムの学習に使用される個人データの「大規模な収集と処理」を裏付ける法的根拠は存在しないようだと述べた。この異議申し立ては、現代の生成型AIにとって根本的な問題、すなわち、インターネット規模の情報を広範囲に取り込むことが、合法性、透明性、比例性に関する欧州の要件を満たすことができるかどうかという問題に焦点を当てている。.

OpenAIは、自社のモデルは公開情報、ライセンスを受けた資料、および人間のトレーナーが作成したデータを組み合わせて学習させたシステムであると説明しているが、同社は学習資料の包括的なリストを公開していない。規制当局の介入により、どのような個人データが使用されているのか、その処理が合法である理由、そしてモデルの出力に個人に関する不正確な情報が含まれている場合に個人がどのような権利を有するのかについて、より正確な説明を求められる可能性がある。.

この決定は、OpenAIがGPT-4をリリースしてからわずか2週間後のことだった。GPT -4は、画像とテキストの両方の入力を受け付けることができ、同社によれば、多くの専門分野や学術分野のベンチマークにおいて、以前のシステムよりも大幅に優れた性能を発揮するという、より高性能なモデルだ。このリリースは、商業的な関心とシステムの信頼性に対する厳しい目の両方を強めている。

3月20日の侵害により緊急性が増した

OpenAIは、一部のユーザーが他のユーザーの会話のタイトルを見ることができたため、3月20日にソフトウェアのバグによりChatGPTがオフラインになったことを明らかにした。詳細な インシデントレポート、同社は、同じバグにより、9時間の間にアクティブだったChatGPT Plus加入者の1.2%について、氏名、メールアドレス、支払い先住所、カードの有効期限、カード番号の下4桁などの支払い関連情報が漏洩した可能性があると述べた。

今回の事件ではクレジットカード番号の全容が漏洩したわけではなく、OpenAIは影響を受けたユーザーに連絡を取ったと述べている。しかし、これは何百万人もの人々が執筆、コーディング、研究、そしてますます機密性の高い会話に利用するサービスに潜むプライバシーリスクを具体的に示す事例となった。.

したがって、Garanteの措置は、2つの異なる規制上の問題、すなわち、情報漏洩を取り巻く従来のサイバーセキュリティ義務と、生成型AIシステムが個人情報を大規模に合法的に収集、推論、複製できるかどうかというより広範な問題を組み合わせたものである。.

イタリアが西側諸国における最初の主要な試金石となる

ガーディアン 紙は 金曜日、イタリアが規制当局の調査中にChatGPTへのアクセスを制限する措置を講じたと報じた。これは、同サービスに対してこのような直接的な措置を取った最初の西側諸国となる。OpenAIはこれに対し、イタリアでのアクセスを無効化し、プライバシー法を遵守しているとの見解を示した。

ユーロニュースによると 、OpenAIは法令遵守のために講じた措置を20日以内に報告するよう命じられた。欧州一般データ保護規則(GDPR)では、違反した場合、規定や状況に応じて、最大2000万ユーロまたは全世界年間収益の4%の罰金が科される可能性がある。

今回の規制措置は、執行上の難しい問題も提起している。ChatGPTはグローバルに展開するクラウドサービスである一方、プライバシー法は地域的かつ権利に基づくものである。OpenAIは地理的なアクセス制限は可能だが、根本的な問題を解決するには、データガバナンス、通知、年齢制限、モデル開発、情報訂正の手順など、単なる地理的なブロックではなく、様々な変更が必要となる可能性がある。.

高度なAIに対する圧力は拡大している

イタリアの今回の動きは、高度なAIシステムをどの程度の速さで導入すべきかという、より広範な議論の中で起こった。1000人以上の技術研究者や経営幹部が、 公開書簡 に署名した。この書簡は規制文書ではなく、提案されている停止期間は任意だが、ガバナンスが技術力よりも遅れていることへの懸念が広がっていることを示している。

同時に、商業的な競争も加速している。マイクロソフトはOpenAIの技術を検索ソフトウェアや生産性向上ソフトウェアに組み込み、グーグルは独自の対話型システムを開発し、スタートアップ企業は大規模な言語モデルを基盤としたアプリケーションを構築している。経済的なインセンティブは迅速な導入にあり、プライバシーと安全に関する規制当局は、業界標準が確立される前に導入によって義務が発生する可能性があることを示している。.

TechCrunchの同時期の報道 によると、イタリアの裁判所は透明性だけでなく、ChatGPTによって生成された個人データの正確性にも疑問を呈している。これは、生成モデルにとって特に重要な問題である。なぜなら、生成モデルは従来のデータベースとは異なる方法で事実を取得するからである。生成モデルは統計的に可能性の高い言語を生成し、自信満々ではあるものの誤った発言を生み出す可能性がある。

Investing.comがロイター通信の報道を引用して伝えたところによると、イタリア当局は調査を進める一方で、即座に措置を講じたという。GDPRは欧州連合全体に適用されるものの、執行を主導するのは各国の規制当局であるため、他の欧州のデータ保護当局もこの件を注視する可能性が高い。

この結果は、生成型AIにプライバシー法がどのように適用されるかを示す初期の青写真となる可能性がある。中心的な問題はもはや理論上のものではなく、モデルのトレーニングにどのようなデータが使用できるのか、ユーザーには何を通知する必要があるのか​​、未成年者はどのように除外または保護されるのか、不正確な個人情報はどのように修正されるのか、そしてモデルがそのような情報を生成した場合、誰が責任を負うのか、といった点である。イタリアはこれらの問題を正式な規制プロセスに持ち込み、ChatGPTを単なる技術現象ではなく、既存のプライバシー法が新しい種類の機械学習システムを規制できるかどうかの試金石とした。.