カリフォルニア州で新たに制定された13の法律により、ソーシャルメディア企業や人工知能企業に、全米でも最も広範な児童安全に関する義務が課せられることになり、若者のデジタル環境に対する責任の大部分が、家庭や学校から、それらを設計する企業へと移りつつある。AP 通信 が報じたところによると、ギャビン・ニューサム知事は9月10日にこの法案に署名した。この法案は、16歳未満の子どもに対するエンゲージメント重視のフィードを制限し、コンパニオンチャットボットに新たな規制を課し、危害に対する責任を強化し、年齢確認規則を改訂し、学校から支給されたデバイスに対する家庭の権限を強化するものである。

教育関係者にとって、この法案は重大な意味を持つ。その要件の大部分は学区ではなくテクノロジー企業に課せられているにもかかわらずだ。学校は長年、生徒の行動をその使用段階で管理しようと努めてきた。携帯電話の使用制限、ネットワークのフィルタリング、利用規約の作成、メディアリテラシー教育などだ。カリフォルニア州は今、これまでとは異なる前提を検証している。それは、製品のアーキテクチャ自体が、子ども、親、教師のより良い選択だけでは管理できないリスクを生み出す可能性があるという前提だ。.

これらの法律は、若者のテクノロジー利用をめぐる科学的または憲法上の論争を解決するものではありません。むしろ、有害な機能、年齢判定、監査証拠、有益なオンラインコミュニティへのアクセスといった、それらの論争を具体的な運用上の問題へと転換させるものです。カリフォルニア州は人口が最も多く、多くのテクノロジー企業の本拠地でもあるため、その答えは州境をはるかに超えた製品や学校の慣行に影響を与える可能性があります。.

デザインのためのルール、単なるスクリーンタイムのためのルールではない

州議会法案1709号は、1日の利用時間制限を設けるのではなく、ユーザーの注意を引きつけるための特定の仕組みを対象としている。同 法案の条文で は、中毒性のある機能としてアルゴリズムによるフィード配信や自動再生などを定義し、対象となるプラットフォームが16歳未満のユーザーにこれらの機能を提供することを禁止している。ただし、これらの機能が削除されれば、プラットフォームは未成年者がアカウントを保持することを引き続き許可できる。この区別により、同法は包括的な禁止というよりも、ユーザー体験の再設計を義務付けるものとなっている。

この区別は、情報へのアクセスと、情報を継続的に推奨する仕組みを分離するものです。時系列順のフィード、リクエストされた動画、プライベートメッセージなどは、過去の利用状況に基づいてパーソナライズされた無限のストリームとは異なるリスクを伴います。そのため、法律はインターフェースデザインを、コンテンツの単なる中立的な容器としてではなく、規制可能な変数として扱います。.

コンプライアンスは年齢確認にかかっている。プラットフォームは制限付き機能を提供する前にユーザーの年齢を確認する必要があり、関連法案ではオペレーティングシステムやアプリケーションストアから年齢区分信号を送信するための州のシステムが更新される。成立した AB 1856の 概要によると、これらの信号は法律で義務付けられている場合にのみ要求されるべきであり、年齢情報が汎用的な追跡ツールとなることを防ぐための試みである。

執行規定は厳格で、AB 1709は、故意の違反に対して影響を受けた未成年者1人につき最大5万ドル、過失による違反に対して最大2万5千ドルの民事制裁金を科すことを認めている。また、小児科、心理学、テクノロジー、市民社会、学術界、小中高教育など、幅広い分野の専門家からなる諮問委員会を設置する。この学際的な構成は、若者のテクノロジー利用をプライバシー、健康、あるいは教育現場といった観点​​だけで評価することはできないということを暗黙のうちに認めている。.

チャットボットは異なる基準に直面する

コンパニオンチャットボットに関する法律は、対話型システムが人間関係をシミュレートし、記憶を保持し、長期間にわたって子供にプライベートな応答を行うことができるため、より詳細なアプローチを採用しています。上院法案1119号は、子供のユーザーを許可する事業者に、文書化されたリスク評価の実施、児童安全ポリシーの公開、および危機対応プロトコルの実施を義務付けています。 最終案、中核となる要件は2027年7月1日に発効し、独立監査は後日開始される予定です。

デフォルトの設定は非常に具体的です。子ども用アカウントの場合、会話履歴の保存やプッシュ通知は原則として無効にする必要があります。連続セッションは1時間、1日の使用時間は2時間に制限されます(保護者が設定を変更した場合を除く)。システムは定期的に人工的な存在であることを明示しなければならず、意識があると主張したり、恋愛感情をシミュレートしたり、感情的な依存を促したり、子どもに保護者から利用を隠すよう指示したりしてはなりません。.

この法律は、メンタルヘルス機能についても明確な線引きをしている。事業者は、システムが自傷行為、摂食障害、薬物乱用を助長したり、規制対象の医療機器でない限り診断や治療を試みたりしないよう、合理的な措置を講じなければならない。差し迫った自傷行為の危険性が認められた場合、事業者は危機対応支援へのアクセスを提供するか、または連絡を取った親に通知しなければならない。ただし、通知自体が重大なリスクを生じさせない場合に限る。.

高等教育機関が特に注意すべき条項が一つあります。それは、教育現場のみでコンパニオンチャットボットを提供する高等教育機関は、法律上の「運営者」の定義から除外されるという点です。この除外は、プライバシー、障害者、消費者保護、専門職基準に基づく機関の義務を免除するものではありません。つまり、大学は、ベンダーが新たな児童向けチャットボット規制を遵守しているからといって、キャンパスカウンセリングツール、アドバイスボット、学生支援システムによって提起される個別の問題に自動的に対応できるとは考えられないということです。.

学校は安全システムの一部であり続ける

カリフォルニア州のこの法案は、学校が単に個人用デバイスが持ち込まれる場所ではなく、テクノロジーへの入り口としての役割をますます強めている中で発表された。 新たな措置 には、学校から支給されるノートパソコンを拒否する家族の権限強化が含まれる一方、最年少の生徒を対象とした別の提案では、持ち帰りが義務付けられているデバイスを制限し、州独自のモデルポリシーを求める内容となっている。法律がプラットフォームに直接適用される場合でも、学校関係者は調達、アカウントのプロビジョニング、保護者からの質問、生徒サポートの手順などを通じて、その影響を受けることになるだろう。

実際的な問題は、製品カテゴリーが重複している点です。学習プラットフォームは、ソーシャルメディアとして販売されていなくても、メッセージング、レコメンデーション、生成型AI、パーソナライゼーションなどの機能を備えている場合があります。汎用チャットボットは、学区がライセンスを取得していなくても、学校のブラウザからアクセスできる可能性があります。規制対象となるリスクは、当初の契約後に追加された機能に存在する可能性があるため、管理者は組み込み機能を特定できるインベントリを作成する必要があります。.

学校は予防と対応の境界にも位置しています。市販のチャットボットが保護者に安全上の懸念を知らせた場合、生徒はすぐに支援が必要な状態で登校するかもしれません。そうでなくても、教師やカウンセラーが最初に生徒の苦悩に気づく大人となる可能性があります。 アメリカ教育アカデミー は、単一の普遍的なスクリーンタイムの数値ではなく、健全な習慣と状況を重視した教育者向けの資料を提供しており、法的規制は人間関係、専門家の判断、ケアへのアクセスに取って代わることはできないと強調しています。

証拠はガードレールと謙虚さを支持している

カリフォルニア州のデザイン重視のアプローチは正当な懸念を反映しているが、ソーシャルメディアの利用すべてが精神疾患を引き起こすという単純な主張を裏付ける証拠はない。 連邦政府の勧告 によると、13歳から17歳の子どもの最大95%がソーシャルプラットフォームを利用しており、ある長期研究では、1日3時間以上の利用は精神衛生状態の悪化リスクを2倍に高めることが分かった。同報告書は、その影響は子ども、コンテンツ、活動内容、そして利用によって睡眠、運動、対面での交流がどれだけ阻害されるかによって異なると強調している。

全米科学アカデミーの コンセンサスレビュー も同様に、社会的つながり、アイデンティティ形成、情報へのアクセスなど、害と利益の両面から問題を捉えている。この複雑さが重要なのは、最も強力な政策論拠は、すべてのデジタルインタラクションが危険だということではなく、発達への影響に関する独立した証拠が限られているシステムによって、子どもたちがすべてのリスクを負うべきではないということだからである。

批評家たちは、カリフォルニア州のこの措置には別の危険性があると主張している。電子フロンティア財団は、 広範な 定義によって若者が有益なコミュニティから排除される可能性があり、年齢確認には機密性の高い個人情報の収集が必要になる可能性があると反対している。AB 1709は、諮問委員会にプライバシー、正確性、実現可能性、そして社会的に疎外された若者への影響を調査するよう指示することで、こうした緊張関係の一部を予測しているが、諮問機関だけでは過剰な情報収集を防いだり、憲法訴訟を解決したりすることはできない。

したがって、実施は制定と同じくらい重要となる。規制当局は、適切な年齢表示とプライバシーを侵害する本人確認を区別する必要があり、監査人は書類上のチェックにとどまらず、より広範な内容を検証できる十分な独立性を備えている必要があり、公表される情報は、子どもの個人情報を漏らすことなく、家族や機関に十分な情報を提供できるほど詳細でなければならない。これらの条件が不十分であれば、安全対策は形式的な遵守を実現するだけで、製品の本質的な特性は変わらないままになってしまう可能性がある。.

教育者にとっての教訓

K-12教育機関のリーダーにとって、カリフォルニア州のこのパッケージは、デジタル安全管理を生徒の行動規範の問題であると同時に、製品管理の問題にも位置づけるものです。教育機関にとって直接的な影響は、承認されたサービスのうち、パーソナライズされたフィード、関連機能、永続的なメモリ、通知、年齢確認機能などが含まれているサービスを特定し、それらの機能を教育サービス自体を削除せずに無効にできるかどうかを把握する必要があることです。調達審査では、価格、アクセシビリティ、サイバーセキュリティ、教育への適合性に加えて、安全性評価、インシデント報告チャネル、監査スケジュール、製品の重要な更新内容なども検討する必要があるかもしれません。.

教員や学生支援スタッフにとって、これらの法律は、製品レベルの安全対策が向上しても、デジタルリテラシーは依然として必要であることを明確にしています。学生は、意図的な説得、自動アドバイスの限界、チャットボットの応答と資格のある人間のサポートの違いを理解する必要があります。また、テクノロジーが自傷行為、搾取、または深刻な苦痛に関わる懸念を引き起こした場合、教育機関は明確なエスカレーション経路を整備する必要があります。.

高等教育機関のリーダーにとって、コンパニオンチャットボット法における教育機関向けの明確な免除規定は、安易に受け入れるのではなく、注意深く読み込むべき事項である。アドバイス、個別指導、ウェルビーイング支援ツールを開発する大学は、この法律の下では義務が少なくなる可能性があるものの、記憶、依存性、情報開示、そして人間の審査といった問題は依然として残る。カリフォルニア州の実験は、教育関係者が法的遵守を最低限の基準とし、それぞれの技術が、回避可能な発達上の問題、プライバシー侵害、あるいは安全上の問題を引き起こすことなく、明確に定義された教育目的を推進するかどうかを評価する場合に、最も有益なものとなるだろう。.