アップルは木曜日、iCloud Photosに保存される写真を、ユーザーのデバイスから送信される前に、既知の児童性的虐待資料の暗号化された指紋と比較する新しい児童安全システムを発表した。同社は、この技術的な変更により、プライバシーを保護しながら違法な資料を特定できると述べているが、セキュリティ研究者や市民の自由擁護者からは即座に懸念の声が上がっている。.
この計画されているシステムは、Appleが今年後半にソフトウェアアップデートで導入予定の3つの保護機能のうちの1つです。同社はまた、メッセージアプリで子供用アカウントが送受信した性的に露骨な画像をデバイス上で分析する機能を追加し、Siriと検索の応答を拡張して、ユーザーを子供の安全に関するリソースに誘導するようにする予定です。MacRumorsの 記事 によると、これらの機能はまず米国でiOS 15、iPadOS 15、macOS Montereyとともにリリースされる見込みです。
NeuralHashは一致するコンテンツをデバイス上に移動します
最も重要な機能はiCloud Photosに関するものです。Appleによると、同社のシステムはNeuralHashと呼ばれる知覚ハッシュ技術を用いて画像の数値表現を作成するとのことです。写真がiCloud Photosに保存される前に、デバイスは、全米行方不明児童・被虐待児童センター(NCMEC)やその他の児童保護団体から提供された既知の児童性的虐待画像(CSAM)のハッシュから作成された判読不能なデータベースと、そのハッシュを比較します。.
Appleの 技術概要 によると、ニューラルハッシュ、プライベートセット交差、および閾値秘密分散を組み合わせることで、Appleが通常の写真や個別の一致について知ることができないようにする仕組みになっている。画像が既知のCSAMハッシュと一致すると、デバイスは暗号化された安全証明書を作成し、画像とともにiCloudに送信する。Appleは、アカウント内の一致数が閾値を超えない限り、これらの証明書を解釈することはできないとしている。
その閾値を超えた場合にのみ、Appleは一致する画像に関連付けられた情報を復号化し、人間の目による確認を行い、問題が確認された場合はアカウントを無効化し、NCMEC(全米行方不明・被搾取児童センター)に報告する。Appleは、この仕組みによりアカウントが誤ってフラグ付けされる可能性は極めて低く、クラウドサーバーに到達したすべてのファイルをスキャンするよりもプライバシー保護に優れていると述べている。.
TechCrunchの 技術的な解説 では、重要な制限事項が指摘されている。それは、このシステムがiCloud Photosに依存しているという点だ。iCloud Photosに写真をアップロードしないユーザーは、自分のデバイスにのみ保存されている画像については、児童性的虐待画像(CSAM)の照合プロセスの対象とならない。
チャイルドセーフティパッケージには、2つの独立したスキャンシステムが含まれています。
iCloudシステムは、メッセージアプリの別の機能とは異なります。iCloudファミリー共有の子供用アカウントの場合、Appleはデバイス上の機械学習を使用して、性的に露骨な画像を識別する予定です。画像はぼかされ、子供が閲覧または送信する前に警告が表示されます。幼い子供が関わる場合、子供が閲覧を続けることを選択した場合、親に通知されることもあります。.
同時期に 9to5Macが報じた ところによると、Appleは、画像分類はAppleのサーバーではなくデバイス上で行われるため、iMessage自体はエンドツーエンド暗号化されたままになると述べている。また、同社は、ユーザーが児童搾取に関連するコンテンツや情報を検索した場合に、Siriと検索機能に介入する仕組みを追加している。
これらは技術的には目的の異なる別々のシステムです。一方はiCloudに保存された写真を既知の違法コンテンツのハッシュ値と照合し、もう一方は子供が関わる通信に含まれるわいせつな可能性のある画像を分類します。しかし、これらが同時に発表されたことで、Appleデバイスがローカルで検査する範囲の拡大を示すものとして、まとめて議論されるようになりました。.
プライバシー擁護派は、この仕組みが悪用される可能性を懸念している。
最も強い批判は、アップルが児童虐待関連のコンテンツを検索する意図を持っていることではない。個人用デバイス上でコンテンツ照合の仕組みを構築することで、政府や将来の企業方針によって拡大しようとする可能性のあるアーキテクチャが確立されてしまうという点だ。.
電子フロンティア財団(EFF)は 分析 、暗号化技術が通信中のメッセージを保護し続けるとしても、クライアント側での検査はプライベート通信の実用性を損なうと主張した。EFFの懸念は、ソフトウェアが暗号化やクラウドストレージの前にデータベースや分類器と照合してコンテンツを評価できるようになると、理論的には同じ基本的な仕組みが他の種類のデータにも適用される可能性があるという点にある。
Appleは、CSAMデータベースの定義は厳密に限定されており、照合には認知された児童保護団体のハッシュ値を使用していること、通常のサーバー命令では個々のユーザーを標的にすることはできず、アカウントが報告される前に人間の審査によって追加の安全対策が講じられていると述べている。同社はこれらの対策を、批判者が懸念するような事業拡大に対する技術的な障壁として提示している。.
しかし、セキュリティ研究者たちは、より広範なガバナンス上の問題、つまり、政府が変更を要求した場合に、一企業が構築・管理するいかなる安全対策も限定的なものにとどまることができるのか、という疑問を投げかけている。AppleInsider の報道 によると、同社はデバイス上での照合や暗号化されたクーポンを通じてユーザーのプライバシー保護に努めている一方で、そのアーキテクチャが将来的な監視への懸念を既に引き起こしていることを認めているという。
アップルは出荷前からこのシステムを擁護している
詳細が明らかになると、すぐに反発が始まった。金曜日までに、 9to5Mac 、一部の人々がその影響を懸念していることを認め、同社は保護策の仕組みについて引き続き説明していくと記されていた。このメモは、Appleのプライバシー保護への取り組みを放棄することなく、子供たちを保護するための取り組みとして、このプロジェクトを位置づけていた。
批評家たちは、システムの導入を待ってはいない。金曜日までに出回った公開書簡( AppleInsider )は、Appleに対し計画の中止を求め、たとえ善意に基づくシステムであっても、より広範なプライバシー保護を損なう可能性のあるバックドアを生み出すと主張している。この論争は、安全機能とデバイスレベルの監視の境界線をめぐる議論に、技術者、市民自由団体、著名人を巻き込んだ。
この決定は、暗号化システムが信頼できる場所を再定義する可能性がある。
その技術的な意義は、Appleだけにとどまらない。長年にわたり、暗号化に関する中心的な議論は、暗号化後の通信内容に政府が例外的にアクセスする権利を持つべきかどうかという点に集中してきた。Appleの設計は、この問題に別の方向からアプローチしている。つまり、クラウドストレージによって保護される前、あるいはエンドポイント上のソフトウェアがまだアクセスできる段階で、特定のコンテンツを評価するのだ。.
その区別は極めて重要となる可能性がある。アップルは、自社の設計は個人データを広範囲に漏洩させることなく、限定されたセキュリティ目標を実現できると主張している。一方、批評家たちは、暗号化アルゴリズム自体が数学的に健全なままであっても、エンドポイントの検査はプライバシーを損なう可能性があると指摘している。.
このシステムはまだ出荷されておらず、その実用的な安全対策も大規模なテストは行われていない。そのため、Appleは発売前に2つの技術的な課題に直面している。1つは、マッチングおよび閾値システムが謳っている精度で機能することを証明すること、もう1つは、この仕組みが設計された狭い範囲を超えて転用されることはないことをユーザーに納得させることである。.
同社は、プライバシーを製品機能の一つと捉える考え方を基盤に、現代のブランドイメージを構築してきた。今週の発表は、その約束を異例の厳しい試練にさらすものだ。Appleは、デバイスが汎用的な検査システムになることなく、既知の児童虐待コンテンツを特定できることを証明しようとしている。ユーザーとセキュリティ専門家がこの区別を受け入れるかどうかは、iOS 15の評価だけでなく、所有者のデータを他者が閲覧する前に分析できるほど強力なデバイスにおいて、プライバシーがどこまで及ぶのかという、より広範な議論にも影響を与える可能性がある。.