Appleは、人身売買や児童搾取を助長するアプリはApp Storeから削除され、他の配信方法もブロックされることを明確にした。10月16日に公開されたこの 変更は、同意のない性的画像や、実際の機能を隠蔽するアプリに対する保護措置も強化している。これらの改訂により、有害なコンテンツとAppleの審査プロセスを回避しようとする試みの両方に対する結果が明確になった。
Appleは、今回の人身売買に関する規定を、既存の禁止事項の明確化であると説明している。同社は別の 説明、自社のストアはこれまでも人身売買や児童搾取を助長するアプリ(児童性的虐待コンテンツを含む)を排除してきたと述べている。今回の発表では、新たな違反アプリのグループや、今回のアップデートによる削除件数は明らかにされていない。
App Store以外の制限
第5項に基づき、Appleはこのような極端なケースでは関係当局に通知すると述べています。配信停止措置は、App Storeの掲載停止にとどまりません。Appleの説明では、児童性的虐待コンテンツが既存の禁止事項の対象となることが具体的に明記されています。
代替配信は、Appleの独自の承認フレームワーク内で運用されています。同社の 公証ガイドで は、開発者は審査ガイドラインの一部に基づいてアプリを審査に提出することで、サードパーティのマーケットプレイスや、欧州連合(EU)では自社ウェブサイトなどの代替チャネルでの配信資格を得ることができると説明されています。これらの文書を総合的に読むと、App Storeからアプリを削除しても、Appleの配信システムにおけるこれらの制限から免除されるわけではないことが分かります。また、アプリやサービスをインターネットから削除する権限についても説明されていません。
AI画像には明確な義務が伴う
更新されたモデレーション規定は、被写体の同意なしに作成された親密な画像(人工知能で生成されたものを含む)を具体的に対象としている。Appleは、開発者はそのようなコンテンツを積極的に防止し、出現した場合は削除しなければならないと述べている。The Vergeが 報じたように、適切な対策が講じられていない場合や、違反を指摘された後も是正措置を講じない場合は、アプリの継続的な提供が危ぶまれる可能性がある。
ガイドライン1.2の条文は、ソーシャルメディア、ユーザー投稿プラットフォーム、AIコンテンツ作成アプリを明確に対象としています。その要件には、不適切なコンテンツのフィルタリング、迅速な対応が可能な報告メカニズムの提供、ユーザーによる悪質なアカウントのブロック機能、連絡先情報の公開などが含まれます。開発者は、ガイドラインまたは自社の基準に違反するコンテンツを削除する責任を負います。
隠れた機能によって開発者のアカウントが失われる可能性がある
Appleは、隠蔽された機能の禁止についても、ガイドライン2.5.19という専用の条項を設けた。同社の 変更履歴 によると、これは以前ガイドライン2.3.1で規定されていた長年のポリシーを改めて示したものだという。問題となるのは、アプリが審査のためにある一連の機能を提示し、承認後に別の、非公開の機能を公開してしまうケースである。
この 新しい規定では、 コードの難読化などによって文書化されていない機能を隠蔽しようとする行為を、アプリの削除および開発者アカウントの停止の根拠として定めている。9to5Mac は 、この禁止事項自体は既に存在していたものの、改訂された文言によって、その結果と隠蔽方法がより明確になったと指摘している。Appleの解説では、審査を通過した後で初めて悪質な画像生成機能を明らかにするアプリを、この規定が対象とする行為の例として挙げている。
執行こそが実務上の試金石となる
Appleが公表している 執行プロセス には、コンテンツの削除とコンプライアンス計画の提出要求が含まれます。アプリは改善されるまで削除される場合があります。重大な不正行為や繰り返しの不正行為は、App Storeからの即時削除とAppleの開発者プログラムからの除名につながる可能性があります。これらはポリシー規定であり、個々のケースにおける適用例を示すものではありません。
今回の 広範なアップデート では、クリエイティブアセットに関するルールが追加され、外部購入リンクに関する記述も改訂されました。開発者は改訂された英語のガイドラインを参照できるようになり、Appleは1か月以内に翻訳版を公開すると約束しています。セキュリティに関する変更については、明確化されたルールがどのように適用されているかを評価するために、文書化された執行決定が必要となります。