Facebookは今週、世界で最も強力なテクノロジー企業の1つとしてスタートしたが、その力に対する2つの異例の直接的な挑戦に直面している。1つは、Facebook、Instagram、WhatsApp、Messengerが利用不能になった6時間にわたる世界的なシステム障害、もう1つは、同社の内部インセンティブがユーザーの安全よりも成長とエンゲージメントを繰り返し優先していたと主張する元従業員による上院での宣誓証言である。.
障害は月曜日に発生し、Facebookのグローバルインフラ全体に広がった。同社によると、データセンターを接続するバックボーンルーターの設定変更により、意図せず施設間の通信が遮断されたという。Facebookは最初の 技術アップデート、悪意のある活動やユーザーデータの漏洩の証拠はないと述べている。より詳細な 技術説明で は、メンテナンスコマンドによってFacebookのデータセンターが相互に、そしてインターネットから事実上切断された一方、内部監査ツールのバグによりコマンドがブロックされなかったと説明している。
ネットワーク内部の障害が、世界的な通信上の問題へと発展した。
今回の技術的な障害は、日常的なコミュニケーションがいかに少数のプライベートプラットフォームに依存しているかを露呈させた。Facebookのエンジニアたちは、連鎖的な問題だと説明した。基幹ネットワークが切断されると、同社のドメインネームシステム(DNS)インフラがサーバーへの経路の通知を停止し、多くの社内ツールも利用できなくなり、エンジニアたちはサービス復旧に必要な物理データセンターへのアクセスに苦労した。.
そのアーキテクチャのせいで、通常のメンテナンス作業が世界規模の障害へと発展してしまった。ユーザーは一時的に競合サービスに移行し、企業は顧客との連絡手段を失い、日常的なメッセージのやり取りにWhatsAppを多用していたコミュニティは事実上孤立状態に陥った。 ワシントン・ポスト紙 によると、Facebookのサービスが数時間にわたって利用できなかったため、障害追跡サイトのDowndetectorには約1400万件の報告が寄せられたという。
今回の障害は、消費者向けアプリケーション、広告システム、本人確認サービス、そして社内インフラが同じ基盤ネットワークに依存している場合に生じるリスクを浮き彫りにした。Facebookは、自社のシステムは意図的に複数の物理的および技術的なセキュリティ層で設計されていると述べているが、ネットワーク障害発生後、エンジニアが通常のリモートアクセスチャネルを利用できなかったため、これらの保護策が復旧を遅らせたとしている。.
技術危機に続いて、ガバナンス危機がすぐに発生した。
障害発生の翌日、元フェイスブック製品マネージャーのフランシス・ハウゲン氏は、上院商業委員会の消費者保護小委員会で証言を行った。 10月5日に行われたこの公聴会 では、フェイスブック社内で行われた、子ども、コンテンツランキング、そして同社のプラットフォームがユーザーに与える影響に関する調査に焦点が当てられた。
ハウゲン氏は書面による証言の中で、市民の誤情報対策や諜報活動に携わってきた経験から、事業目標と安全保障の間で繰り返し衝突が生じているのを目の当たりにしてきたと述べた。そして、同社のランキングシステムは、強い反応を引き起こすコンテンツはより多くのエンゲージメントを生み出す傾向があるため、分断を招くような、あるいは有害なコンテンツを増幅させる可能性があると主張した。
ハウゲン氏の証言は、9月30日に行われた公聴会に続くもので、その公聴会ではフェイスブックのグローバル安全責任者であるアンティゴネ・デイビス氏が、若年層ユーザーに対する同社の対応を擁護した。この 公聴会 、インスタグラムと青少年のメンタルヘルスに関する社内調査が検証された。委員長のマリア・カントウェル氏と小委員長のリチャード・ブルーメンソール氏は、いずれもプライバシー、透明性、児童保護に関する規則の強化に関心を示している。
中心的な問題は、Facebookがすべてをモデレートできるかどうかではなく、
新たな政策論争は、個々のコンテンツに関する決定から、Facebookのシステム自体の設計へと移行しつつある。ハウゲン氏の主張は、重要な選択は個々の投稿が審査される前に行われているというものだ。つまり、推薦アルゴリズムはどのコンテンツがより広く拡散されるかを決定し、ランキングシステムはユーザーが最初に目にするコンテンツを決定し、製品のインセンティブは特定の行動に報酬を与えるというのである。.
この区別が重要なのは、Facebookがこれまで、自動検出、コンテンツ審査、安全対策チームへの投資を強調することで、その規模を部分的に擁護してきたからである。批評家たちは、プラットフォームのエンゲージメントアーキテクチャが、下流のシステムが対処できるよりも速く害を生み出す可能性があるのかどうかをますます疑問視している。上院の9月30日の 委員会声明は、 特に児童データの連邦政府による保護強化と児童オンラインプライバシー保護法(COPPA)の改正の可能性を提起した。
Facebookは、有害コンテンツが自社のビジネスに利益をもたらしているという広範な結論に異議を唱え、長期的にユーザーと広告主の満足度を維持することが同社のインセンティブになっていると述べている。しかし、今週の出来事により、同社の内部意思決定は単なる企業方針ではなく、議会の調査対象となった。.
規模の大きさは、今やFacebookの強みであると同時に弱みでもある。
月曜日の障害と火曜日の証言は、それぞれ異なる問題に関するものだが、どちらも同じ構造的事実を示している。それは、Facebookの規模が、技術的決定と政策的決定の両方の影響を増幅させるということだ。ルーターのコマンドミスが数十億人のユーザーの通信を中断させる可能性がある。ランキングの変更が、膨大な数の人々の目にするものを変える可能性がある。エンゲージメントを高めることを目的とした製品設計が、本社をはるかに超えた社会的な行動に影響を与える可能性がある。.
同社はこれまでにも、プライバシー、選挙の公正性、コンテンツモデレーションに関する批判に直面してきた。今年初めには、上院で子どものオンライン安全に関する広範な調査が行われた。5月に 行われた商務委員会の公聴会では、 主要なテクノロジー・プラットフォームにおける操作的な設計とデータ処理方法が検証された。今回異なるのは、内部文書と、非常に目立つインフラ障害が、わずか数時間のうちに同時に発生したことである。
政策立案者にとって、差し迫った課題は透明性、独立した研究へのアクセス、未成年者の保護、そしてレコメンデーションシステムの責任に関するものである。エンジニアにとっては、今回の障害はネットワークのセグメンテーション、運用上の安全対策、復旧手順といった別の問題を提起する。Facebookにとって、これらの課題はいずれも、同社のサービスが世界の多くの地域で商業、メディア、そしてプライベートなコミュニケーションに深く浸透しているまさにその時に発生した。.
同社はネットワークを復旧させた。しかし、その上に構築されたシステムへの信頼回復は、より複雑な課題となるだろう。.