それは不具合ではない：Metaによる組織的なパレスチナ言論の検閲

Access Now

注：以下の投稿には暴力と戦争への言及が含まれている。

2023年10月7日にハマスがイスラエルを攻撃し、イスラエル軍がその反撃としてガザへの空爆を開始して以来、パレスチナ人や親パレスチナ派の声はMetaのプラットフォーム全体で検閲・抑圧されてきた。この検閲の新たな波は、ガザ地区での「黙示録的な」暴力と、ジェノサイドに対する国連や国際司法裁判所（ICJ）から厳しい警告と重なり、Meta社がパレスチナ関連のコンテンツを組織的に検閲してきた長い歴史に拍車をかけている。同社は「特定のコミュニティや視点を抑圧する意図はない」と述べているが、われわれの文書からは逆の結論が導かれている。この検閲のパターンは決して不具合ではない。

本レポートでは、Meta社がいかに組織的にパレスチナ人とパレスチナ人の権利を擁護する人々の声を沈黙させているかを示す。我々はこの検閲の根源を掘り下げることで、同社がその権利侵害的で差別的なコンテンツモデレーションポリシーを見直し、戦争犯罪、人道に対する罪、ジェノサイドへの加担を避けるための行動を起こすよう強く求める。

インスタグラムとフェイスブックの検閲パターン

イスラエルが昨年10月にガザへの空爆を開始した直後から、パレスチナ人や親パレスチナ派から、フェイスブックやインスタグラムなどのソーシャルメディア・プラットフォーム上で、自分たちのコンテンツが検閲・抑圧されていることが報告され始めた。各プラットフォームは、ガザ内外のパレスチナ人ジャーナリストや活動家のアカウントを停止・制限し、残虐行為や人権侵害に関する文書をはじめ相当量のコンテンツを恣意的に削除した。

このようなオンライン検閲の事例は、オンライン検閲どれほど横行し、組織的で、グローバルなものであるかを示している。例えば、ヒューマン・ライツ・ウォッチ（HRW）は、世界60カ国以上から発信されたパレスチナへの支持を表明する平和的なコンテンツが、2023年10月から11月にかけて削除された事例を1049件記録している。一方、Palestinian Observatory for Digital Rights Violations（7or）は、2023年10月7日から2043年2月9日の間に、フェイスブックやインスタグラムなどで約1,043件の検閲を記録している。コンテンツの削除から不透明な制限に至るまで、以下の事例は、2023年10月7日以降に記録されたMetaプラットフォームにおける検閲の主要なパターンを示している。紹介する事例は、我々に直接報告されたものもあれば、影響を受けた個人によって公表されたものも含まれる。

恣意的なコンテンツ削除

著名なパレスチナおよびパレスチナ関連アカウントの停止

親パレスチナ派ユーザおよびコンテンツの制限

シャドウBAN

なぜMetaはパレスチナの声を検閲するのか？

Metaによるパレスチナの声やパレスチナ関連コンテンツの検閲は、今に始まったことではない。しかし近年、それはますます顕著になり、組織的な検閲、アルゴリズムによるバイアス、差別的なコンテンツモデレーションというパターンが裏づけられている。2021年のシェイク・ジャラー抗議デモでは、パレスチナの権利を支持するソーシャルメディアコンテンツが消去、削除、シャドウBANされ、そのようなコンテンツを共有するユーザはコメントやライブストリーミングを停止・妨害され、親パレスチナ派のハッシュタグは抑制された。Meta社はあくまでも「技術的な問題」として片付けようとしている。

我々の最新レポートが示すように、パレスチナのジャーナリストや活動家のアカウントは日常的に凍結や制限を受け、コンテンツは恣意的に削除されている。このような組織的検閲は、まさに危機的状況下で横行している。不透明で差別的なコンテンツモデレーションルールの副産物であり、歴史的に抑圧され、疎外されたコミュニティに不釣り合いな影響を与える方法で実施されている。

欠陥かつ差別的なコンテンツモデレーションポリシー

Metaの検閲は、直近では2023年12月に更新された、問題のあるDOIポリシーによって触媒されている。このポリシーは、「現実世界での危害を防止し、混乱させるために」指定されたグループや個人を賛美、支援、表現することを禁止している。このポリシーは、オンライン上の暴力扇動対策ではあるが、個人やグループの「賛美」や「支持」という曖昧かつ広範に解釈しうるポリシーは、表現と意見の自由の権利に基づいて保護されるべき正当なコンテンツさえ捕捉してしまう掃討網を作り出している。

そもそもMeta社は誰を「テロリスト」と指定したかを公表しておらず、また、どのように、そしてなぜ指定したかも共有しようとしない。同社は、米国政府が外国テロ組織（FTO）や特別指定グローバル・テロリスト（SDGT）としてブロックリストに掲載された団体を指定していることは認めているが、それ以外は秘密のままだ。しかし、ウェブメディア『インターセプト』が2021年に公表したリーク文書の中で、Metaが「テロリスト」とラベリングしていたのは、大部分がアラブやイスラム圏のグループや個人であった。その中にはハマスやパレスチナ解放人民戦線（PFLP）などの武装勢力だけでなく、パレスチナの政治団体も含まれていた。

Meta社が2021年のイスラエル／パレスチナ紛争時のコンテンツモデレーションに関する人権デューデリジェンス報告書は、このような秘密主義的かつ政治的な指定が有害な影響を与えることを裏付けている。調査を実施したBSRは、Meta社のパレスチナ関連コンテンツの過剰モデレーションは、「指定外国テロ組織に関する特定の法的義務を組み込んだMeta社のポリシー」によるところが大きいことを見出した。報告書では、「ガザの統治主体としてのハマス、および指定組織に所属する政治家候補の存在によって」、パレスチナ人がMetaのDOIポリシーに違反したとみなされる可能性が高いと指摘された。つまり、パレスチナ人がハマスなどの団体に言及しただけのコンテンツを投稿した場合、たとえそれが事実に基づいた報道やハマスを批判するものであったとしても、自動的に検閲されたり、アカウントが凍結されたりするおそれがあるということだ。

しかし、バイアスがかかっているDOIポリシーだけではない。Meta社はヘイトスピーチポリシーに基づき、「シオニスト」に批判的なコンテンツを削除している。同社は、「シオニスト」という言葉がイスラエルやユダヤ人の個人やグループを攻撃するための代名詞（proxy）として用いられたコンテンツだけを削除していると主張しているが、このポリシーは2021年に人権団体や進歩的ユダヤ人、ムスリム・コミュニティ団体から広く批判された。ガザでの大虐殺が始まって4ヶ月が経過した2024年2月、Meta社はポリシーの執行範囲を拡大する可能性を視野に入れ、新たに市民社会との協議を開始した。アクセス・ナウが以前から警告しているように、「シオニズム」のような歴史的にも政治的にも複雑な用語の制限は、慎重なニュアンスと熟慮のもとに検討されるべきである。「シオニズム」という言葉を含むだけで自動的にフラグを立てるような包括的なポリシーを導入することは、検閲や悪用への扉を開くことになる。すでに2017年、『ガーディアン』紙は流出したMeta社のコンテンツ・モデレーター向けトレーニング資料を公開しているが、そのスライドにある「想定される暴力：アビューズの基準」には、グローバル／ローカル双方の「脆弱な」グループとして「シオニスト」がリストアップされていた。このような政治イデオロギーの特別扱いは、人々の表現の自由の権利を損ない、オンラインでの批判的な公開討論を阻害する。

一貫性を欠く差別的なルール適用

現在のイスラエルによるガザ攻撃に対するMetaの対応は、例えば2022年2月のロシアの不法なウクライナ侵攻への対応に比べると、明らかに懲罰的で差別的である。BSRの2022年人権デューデリジェンス報告書が強調したように、意図的でないにせよ、パレスチナ人や親パレスチナ人のユーザの権利を犠牲にして、イスラエル人ユーザの保護を優先するコンテンツモデレーションルールを実施する歴史的なパターンに従っている。例えば、アラビア語のコンテンツが過剰にモデレートされる一方で、ヘブライ語のコンテンツは過小にモデレートされている。これは、ヘブライ語のヘイトスピーチや暴力扇動がMeta社のプラットフォームで横行しているにもかかわらず、同社がヘブライ語の分類器（Classifier）を開発せず、そのようなコンテンツを検出して削除してこなかったためである。2023年9月、Meta社は敵対的言論のためのヘブライ語分類器の開発を完了したと発表したが、2023年10月の時点では、まだ運用されていないと報道されている。

ガザでの大量虐殺、さらには世界中でパレスチナ人への暴力が増加している証拠があるにもかかわらず、Metaはパレスチナ人の安全を脅かす脅威をほとのど無視してきた。10月7日以来、Metaは、イスラエル政府関係者や幅広いリーチを持つ検証済みのイスラエル国家アカウントを始めとする様々なアカウントによって、同社プラットフォーム上にパレスチナ人に対するヘイトスピーチ、非人間化、虐殺的なレトリックが過去に類を見ないほどに爆発的に拡散したにも関わらず、適切にモデレートすることはできなかった。

例えば2023年11月、7amlehの調査により、Metaがイスラエルの右翼団体による、米国内の親パレスチナ活動家の暗殺を呼びかける広告や、「パレスチナ人のためのホロコースト」、「ガザ地区の女性や子供、高齢者」を一掃するよう呼びかける広告を承認していたことが明らかになった。ヨルダン川西岸地区とガザ地区のパレスチナ人の民族浄化を促進するイスラエルのページやターゲット広告も10月以降増加しているが、これもまた新しいトレンドではない。2021年には、ユダヤ人入植者たちがWhatsAppを使ってイスラエルのパレスチナ市民に対する暴力的攻撃を組織していた。

『ウォールストリート・ジャーナル』紙は、10月7日の襲撃事件後、Metaがコンテンツフィルターを操作し、中東、とりわけパレスチナで生成されたコンテンツにより厳しい基準を適用したことを報じている。具体的には、コミュニティ・ガイドラインに違反するコメントを検出して非表示にするためのアルゴリズムの閾値が、中東のコンテンツについては80％から40％に、パレスチナのコンテンツについては25％にまで引き下げられた。

Metaのダブルスタンダードは、同社の監督委員会が最近裁定した2つのケースからも説明できる。これらのケースでは、MetaがDOIポリシーの例外としてイスラエル人の人質を表したコンテンツをプラットフォーム上で共有することが許可された。最初の事例では、Metaは当初、DOIポリシーに従って、人質となったイスラエル市民を表すコンテンツを削除していたが、後に、人質が置かれている苦境を知らせ、10月7日の攻撃に関する偽情報を否定する必要があるとして、ポリシーの例外を適用して削除したコンテンツを復旧した。

市民社会はMetaに対し、ガザのパレスチナ人への被害を表すコンテンツについてもポリシーの例外を認めるよう繰り返し要請したが、全く応じる気配はない。Metaはパレスチナの声を積極的に検閲し、彼らの話を封じ込め続けている。

恣意的で誤ったルール適用

これまで何度も目にしてきたことだが、Metaのコンテンツモデレーションツール、とりわけその自動決定は、訓練が不十分で、目的にかなっておらず、特に英語以外の言語での使用に適していない。2020年にリークされた文書によれば、テロリストのコンテンツを検出するMetaのアルゴリズムは、77％の確率で非暴力的なアラビア語のコンテンツを誤削除していた。Metaの自動コンテンツモデレーションツールへの依存度を考えると、受け入れがたいエラー率である。Metaは先日、「社会的・政治的言説の文脈」において、指定されたグループへの中立的・批判的な言及を認めるようDOIポリシーを改定したが、これを大規模に実装できるとは思い難い。指定されたグループへの中立的な言及と賞賛とを区別するには、関連する政治的、地域的、歴史的文脈についてのニュアンスを理解しなければならないが、Metaのアルゴリズムにそのようなことは期待できない。

Metaのツール、精度、エラー率に関する透明性の欠如は、DOIポリシーを複数回違反した個人を罰するペナルティ・ストライク・システムと相まって、プラットフォーム上の適法かつ非暴力的な言論の検閲を生み出す破滅的なレシピとなっている。そしてこのパターンは、Metaがインスタグラムやフェイスブックのコンテンツのモデレーションを自動化ツールに過剰に依存していることによって、さらに加速する。

人権はつまみ食いできない

Metaは、人権を尊重し、ユーザの安全を確保する時と、そうでない時を都合よく選ぶことはできない。「危機的状況下におけるコンテンツ・ガバナンスに関する原則」の中で以前に述べたように、Metaや他のソーシャルメディア・プラットフォームは、特に戦時下において、そのコンテンツ・モデレーション・ポリシーと実践が人々の基本的権利や自由に及ぼす悪影響を特定・緩和するために、権利を尊重した危機プロトコルを開発しなければならない。

ガザで展開しているジェノサイドの状況を踏まえ、Metaは、パレスチナ人とその支援者が安全かつ自由に情報にアクセスし、共有できるようにするため、コンテンツモデレーションの方法に細心の注意を払わなければならない。

2021年、市民社会組織の連合はMeta社に対し、そのコンテンツモデレーションの慣行とポリシーを全面的に見直し、パレスチナ人の声を組織的に検閲することをやめるよう求めた。それから2年以上が経過したが、我々の要求はいまだ満たされていない。今こそ、Meta社はこの問題に取り組まねばならない。

How Meta censors Palestinian voices