（文中敬称略／「Global Fact10報告」はYahoo!ニュースエキスパートでの初出が2023年7月〜8月にかけてであるため、紹介されている投稿の消滅やサービス名の変更が生じております。）
（「その1-前編」から続く）
世界各地からミスインフォメーション、ディスインフォメーションと戦うファクトチェッカーが集まる「Global Fact10（グローバルファクト・テン、以下『GF10』と表記）」（2023年6月27日〜30日 ソウル）の報告1回めの後編です。
メインゲストのひとり、ツイッターの元「信頼と安全チーム」の責任者、ヨエル・ロスの発言を通して、ソーシャルメディアを安心で活気ある意見交換の「場」として成立させる「コンテンツ・モデレーション」の課題と、これからについて考えます。
米大統領選挙のエスカレーションが転機に
ツイッターが、当時のトランプ「大統領」のツイートをファクトチェックし、ラベルを貼ったのは2020年の5月と、選挙戦がエスカレートする約半年前のことです。伝統的な民主党基盤のカリフォルニア州で、同性婚などに積極的な姿勢をとってきたニューサム知事が郵送での投票を認めたことに対し、「不正選挙の温床となる」と批判したツイートに対してのものでした。
そこからトランプ陣営の関係者だけでなく、彼を全面支持し、極端な報道をしてきた「ニューヨーク・ポスト」紙などから、ツイッターという企業に対してだけでなく、ロスに対する個人攻撃も始まったということです。ロスは、社員ひとりひとりも標的にすると見せ、萎縮効果を狙ったものではなかったかと述べています。
しかし、「ツイッターのファクトチェックは、そこからダムが決壊したように増えていった」ということです。情勢不利が報道される中で、トランプ自身からの、根拠に乏しい選挙の不正についてなどの発言も増えていったのは、覚えている方も多いと思います。
「ひとりの判断ではない」
最終的にトランプの @RealDonaldTrump アカウントが永久停止に至る意思決定について、ロスは「ツイッターにとっての得意分野ではない」と述べ、当時の社内での議論の方法などについて、かなり詳細に明らかにしました。かなりの論争と迷いがあったようです。
2020年11月3日の大統領選投票日から2021年1月6日の米連邦議事堂乱入事件が起きるまでの2カ月余りの間に、ツイッターは @RealDonaldTrump アカウントのツイートを140件以上ファクトチェックし、「市民活動の阻害」にあたるとして1月6日にアカウントを12時間にわたり一時凍結、8日に永久停止に踏み切りました。
この間の意思決定について、ロスは「ひとりの判断ではない」と述べ、現職の大統領によるツイートに対して、ツイッター社内で特別な判断の手順が定められていたことを明らかにしました。それは以下のようなやり方でした。
まず「このツイートは問題ではないか」とロスか、上司が注意を喚起します。人数は明かしませんでしたが、チームのメンバーがそれぞれ、そのツイートを見て、ツイッターが公表している、どのルールに抵触するかを、それぞれ判断し、採るべき対応策の提案をそれぞれ文書にして共有、その提案を、社内の別の複数の人たちが検討し、最終的な対応を決定するという手順です。
大統領のアカウント停止をめぐる論争
ツイッター社内では、2021年1月6日の米連邦議事堂襲撃が起きた直後に、大統領のアカウントを即時凍結するか、あるいは、それでも段階を踏んで慎重な手順を踏むべきかをめぐって、激しい論争が繰り広げられたということです。ロス自身は即時凍結に賛成でしたが、その時は上司に覆されました。
ツイッターはトランプがポストしたうち、3件のツイートを問題があると指定し、トランプ本人に削除を求める措置をとりました。このような措置を大統領に対してとったのは、初めてでした。
トランプはこれを無視し、8日までに、さらに問題のある内容のツイートを繰り返したため、最終的に永久停止に踏み切ったということです。しかし、この判断についてもロスは「たくさんの、あいまいな点が残った」と述べ、ツイッターのルール整備が追いついていなかったことを認めました。
ソーシャルメディアのインパクト
聞き手のシャーロックマンは、トランプはこのようにしてアカウントを停止されたが、「世界の国で、トランプのように社会を混乱させるような発言を連発している人物がいる」と述べ、ブラジルのボルソナーロ前大統領のほか、エチオピアやイランのリーダーを挙げ、「なぜツイッターは対応しなかったのか」と質しました。
聞き手を務めたIFCN理事で自らもファクトチェック・メディア「ポリティファクト」のファクトチェッカーでもあるアーロン・シャーロックマン（2023年6月30日 ソウル）：筆者撮影
ロスは「ツイッターのルールは完璧ではなかった」と述べ、トランプのアカウントを停止した際にドイツのメルケル首相（当時）がソーシャルメディアのパワーは驚異だとコメントしたことを挙げ、ソーシャルメディアが政治、国のリーダーに干渉しなければならない判断は「軽視されるべきではない」と、厳重な慎重さが必要だと強調しました。
あの時のツイッターが目指していたこと
ミス／ディスインフォメーションをどのように発見し、ユーザーに正しい情報を知らせていくのかという手順について、ツイッターはメタ（フェースブック、インスタグラム、WhatsAppを運営）やユーチューブなどと違う、独特な方法を模索していたと、ロスは述べました。それは主に経済的な理由だったようです。
彼は「メタやグーグル、ユーチューブは経営的に別格で、ツイッターは『その他の中小のプラットフォーム企業の中で最大のもの』だった」と述べました。大企業ほどの人員やコストが割けない環境下で、何か別のモデルを模索する必要があったということです。
彼は、メタなどとの大きな違いは、「『誰が判断を下すか』ということだと思う」と述べました。メタは「自分たちは、あくまでもプラットフォームである」とし、ファクトチェッカーに真偽の判断を委ね、その結果を「ホストする（発表する場を提供する）」というスタンスを取っていたといいます。
これは「シリコンバレーの企業としては上手なやり方だ」とロスは評しました。ファクトチェッカーに経済的な支援を行い、情報の真偽を判断してもらい、その結果をプラットフォームに「第三者のファクトチェックの結果ですからね」とラベリングすることで、直接の批判や訴訟リスクを回避するスキームだからです。
しかしロスは「我々は自分たちの判断を、自分たちのものにしておきたかった」と、ツイッターの異なるアプローチを強調しました。
ロスの発言にはツイッターの歴史的証言としての関心もあり、約400人の観衆は熱心に聞き入っていた：筆者撮影
「ツイッターの利用規約の一部として、ミスインフォメーションに対処する際に、何かに介入するとか、警告のラベルを貼るとか、それを除去するのであれば、ツイッター自身がその判断の主体になるべきだと思った」と語りました。「その判断が批判されるのであれば、その主体はパートナーではなくて、ツイッターそのものであるべきだ」と。
「バードウォッチ」に期待感はあった
ロスは、ツイッターが当時目指していたファクトチェックのシステムについて、それ以上のことは説明しなかったので、以下の議論は私の推論が含まれることをお断りして、この問題をもう少し考えておこうと思います。
確かに、社内で複数の担当者が話し合い、情報の真偽、社会的にどのくらい有害かというインパクトを予測する作業を経て、責任を持ってラベリングを行い、結果にも責任を持つというシステムは、「私たちは『場』を提供しているだけ」「契約しているファクトチェッカーが判断したものを貼っています」というシステムより、当事者意識も責任感も強いように見えます。
しかし、当時のツイッターは、「誰がどのように議論を経て判断したのか」「ユーザーらからの『異議申し立て』の窓口はどこか」「その後どのように検討されるのかを明らかにする」などの仕組みは整っていませんでした。
せっかくツイッター社内で深い議論がなされたとしても、プロセスが十分にユーザーに説明される仕組みが不完全だったと言えるでしょう。
マスクが経営を握る前のツイッターは、ユーザーの判断を取り入れ、生かす仕組みを作ってミスインフォメーションに対処しようとしていたように見られます。「バードウォッチ」という機能です。
一定の資格を満たしたユーザーが、ツイートの内容にミス／ディスインフォメーションを発見したら、警告ラベルを書き込むことができ、その警告もユーザー間で評価され精緻なものになるという設計でした。しかし、日本では本格的な導入がなされる直前に、マスクの買収騒動となりました。
コンテンツ・モデレーションのぜい弱な「経済」
プラットフォーム側は、資金はありますが、ファクトチェックやミス／ディスインフォメーションの判定などのノウハウが乏しいため、ファクトチェッカーに依存しなくてはなりません。一方、ファクトチェックは「カネにならない」と言われており、ごく一部を除いてファクトチェック・メディアは経営基盤が弱く、外部の資金に頼らなくては維持できないところも多くあります。
そのような依存関係についての実態を可視化するため、司会のシャーロックマンは会場に働きかけて即席アンケートをしました。
GF10の出席者の大部分はIFCNに承認されたファクトチェック・メディアの代表者です。「会場の中で、経営上、何らかの資金援助を、少なくとも10％以下は受けているメディアは？」と聞くと、おそらくメディア関係者のほぼ全員が立ち上がりました。
そこからシャーロックマンは、「少なくとも10％以上？」「20％？」「30％？」と繰り返し、フロアの参加者は少しずつ座っていきました。正確に数えたわけではありませんが、私が前から1／3くらいの場所から見渡した限りでは、「50％？」と言われた時に、ほぼ半数の人が立っていたようです。そして「100％」と問われた時も1〜2割の人が座らずにいました。
参加者は世界70カ国以上、そのうち半数以上はアジア、アフリカ、南米、中東のメディアだったと見られます。ファクトチェック・メディアはプラットフォームのミス／ディスインフォメーション対策に重要な役割を担う一方、経営基盤はプラットフォームの資金にかなりの部分を依存していることが明らかになった瞬間でした。
ロスはこの状態を「恐るべきこと（”Terrifying.”）」と表現しました。彼は米のテクノロジー関連のニューズレター「プラットフォーマー」を発行しているケーシー・ニュートンの言葉を引用し、ソーシャルメディアのコンテンツ・モデレーションは「ゼロ利子政策のようなもの」と述べました。
プラットフォームは、信頼や安全のコストが、そんなに高額でない段階では資金を積極的に注入するが、成長し経営規模が大きくなると、目の前の成果が必ずしも可視化されないコンテンツ・モデレーションに充てる資金や人員が次第にと減ってしまうというのが「業界の常識」になっていると指摘したのです。
ロスは信頼と安全のエコシステムを「持続可能なものにしなくてはならない」と強調しました。コンテンツモデレーションは「どのように実施するか」だけでなく「どのようにして支えるか」も現在進行形の重要な課題なのです。
奥村 信幸（Okumura, Nobuyuki）
武蔵大学社会学部教授、ＦＩＪ理事
1964年生まれ。上智大学大学院修了（国際関係学修士）。1989年よりテレビ朝日で『ニュースステーション』ディレクター等を務める。米ジョンズホプキンス大学国際関係高等大学院ライシャワーセンター客員研究員、立命館大学教授を経て、2014年より現職。訳書に『インテリジェンス・ジャーナリズムー確かなニュースを見極めるための考え方と実践』（ビル・コヴァッチ著、トム・ローゼンスティール著、ミネルヴァ書房）。
