フェイクニュースが世論の合意形成に与える悪影響。フェイクニュース拡散を防止するには？（オーストラリア研究）

この画像を大きなサイズで見る

　ほんの少しの人がフェイクニュースを流すだけで、世の中の流れが変わってきてしまい、本来なら容易に合意を得られる問題が複雑化してしまうという。

　人間社会では、昔から虚偽の情報が意図的に流されてきたが、インターネット時代となり、操作された情報がいともたやすく拡散されるようになった。

　人は自分の考えを正当化させようと、都合のいい証拠ばかりを集めてきて、それこそが裏付けだと主張したがる。フェイクニュースが自分の信じたいものと同じだったら、簡単に釣られてしまう。さらにはそれを拡散させようとする。それが人間心理というやつだ。

　オーストラリアの研究者らは、フェイクニュースが発生する本質的なメカニズムを探るために、ある実験を試みた。

　そこからフェイクニュースの拡散を防ぐ方法を導き出したという。

インターネット時代のフェイクニュースの蔓延

　人間社会では、古来より虚偽の情報が意図的に流されてきた。

　しかしインターネットで世界中がつながっている今日、さまざまな目的からフェイクニュースが捏造され、あっという間に拡散されてしまう。

　特にユーザーにコンテンツの投稿や共有を促すSNSは、フェイクニュースの発生源として大きな問題となっている。

　世論を自分たちに有利なように操作したい政治家や、利益を主眼としたフェイクニュース産業まで、嘘による社会の混乱を利用する者たちがいる。

シミュレーションでフェイクニュースが合意形成に与える影響を探る

　オーストラリア、モナシュ大学の研究者は、フェイクニュースが発生する本質的なメカニズムを探るために、ある実験を試みた。

　彼らが知ろうとしたのは、フェイクニュースが合意形成に与える影響とフェイクニュースを拡散させるために必要になるコストである。

　これを明らかにするために研究チームは、「囚人のジレンマ」的状況に設定された進化シミュレーションゲームを実施した。

囚人のジレンマとは・・・

プレイヤーが相手プレイヤーと協力できれば全体としては最大のポイントを得られるが、相手を裏切れば、裏切った側は大きなポイントが得られる一方、裏切られた側は損失を被るという状況におけるゲームのことだ。

全体として最大のポイントを得られるのは、プレイヤー同士がお互いを信頼して協力した場合なのだが、裏切られてしまえば自分一人だけがバカを見るので、各プレイヤーはそうなる前に自分から裏切ってしまおうかというジレンマに直面する。

だが、ジレンマの末に双方が裏切ることにした場合、もらえるポイントが最も少なくなるという最悪の結果になる。

　このシミュレーションではさらに一工夫され、人を騙すように行動するロボット詐欺プレイヤーを参加させて、混乱を生じさせてみた。

　ロボットに騙されたプレイヤーは、相手プレイヤーが協力的であると信じ込んでしまう。

　そして相手をまんまと騙すことに成功した詐欺プレイヤーにはコストが発生し、その分ゲームで得られるポイントから差し引かれる。

フェイクニュースが合意形成に与える影響

　シミュレーションから明らかになったのは、グループの中に騙そうとするプレイヤーがごく少数（実験では1パーセント未満）存在するだけで、致命的なまでに協力がなされなくなったことだ。

　さらに騙してもコストが生じない（つまりフェイクニュースを作り放題）極端な条件においては、協力的行動がまったく見られなくなってしまった。

　一方、コストが生じる（0を超える）場合では一応協力は生じ、コストが非常に高い条件ともなれば数多くの協力が発生した。

　また、相手を騙そうとする詐欺プレイヤーが生き残れるどうかは、騙すためのコストに強く依存しているということも明らかになった。

　騙すコストが十分に高い条件では、詐欺プレイヤーは生き残れなかったのだ。

この画像を大きなサイズで見る

フェイクニュースを拡散させない為に

　シミュレーションの実験結果から、現実世界のフェイクニュースについて何が言えるだろうか？

　まず重要だと思われるのは、ニュースの中にほんの少しだけでもフェイクが混ざっていると、それだけで合意形成が阻まれ、世論に致命的なダメージを与えてしまうということだ。

　人がフェイクニュースを信じるかどうかは関係がない。合意に達するための能力がダメになってしまうのである。

・インフルエンサーの影響力を考慮する

　実験モデルでは少数のインフルエンサー（影響力の強い人）に焦点を当てていた。

　そのインフルエンサーが合意できないと、その影響を強く受けているフォロワーもまた合意できなくなる。

　これはフェイクニュースが民主主義社会において破壊的である理由の1つだ。

・フェイクニュースを拡散する者にもにコストをかける

　同様に重要なのが、フェイクニュースの蔓延を防ぐためには、そのコスト、特に拡散するためのコストを上げてやることが大切ということだ。

　フェイクニュースが社会に与える悪影響を考えれば、予防のための社会的投資を行う価値は十分あるだろう。

　情報戦に関する10年前の研究によると、有害なプロパガンダは代理者による伝達によって広まる勢いが強化される。

　たとえば、テロリストが提供する暴力的な写真や動画を伝えるマスメディアは、その意図には関わりなく、テロリストのプロパガンダを広める代理者として機能してしまう。

　これと同様に、フェイクニュースを共有するSNSユーザーも、フェイクニュース製作者の代理者として行動してしまっているのである。

フェイクニュースに騙されたユーザーは被害者であり加害者でもある

　そうしたユーザーは虚偽情報に騙された犠牲者でありながらも、同時に騙す行為に加担する加害者でもあるということだ。

　これを防ぐには、SNSでフェイクニュースを拡散した人間にコストがかかるようにすることが有効であると考えられる。

　コストには、フェイクニュースを作成し拡散させる費用や違法行為に対する罰金など外的なもののほかに、批判や馬鹿にされることに対する恐れなど、内的なものもある。

　フェイクニュースの拡散にコストを生じさせるようにすることはそう単純ではないが、1つには頻繁にフェイクニュースを伝えるユーザーの情報を公開するという手があるだろう。

この画像を大きなサイズで見る

フェイクニュースを見分けるのも難しいという現状

　フェイスブックのようなSNSの運営者は、AIや調査機関を利用してフェイクニュースの拡散予防を積極的に行なっており、それはそれなりの効果を上げていると主張する。

　しかし、こうした取り組みは、そもそも「何がフェイクニュースなのか？」というさらに厄介な問題に直面している。

　都合の悪い情報があると、それがフェイクニュースとされてしまうケースがあまりにも多いのだ。

　最近では「フェイクニュース」という言葉が独り歩きし、意図的に行ったわけではなく、単純に間違ってしまっただけの情報ですら「フェイクニュース」だと騒ぎ立てるユーザーもいる。

　人間のやることには誤りがある。誤りを認めて訂正しても、「誤った」という事実のみを拡散し、人格攻撃にまで発展してしまうケースも少なからずある。

　更に情報の事実確認をする者の信頼性や客観性はまちまちで、偏見や理解不足によって大きく左右される。

　またSNS企業が主張するのとは反対に、現時点でAIはフェイクニュースの検出にそれほど有効ではなく、失敗した場合の責任は人間が負わなければならない。

・フェイクニュースや意見の偏りがあるウェブサイトを見破るAIが開発される（米研究） : カラパイア

　ひとまず、今のところは、ユーザー一人一人がSNSの情報にいいねやリツイートをする前に少し考えてみる必要があるだろう。

　それが本当なのかどうか、軽く事実確認をしてみるのも大切だ。

　この研究論文は『PLOS One』に掲載された。

References:We made deceptive robots to see why fake news spreads, and found a weakness/ written by hiroching / edited by parumo

• #研究
• #オーストラリア
• #ロボット
• #シミュレーション
• #拡散