「選挙イヤー」の2024年 世界で高まる“フェイクへの懸念”12月16日 19時53分

ことし9月、SNSで拡散された画像。

この画像はフェイクで、生成AIを使って作られたと見られます。福島第一原発の処理水と結びつける形で広がりました。

検証した台湾ファクトチェックセンター
「処理水が海洋放出されて以降、巨大化した海の生物の画像がSNSで拡散され、“汚染水”のせいだとするコメントもあった。よく見ると、男性の指や水平線がおかしい。生成AIによって、こうした偽画像を作ることが簡単になってきている」

こちらは、中国の習近平国家主席が日本語を話す偽動画。Xで100万回近く閲覧されています。

生成AIに声を学習させることで生み出された、言語の壁も越えた動画。

話す言葉と口の動きを合わせる技術も進化し、違和感がなくなってきています。

日本国内でも、生成AIで作られた岸田総理大臣がひわいな発言をする偽動画が拡散され、ひと事ではなくなってきています。

誤情報や偽情報といったフェイク情報は、選挙や災害、大きな事件事故など、注目を集める出来事が起きた際に広がりやすいとされています。

フェイク情報が大きく注目されるきっかけとなったのが、トランプ氏が当選した2016年のアメリカ大統領選挙です。

トランプ氏とクリントン氏が激しく争う中で、「ローマ法王がトランプ氏の支持を表明した」「クリントン氏が児童売春組織に関わっている」といった偽情報がSNSで広く拡散されました。

当時は偽のニュースサイトの記事が拡散されるケースが目立ちましたが、近年では偽画像や偽動画を使ったフェイク情報が増加。

生成AIで誰もが偽の画像や動画を作れるようになったことで、フェイクも“進化”しているのです。

まもなく迎える2024年。1月に台湾総統選挙、2月にインドネシア大統領選挙、3月にロシア大統領選挙、5月までにインドの総選挙、11月にアメリカ大統領選挙。日本でも衆議院の総選挙がある可能性があります。

世界中で対象となる有権者は20億人を超えると見られています。

そんな12月、シンガポールでフェイク対策を話し合う国際会議が開かれました。

アジア太平洋地域から集まったファクトチェック団体や報道関係者などから口々に危機感が語られました。

インド 音声メディア編集長（来年5月までに総選挙）
「インドは誤情報や偽情報の洪水に直面している。誰もが巻き込まれてしまう問題だ」

台湾 ファクトチェック団体所属の記者（来年1月に総統選挙）
「まもなく行われる総統選挙で、生成AIが大きな影響を及ぼすことを懸念している。フェイクを作り出すのが簡単になった一方で、それを見破ることはより難しくなっている」

モンゴル ファクトチェック団体の関係者（来年6月に総選挙の見通し）
「社会に悪い影響をあたえるフェイク情報を多く見てきた。来年の選挙は私たちにとって、大きなチャレンジになる」

32の国と地域、411の団体から678人が参加した会議で注目を集めたのが、フェイク情報対策が大きな課題になっているインドネシアです。

2017年のジャカルタ州の知事選挙では中国系でキリスト教徒の現職知事が落選。選挙期間中、この候補を誹謗中傷する偽情報が大量に拡散されたということです。

また、2019年の大統領選挙では「ジョコ大統領が勝利するよう、選挙管理委員会がコンピューターをセットした」などとする偽情報も広がり、選挙に対する不信感が高まることにもつながったとされています。

こうした状況の中、インドネシアのNPO「Mafindo（マフィンド）」では、毎日、16人の体制でファクトチェックを行い、これまでに1万2000本以上の検証記事を公開してきました。

この団体による分析では、ことしも1月から9月まででフェイク情報が1730件以上確認されました。

そのうち半数以上が政治に関連するもので、今後も増えることを懸念しています。

ことし10月にはジョコ大統領が中国語で演説する偽の動画が、SNSで拡散されました。

ジョコ大統領は中国語を話さないため、偽動画であることは明らかだったものの、声はよく似ていて、口の動きにも違和感がなかったといいます。

中国との距離感が問われる可能性がある中で、中国寄りだと印象づける狙いの偽動画と考えられています。

マフィンド代表 セプティアジ・エコ・ヌゴロさん
「もし誰かが生成AIによる偽の動画を選挙の直前に作り拡散されてしまうと、私たちはそれを検証して打ち消すだけの十分な時間がないのではないかと懸念している。そうならないことを願っているが、備えていかないといけないと考えている」

さらに課題に挙げたのは「拡散力の差」です。

2019年の大統領選挙で広がった「選挙管理委員会のサーバーが海外からハッキングされた」という偽情報について分析したところ、SNS上で1万4000回ほどシェアされていました。

しかし、これをウソだと指摘した検証記事がシェアされたのは700回あまりにとどまりました。

その要因として、▽ファクトチェック記事はフェイク情報が出た後で出ること、▽フェイク情報は感情を刺激し注意を引きやすい一方、ファクトチェック記事は文字情報であることが多く関心を集めづらいことが挙げられるとしています。

マフィンド代表 セプティアジ・エコ・ヌゴロさん
「ファクトチェックした記事は、フェイク情報に比べると5～10％くらいしか読まれない。大きな差があり、今後、偽動画がさらに増えてくれば、その差はより大きくなってしまうだろう」。

ファクトチェックだけでは追いつかない現状に対し、マフィンドが取り組んでいるのが、偽情報や誤情報に接したときに、それが誤っていることを指摘できるようにする「Prebunking（プレバンキング）」です。

あらかじめ、正しい情報に接しておくと、いわば“ワクチン”のように、誤った情報だと判断して、惑わされないようになるという考え方です。

マフィンドは、過去の選挙で広がったフェイク情報の傾向を分析した結果や、最近の選挙制度の変更点などを踏まえて、今後出てくる可能性のあるフェイク情報を事前に想定し対策を進めています。

例えば、以前の選挙では「選挙結果が操作された」などといった選挙の運営に関する偽情報が多かったことから、得票数を数える仕組みを解説する動画も作りました。

さらに、情報を見抜くリテラシーを高める活動も力を入れていて、地域の祭りで説明するブースを設けて気軽に参加できるようにしたり、各地でワークショップを開催したりしています。

このときに大事にしているのが「楽しさ」。

ことし10月には、新たにフェイクを見抜くこつを学ぶカードゲームを作りました。

どんなゲームかというと…。

プレーヤーはレストランの経営者になります。対戦相手となる別のレストランの経営者が「衛生状態が悪い」「賞味期限が切れた食材を使っている」などといったフェイク情報を流すのに対して、「ファクトチェック」や「プレバンク」などといったカードを使って、対抗するというゲームです。

その際に具体的にどういう情報を出せばフェイク情報を打ち消せるかも考えます。

手元にカードがないとレストランの評価が下がり、ポイントを失っていくという仕組みで、フェイク情報が広がる仕組みや見分け方を学ぶことができます。

年明けに総統選挙が予定されている台湾でも対策が進んでいます。

民間のファクトチェック団体「台湾ファクトチェックセンター」は生成AIを使ったフェイクに備えて、新たに生成AIによる画像を見分けるツールも導入しました。

さらに、”ファクトチェックだけでは不十分”だとして、台湾でも市民などがSNSで流れる情報のリテラシーについて学ぶ場を増やしています。

ことし11月には、教職員向けに偽情報・誤情報の見分け方を学ぶワークショップを開くなど、各地で取り組みを進めています。

台湾ファクトチェックセンター 何※ケイ安さん ※ケイは「くさかんむりに恵」
「市民が怪しい情報に接したときに少なくともシェアしないことが大切だ。ひとたびシェアしてしまうと、どんどん拡散され、社会に大きな影響が出てしまう。ファクトチェックだけでは不十分で、リテラシーを高めることの重要性をもっと広めていきたい」

世界的な選挙イヤーを前に巧妙化するフェイクへの警戒感が高まる中、今後、日本ではどのような対策が求められるのか。

シンガポールでの国際会議にも参加した専門家に聞きました。

武蔵大学 奥村信幸教授
「日本は教育水準が高く安定した社会で、ファクトチェックの必要性を認識することが遅れた部分もあるかもしれない。フェイク情報に大きく反応した時に取り返しのつかないことが起きてもおかしくない」
「選挙における誤った情報は投票行動に影響を与えるおそれがあり、結果によってはその後の国の方向性が変わってしまうので、インパクトの大きさに最も気を付けなければならない」

日本ファクトチェックセンター 古田大輔編集長
「（フェイク情報をめぐる）世界の状況も、日本の状況も基本的には悪くなっている。ファクトチェックやメディアリテラシー教育の動きは増えてきているが、偽情報や誤情報の増え方に比べると少ないと感じている。だからこそ、日本でもファクトチェックやメディアリテラシーの取り組みレベルを上げていかないといけない」

ネットワーク報道部 記者
岡谷宏基
2013年入局 熊本局、経済部を経て現所属
ファクトチェックの記事も書いています