“死者の演説”は認められる？ 選挙での生成AI利用 どこまで

“世界最大”の選挙とも言われるインドの総選挙。

ラトール氏
「AIを活用してメッセージを有権者に直接送ることで、身近なものとして受け止めてくれ、私個人の知名度向上につながった。これまで接点の無かった人からのアプローチも出てきた」

ディヴィエンドラ・シン・ジャダウンCEO
「AIを使った選挙運動は従来の方法に比べて、非常に費用対効果が高い。どの政治家もAIを選挙に組み込もうとしている」

AIはインドだけでなく、ことし行われた世界各地の選挙戦でも利用され、変化をもたらしている。

2月に、総選挙が行われたインドネシア。

選挙期間中に、SNS上に登場したのは、2008年に亡くなったスハルト元大統領をAIでよみがえらせた動画。

スハルト氏と関係の深い党の幹部が作ったもので、元大統領を応援してきた人たちに向けて党への支持を呼びかけた。

SNSの投稿文にはAIで作ったものであると書かれていたが、いわば死者を「復活」させる行為に倫理的な問題があるとの批判が国民から相次いだ。

さらに、ことし2月に総選挙が行われたパキスタンでは、収監されている政治家による演説の動画がSNSで公開された。

「カーン氏の発言に支持者は熱心に耳を傾けるので、AIで作成されたスピーチには大きな効果があった」

各国の政府は、こうした生成AIの利用を認めているのか。

このうちインドシア政府の担当者はAIの利用方法については、今後対応が必要だという考えを示した。

インドネシア通信・情報省
サミュエル・アブリジャニ・パゲラパン局長
「デジタル空間で誰でも何でもつくることができる新しい時代に入ったと認識しなければならない。この現実に対して新たな知識やスキルを持つ必要がある」

生成AIの利用が問題となり、実際の規制が始まったのがアメリカだ。

アメリカ東部ニューハンプシャー州で、1月に行われた大統領選挙に向けた予備選挙。直前にバイデン大統領に似た音声で、投票しないよう呼びかける電話が多くの住民にかかってきた。その数は数千件ともされている。

今度の火曜日はニューハンプシャー州の大統領予備選挙です。共和党は無党派層や民主党の有権者を自分たちの予備選挙に参加させようとしています。なんとばかげたことだ。

11月の本選挙の時まで、投票をとっておくことが大切だ。この火曜日に投票することは、共和党がドナルド・トランプを再び選出することを可能にするだけです。

今後、こうした電話をかけてきてほしくない人は2番を押して下さい。

音声にはバイデン大統領が演説などでたびたび口にする「What a bunch of malarkey」（なんとばかげたことだ）という表現も含まれていた。

司法当局は先月、当時54歳の政治コンサルタントを、この偽音声に関係して選挙を妨害したなどとして起訴した。

この音声は、誰がどうやって作ったのか。

アメリカメディアに対し「自分が制作した」と名乗り出た人物を追って向かったのは、南部テキサス州ヒューストン。

現れたのは、ポール・カーペンターと名乗る47歳の男性だった。職業はプロのマジシャンだが、AIなど最新の技術にも関心を持ち、独学で学んできたという。

カーペンター氏
「音声はAIの能力を示すために、内部で使われるものだと思っていた。実際に外部に公開されるとはまったく思っていなかった」

カーペンター氏は、依頼を受けた証拠だとして「偽音声」を私たちに提供するとともに、依頼者側から報酬として受け取った150ドルが振り込まれた記録を示した。

取材で「もう一度、同じような偽音声を作成する依頼を受けたら、どうするか」と尋ねると…

カーペンター氏
「やる。何の問題もない。こんなことが起きないよう契約内容にはもう少し注意深くなると思うが。私がやらなくても誰かがやるし、誰でもできる」

偽音声をめぐって、カーペンター氏の刑事責任を問うような動きは、これまでのところ確認されていない。消費者保護に詳しいオクラホマ州のアーロン・ティフト弁護士は、AIを使って実在する人物になりすました音声を個人で作成する行為については「アメリカの憲法で表現や言論の自由が保障されていることから、罪に問われないだろう」と指摘している。

その上で、刑事責任が問われる可能性があるのは、音声が選挙妨害などの不正行為に使われるという認識があった場合だと説明した。

私たちは、バイデン大統領の偽音声を、ニューヨーク州立大学バファロー校のシーウェイ・リウ教授に分析してもらった。

AIで作られた音声に詳しい各国の研究チームが公開している最先端の判定ツール、5種類を使って分析した結果、生成AIによるものだと見抜くことができなかったものもあった。

AIで生成された可能性について
3種類の判定ツール:72.5％から100％
→「AIで生成された可能性が高い」ことを示す数値に

2種類の判定ツール:0％や0.3％
→「AIで生成された可能性が低い」ことを示す数値に

リウ教授
「大統領の声の特徴がよくでていて、第一印象は非常によくできていると思った。一般の人が音声を聞いただけで偽物と見抜くのは難しい。AIでコンテンツを作り出す技術はいまも進化し続けている。あらゆるコンテンツが本物かどうかを見抜ける万能のツールも存在しない」

アメリカ政府も対応に追われている。

アメリカの通信当局、FCC＝連邦通信委員会は、ことし2月、AIで生成された音声を使い、人をだまそうとする自動音声電話をかける行為を「違法」と判断すると発表した。

では、日本における選挙での生成AIの利用について、ルールはあるのか。国内の選挙運動で本格的に生成AIが使用されたケースはまだないとみられるが、政治活動では政策の発信や動画の作成などに徐々に使われ始めている。

総務省によると、選挙運動について生成AIの利用に限定した規制などのルールはなく、虚偽の内容を広めるなど、その利用方法が適切かどうかは公職選挙法に基づいて判断することになるとしている。

一方で、事業者など向けに国が策定したガイドラインでは、特に選挙については、AIの出力について慎重に取り扱うよう求めている。

20年以上、国内外でAIの研究を続け、政府の「AI戦略会議」で座長を務めている東京大学の松尾豊教授にどう対応していくべきか、話を聞いた。

松尾教授
「生成AIは、理想的には、候補者の考えを有権者に、より正しく、分かりやすく伝える手段になる。インターネットの利用も、長らく選挙では使わないことになっていたが、今では使うようになってきた。長期で見ると、生成AIも使われていくだろう」

一方、課題については、
▽偽動画などが投票の直前に生成・拡散されると、取り締まることができず、投票行動に影響を与えてしまうおそれがあることや
▽AIの学習データによっては意図せずに、誤った情報を発信してしまう可能性などがあると指摘した。

松尾教授
「有権者の票を変にゆがめたり、対立する候補者の足を引っ張ったりすることに生成AIが使われないよう、一定のルールを決めていくことが必要だ。技術が進展している時期は想定外の悪い影響も起こる可能性がある。海外の動向もしっかり見て、日本なりの仕組みについて議論を進めていく必要がある」

（取材:国際部 吉元明訓、アメリカ総局 田辺幹夫、ジャカルタ支局 伊藤麗、イスラマバード支局 松尾恵輔、ネットワーク報道部 岡谷宏基）