オープンAIは30日、AIによる世論操作をめぐる最新の傾向についての報告書を発表しました。
それによりますと、ロシアや中国、イラン、それにイスラエルを拠点とする合わせて5つのグループが、秘密裏に自社の生成AIを世論操作に利用していたということです。
生成AIは、SNSのアカウントや投稿する文章の作成、外国語への翻訳などに利用され、投稿の内容は、
▽ロシアによるウクライナへの軍事侵攻や、
▽ガザ地区でのイスラエルとイスラム組織ハマスの戦闘のほか、
▽アメリカの政治情勢など、
多岐にわたっていたとしています。
このうち、中国を拠点とするグループは、東京電力福島第一原子力発電所の処理水の放出を非難する文章を英語や日本語などでインターネット上に投稿していたということです。
報告書は、アメリカ大統領選挙などを前に生成AIによる世論操作の危険性を示しています。
オープンAI “ロシアなど拠点のグループ 生成AIで世論操作”
生成AI、ChatGPTを手がけるアメリカの企業オープンAIは、ロシアや中国などを拠点とする5つのグループが自社の生成AIを世論の操作に利用していたと発表しました。日本に関する情報の拡散にも利用されたとされ、アメリカ大統領選挙などを前に生成AIによる世論操作の危険性を示しています。
生成AI 世論操作の詳細
報告書では、ロシア、中国、イラン、それにイスラエルに関係する5つのグループが、オープンAIの生成AIを使い、世論操作を行っていたとしています。
また生成AIは文章や画像だけでなく、プログラミングにも使用されていたと分析しています。
このうちロシアの「ドッペルゲンガー」と名付けられた活動ではウクライナ、アメリカ、EU＝ヨーロッパ連合などを否定的に、ロシアを肯定的に描いたコンテンツを公開し、ウクライナは弱く、腐敗しており、敗北寸前だとした内容を投稿しているとしています。
また、中国の「スパムフラージュ」と名付けられた活動では中国政府を称賛したり、反体制派やアメリカ政府、IT大手マイクロソフトを批判したりするコンテンツを、主に中国語で作成していたとしています。
中国語だけでなく、日本語や英語、それに韓国語で書かれたものもあったということです。
日本語で書かれたものについて報告書では、2023年後半に日本が東京電力福島第一原子力発電所からの処理水放出で海洋環境を破壊していると非難する記事を作成したと紹介していて、こうした記事は日本の大手ブログサービスにも投稿されていたということです。
不自然な投稿 処理水放出の時期に複数出される
オープンAIの報告書で指摘された不自然なブログなどの投稿は、東京電力福島第一原子力発電所の処理水の海洋放出が始まった時期の去年9月から10月にかけて複数出されていました。
「処理水ではなく核汚染水だ」とか「日本の汚染水排出は世界中に被害をもたらす」などといった、中国側からの反発を反映したものと同様の内容になっているのが特徴で、中には日本語だけでなく英語や韓国語、ロシア語でも発信しているブログの投稿もありました。
さらに、生成AIによる文章の特徴がある同じ文言で、「日本の漁業関係者」が処理水の放出に反対しているとする投稿が複数のブログサイトなどで見られました。
専門家 “真偽の判断 より難しくなってくる”
インターネットで広がるフェイク情報に詳しい桜美林大学の平和博教授は「生成AIのメリットである自動化と効率化が中国やロシアなどの影響工作で用いられているようになってきている。今のところ、大きな影響力を持つところまではきていないが、今後、生成AIがさらに高度化していく中で人間とのやり取りと区別がつかないようになる可能性もある。そうした状況も見据え、AIの開発企業がしっかりとした安全対策を行う必要がある」と話しています。
東京電力福島第一原子力発電所の処理水の海洋放出をめぐって、平教授は中国側からの反発を反映したような同様の文言による投稿が日本の複数のブログで見られたことを確認したということで、「オープンAIが指摘しているような生成AIを使った自動化による投稿とみられる。生成AIの翻訳機能を試したような形跡がうかがわれる状況も確認できた」と述べました。
そのうえで平教授は「一般のユーザーがコンテンツそのものの真偽を判断することはより難しくなってくるので、発信元が確かなものか、まず気をつけて判断をしていくことが大事になってくる。影響工作は国境やSNSなどのプラットフォームを超える形で展開されるので、関係する国や機関が連携しながら対応していくことが重要だ」と指摘しました。