NHKは4月5日から7日にかけて、全国の18歳以上を対象にコンピューターで無作為に発生させた固定電話と携帯電話の番号に電話をかけるRDDという方法で世論調査を行いました。
調査の対象になったのは3129人で、49％にあたる1534人から回答を得ました。
「生成AI」偽情報と規制 “規制強化すべき”61％ NHK世論調査
人工知能「生成AI」について、日本では規制する法律はありませんがインターネット上で偽の動画や画像が問題になるケースが増えています。これについてNHKの憲法に関する世論調査でどう対応すべきか聞いたところ「規制を強化すべき」が61％、「今のままでよい」が8％でした。
《調査概要》
《生成AIと偽情報》
このなかでは、「生成AI」による偽の動画や画像が問題になるケースが増えていますが、日本では規制する法律がないことについてどう対応すべきか聞きました。
その結果
▽「規制を強化すべき」が61％
▽「今のままでよい」が8％
▽「どちらともいえない」が25％でした。
《“規制を強化すべき”と思う理由》
「規制を強化すべき」と答えた人に理由を聞いたところ
▽「偽の情報によって人権が侵害される恐れがあると思うから」が48％
▽「偽の動画や画像を作ったり広めたりすることで著作権や知的財産を侵害すると思うから」が26％
▽「海外では規制を強化している国もあり、日本でもそうすべきだと思うから」が13％
▽「学校教育などでの啓発活動では歯止めがかからないと思うから」が8％でした。
《“今のままでよい”と思う理由》
一方、「今のままでよい」と答えた人に理由を聞いたところ
▽「AIを活用した活動がうまく進まなくなると思うから」が29％
▽「表現の自由が憲法で保障されているから」が23％
▽「規制ではなく、学校教育などで啓発を図るべきだと思うから」が22％
▽「自分の身の回りで問題になっていないから」が18％でした。
偽情報で被害企業増加 法規制求める声も
SNSなどに投稿された偽の情報や誤った情報をめぐっては、企業や商品のイメージを低下させるケースもあり、問題となっています。
企業からの依頼を受けてネットの炎上対策などを手がけるIT企業では、依頼する企業が増加傾向にあり、現在は100社以上の対策を請け負っています。
会社では依頼を受けた企業について「異物混入」や「情報漏洩」など問題になる可能性がある情報が投稿されていないかを監視し、該当する投稿があると企業側に報告して確認したうえで偽情報や誤った情報だった場合には投稿の削除をプラットフォームに要請したり、投稿された内容は誤りであるとするリリースを出したりするなどの対応を行っています。
ただ、現在行える対応には限界があり、家電量販店の店舗に対する投稿で特定の店員からクレジットカードの情報を盗み見られたという匿名の書き込みが見つかったケースでは、店舗や本人に確認したうえで偽の情報と判断し、プラットフォーム側に削除の要請をしたものの、まだ認められておらず、投稿は数か月ほどたったいまも残ったままになっているということです。
さらに最近では、生成AIを使って企業の代表者になりすまして投資を呼びかける広告に画像や名前を使われるケースも増えてきているということで、企業のイメージや株価などにも影響することが懸念されています。
IT企業「シエンプレ」の桑江令さんは「ぱっとみて画像や映像が生成AIかどうかを見抜くのは難しくなってきており、企業としてそれが本当なのかを確認をする作業やリソースが発生することになる。デマや偽情報を流された企業は自分たちは悪くないのに被害が出てしまうということに非常に苦慮しており、法的な規制求める声が増えている」と話しています。
教育で「表現の自由」と合わせて対策を議論するべき
インターネット上に拡散された偽の情報による被害が問題となるなか、憲法が保障する「表現の自由」と合わせて対策を議論していくべきだという意見もあります。
インターネットやSNSの活用に関する教育を行っている都内の会社では、2年前に会社を立ち上げて以降、全国から依頼を受け、子どもからお年寄りまで幅広い年代の人たちに対して講義を行っています。
生成AIの技術の発展に伴って偽情報に関する講義の依頼も寄せられているということで4月、京都市内の中学校で行われた講義では
▽ことし1月の能登半島地震のあとにSNSで拡散された偽情報や
▽「ディープフェイク」と呼ばれるAIによって作られたウクライナのゼレンスキー大統領の偽画像などの事例を題材に講義を行いました。
この中では
▽真偽がわからない情報はすぐに拡散しないことや
▽なぜ投稿したのか理由を考え、内容を調べること
▽万一自分が拡散してしまった場合のすぐに訂正することが重要だと説明しました。
また、世界各国で偽情報を規制する動きが進んでいることを紹介しました。
このうちロシアでは国が偽情報かどうかを判断し罰金や禁錮刑を科していることについて触れ、「偽情報の判断を誰がするのかが非常に大切なポイントだ。政府が法律で規制するようになると、『検閲』につながるおそれもあり、『表現の自由』がなくなる可能性がある」と述べました。
授業を受けた生徒からは「相手に制限されるのではなく、最終的に自分自身で制限できると思うので、気をつけていきたい」や「国が勝手に情報を削除してくれた方が、信じることもないからいいかなと思った」など、さまざまな意見が聞かれました。
授業を行った「インフォハント」の代表の安藤未希さんは「テクノロジーの進化に伴って真偽を見極めることが難しくなっていきますが、できるだけ情報を制限するのではなく、自身で確認して気付ける人を増やしていく教育を行うことが大切だと思います」と話していました。
情報発信に関わるプラットフォーム事業者も対策進む
インターネット上の情報発信に関わるプラットフォーム事業者も偽情報や誤情報への投稿を削除する基準を設けるなどの対策を進めています。
このうちYouTubeでは、虚偽が含まれ深刻な危害を及ぼす恐れがあるものなど、独自のガイドラインに違反している動画をAIによるシステムで検知し、このうちの77％を早期の段階で削除しています。
また、生成AIを使った動画の投稿が増えていることを受けて、実在の人物や場所だと見ている人が誤解する可能性がある動画には生成AIによって編集や生成が行われたことを示すラベルの表示を義務づける仕組みを導入しています。
グーグルは「ユーザーが安心して利用できる環境を提供することが最重要課題だ」としています。
また、LINEヤフーはそれぞれのサービスにおいて、明らかな偽情報の投稿を禁止することを規約やガイドラインに定め、政府機関やファクトチェック機関などによる確認を踏まえて削除するなどの対応をとっています。
ことし1月に能登半島地震が発生した際には、「今回の地震は人工地震である」といった趣旨の偽情報などを含んだ投稿をあわせて1800件以上削除しました。
さらに一部のサービスで生成AIを使って作成したテキストの投稿については
▽生成AIを用いたことを明記することや
▽内容が利用のルールに違反していないか事前に確認することなどの指針を定めています。
LINEヤフーは「行き過ぎた措置や恣意的な運用によってユーザーの表現の自由が損なわれることがないよう対応しているが、プラットフォーム事業者に規制を行うことついては偽情報・誤情報の定義は明確ではないことから慎重な検討が必要だと考える」としています。
専門家 “どこまで規制が必要か慎重に議論を”
憲法学が専門で、生成AIにも詳しい慶應義塾大学の山本龍彦教授は、今回の世論調査の結果について「生成AIで作られたディープフェイクと呼ばれるなりすましの偽動画は、積み上げてきた自分のイメージが一気に崩されるという非常に強い人格権の侵害にあたるものだ。こうした偽動画の脅威が一般的に認知されてきた結果だとみられる」と指摘しています。
また、規制のあり方については、「生成AIは適切に使えば人間にとって有用な道具になっていくかもしれないが、全く規制がないまま使っていくとリスクや不安が増大していく可能性があり、規制は適切に行われるべきだ。人権や民主主義を踏まえた憲法レベルでの議論を加速させる必要がある」と述べました。
そのうえで、「若い世代はほかの世代に比べて生成AIの利活用に寛容で柔軟に使っていこうという考え方もあり、どこまで規制が必要なのかは慎重に考えなければいけない。まずは生成AIが作成したものだと表示していくことで透明性を確保していくことを機軸に、選挙や教育のような重要な領域から規制を考えていく必要がある」と話していました。