AIの脅威フェイクが拡散声優・タレントが抗議も生成AIとの共存は | NHK | WEB特集

いま、生成AIで作られたコンテンツが世界を席けんしている。

背景も俳優もすべて生成AIで作られた映画、AIタレントが出演するCM、漫画の神様手塚治虫さんの新作の脚本まで。

一方で、ネット上では、政治家やタレントなどの偽画像が拡散。最近では、アーティストや声優の声を無断でAIに学習させた、歌の動画が人気を集め、声優たちが抗議の声を上げる事態になっている。

急速に進化を続ける生成AIの現在地を徹底取材した。
（クローズアップ現代取材班）

すべてのショットがAI

すべてが凍てついた、冷たく、色のない陰鬱な世界。

防寒着に身を包んだ人々は凍え、たき火で暖を取っている。

いくつもの困難を乗り越えた先で調査隊が見たものとは…。

「THE FROST」という12分余りの短編映画。AIによって生成された映像のみで構成されている。

制作したのは、アメリカ・デトロイトの映像制作会社。

人間の脚本をもとに、映画のワンシーンのイメージに近い画像を生成AIで作り、その後、画像に動きを与えるツールを使ってアニメーション化したという。

7人で作業し、およそ3か月かけて完成させた。

まさに“マジック”だ

監督を務めたプロデューサーは、AIの能力をまるでマジックだと評価する。

監督を務めたジョッシュ・ルービン Waymarkエグゼクティブプロデューサー
「例えば『氷の上で足を滑らせるショットを頼む』といった場合、編集室から1歩も出ないでそれが可能で、30分もすれば『できたよ』という返事が返ってきます。しかもショットのバージョンが10もあるんです。まさしく“マジック”です」

CMに“AIタレント”

日本のテレビコマーシャルにも生成AIが活用されている。

お茶を片手に軽やかな歩調でこちらにスキップしてくる女性。大手飲料メーカーのCMだ。

お茶をカメラにかざして画面が暗転した次の瞬間。

女性は一気に若返り、そのままおいしそうにお茶を飲む。

一見すると、ふだんテレビで目にするような俳優に見えるが…。

この女性はAIで作り出した架空の人物＝「AIタレント」だ。

自然な表情、違和感のない動きに、ネットでは「気付かなかった」「すごい」などといった驚きの声が上がっている。

企業にとっても「商品のコンセプトにあった人物像」を忠実に作り上げることができることや、実在するタレントと違って「タイムスケジュールを気にする必要がない」など、多くのメリットがあるという。

日本お家芸の文化もAIで

日本が誇る「漫画」でも、AIを使って制作する試みが行われた。

34年前に亡くなった漫画の神様“手塚治虫”さんの代表作の1つ「ブラック・ジャック」の新作を作るプロジェクトを、生成AIが担った。

「ブラック・ジャック」は、医師の免許を持たない天才外科医が主人公の「生命」と「医療」をテーマにした作品。

生成AIが主に行ったのは、ストーリーの作成だ。

AIが提案した「アイデア」をもとに人間のクリエーターが手を加えていった。

キーワードを打ち込むと、AIは、わずか数分で全く違うプロットの5つのストーリーを提案。

【ストーリー例】
▽顔の一部を失ったアイドルがブラック・ジャックに、美容整形を依頼するという物語。

▽暴走族がブラック・ジャックに助けられたことで更正の道を歩むというストーリー。

いずれも、手塚さんの豊富なアイデアを彷彿とさせるものだった。

最終的に、完成した作品は、5つの中から選ばれた「機械の心臓など多数の人工臓器が埋め込まれた患者マリアの異変にブラック・ジャックが立ち向かう」という筋立てになった。

中でも関係者を驚かせたのは、AIが、マリアの病気の原因として示したアイデアだった。

それは「フラッシュクラッシュ」。

「株価などの相場が瞬間的に暴落・高騰する」現象を示すことばだった。

フラッシュクラッシュは「株の自動取引に使っているコンピューターの連携不足が原因で引き起こされることがある」と指摘されている。

AIは、数多くの人工臓器が埋め込まれた人間の体の中では「人工臓器どうしの連携・ネットワークが障害を起こして、フラッシュクラッシュのようになる」と、提示してきたのだ。

そして、最新の医学研究では「体内の臓器どうしが互いにホルモンなど多くの化学物質をやりとりすることで情報交換し、心身の健康や生命を保っている」ことがわかってきている。

生前、手塚さんは、その時々の最先端の研究や知見を常に漫画に反映させ、その手法が、物語に深みや具体性をもたらし、不可能を可能にする技術と知識をブラック・ジャックに与えてきた。

AIは、手塚さんの死後、30年以上たった現在の医学と経済の最新の知見を見事に組み合わせ、手塚さんのお株を奪うかのようなアイデアを生み出したのだ。

SNSで拡散 AI生成によるカバーソング

一方、生成AIで作られたコンテンツは、さまざまなトラブルも引き起こしている。

いまSNSやネット上で話題になっているのが、AIで生成されたカバーソング。

声優やアーティストなどの声をAIで学習し、模倣することで作られている。

ほとんどは声の主に無断で行われている。

大物のロックバンドやポップシンガーが歌っているかのようなアニメの曲や人気女性歌手が全く別のバンドの曲を歌っているかのようなものなど、数多くの動画が流れている。

日本の人気アニメのキャラクターが、AIの音声でアメリカ人歌手の曲を歌う動画は、視聴回数が1400万回を超えるほどの人気ぶりだ。

誰でも簡単？AI音声

こうした、AIによるカバーソングは、ネット上で無料で手に入る、AIソフトを使って誰でも簡単に制作することができる。

このAIソフトを利用しているというクリエーターの男性に話を聞いた。

必要なのは、音声生成AIソフトと、比較的性能が高いパソコン、生成したい声の元となる音声データで、学習データは、15分ほどの日常会話などの録音があれば十分だという。

学習の回数や精度などを指定し、学習開始のボタンをクリックするだけ。

早ければ30分で学習は完了する。

こうして生成したAI音声は「モデル」と呼ばれ、アバターの声を替えたり、入力したテキストを読み上げたりする音声として使うことができる。

男性は、許可を得た友人の声をAIに学習させ、趣味の仮想空間で、自分の声を別の声に変えて会話を楽しんでいる。

アーティストなどの声を無断で学習させて、それをネットで公開するAIカバーはやっていないという。

クリエーター銀鮭さん
「AIが登場したことで、多少スペックが高いパソコンさえあれば、特別な知識がなくても無料で、気軽に、他人の声を使って変換できるようになりました。ただ、怖さも感じます。自分の声が勝手に学習されて知らないところで勝手なことをされたらと思うと、嫌ですから」

声優・梶裕貴さん「声はおもちゃじゃない」

一方で、SNSで投稿が相次ぐ「AIによるカバーソング」は、多くがアーティストや声優などの声の持ち主に無断で作られている。

声を勝手に利用された動画を、当事者はどう思っているのか。

「進撃の巨人」のエレン・イェーガー役など、数々のアニメで主人公を演じている声優の、梶裕貴さん。

AIが作った梶裕貴さんの音声が、はやりのポップソングを歌っている動画がネットで公開されている。

梶さんは、この歌を公の場で歌ったことは一度もなく、声の学習を許諾したこともない。

声優梶裕貴さん
「一般の方からすると、かなり近く聞こえる部分はあるんだろうなと。僕自身の顔写真があって、梶裕貴が歌っています、しゃべっていますと表現されることが、一番心がざわざわします。恐怖とか嫌悪感があります」

梶さんが強く訴えたのは、自分がキャラクターを演じてきた作品への思いだ。

声優梶裕貴さん
「作品を作る皆さんの思いが、無下にされている。作品への愛とか、リスペクトという部分で配慮が欠けているのかなと。表面だけなぞって別の形でアウトプットされてしまうというのは、人間本来の気持ちの悪さとは違う部分で、役者として歯がゆいというか、悔しい、複雑な思いがあります」

“表現”への脅威どう向き合う

声優が所属する日本俳優連合は、生成AIを声優の“表現”に対する脅威だとして、ことし6月「生成AI技術の活用に関する提言」を公表。

「新しい技術の進化による社会の発展は望ましい」とした一方、ガイドラインの策定や著作権法の見直し、「声の肖像権」の設立などを訴えている。

日本俳優連合池水通洋専務理事
「声の無断使用は一切許容できません。声優の声は、いろいろなものがつながって“表現”として表れる。文字が音になるという、そういう単純なものではないんです。みんな自分の“表現”を作るために、何年もかけて訓練してきている訳だから、それはとても大事にしないといけないと思います」

私たちはどうAIと向き合うか

生成AIによるコンテンツによって俳優の容姿や声が、いわば簡単にコピーされてしまう事態。このAIカバーは法的に見てどのような問題があるのか。

日本では、AIが普及し始めた5年前に著作権法が改正され「30条の4」で、AIの学習のための著作物の利用が許されている。ただ、無条件になんでも利用していい訳ではなく「著作権者の利益を不当に害することとなる場合は、このかぎりではない」という“ただし書き”が定められている。

しかし「不当に害する場合」が明確に規定されておらず、線引きがあいまいなために、生成AIを利用する側と学習に利用される側のトラブルが後を絶たない。

こうした状況に、現在、文化庁の審議会では、特定の声や、漫画家の画風など『特定の誰かに特化したAIの学習』は、著作権者の利益を不当に侵害する行為に当たるのではないかという議論が行われている。

AIと著作権の問題に詳しい福井健策弁護士は、次のように指摘する。

福井健策弁護士
「5年前に行われた法改正でAIに学習の権利が認められた段階では、将来、どういう問題が起こるのか予測できていませんでした。現在は、俳優や声優などが、あまりに過剰に自分たちの容姿や声が、いわば搾取的に学習されてしまうことに危惧を抱いていることを、十分に考慮しなければならないと思いますが、その一方で、すでにAIを創作活動に取り入れているクリエーターもいます。今後は、AIがどこまで許されるのか、限界を探るためのガイドラインなどの議論が進んでいくことになるでしょう」

氾濫するコンテンツをどう規制するか

生成AIで作られた動画が多く流れているプラットフォーム側はどう考えているのか。

「TikTok」は、9月、生成AIコンテンツを明示する機能を試験的に導入したとしている。

その上で私たちの取材に「AIの進化と共に、アプローチを進化させる必要があると認識している。進化し続けるAIが生成したコンテンツを安全に使いこなせるよう、改善・アップデートを続けていく」と答えた。

また、動画投稿サイト「YouTube」を運営するグーグルは11月、生成AIに関するガイドラインを発表。

AI生成コンテンツの明示を義務づけたほか、ユーザーや音楽会社が、アーティストなどの歌声を生成AIで模倣した動画の削除をリクエストできる機能を導入したとしている。

アメリカでは生成AIで俳優が脅かされている

そして、生成AIの活用が進むアメリカでは、俳優の画像や音声などのデータから生成されたと見られる本物そっくりの動画が、SNSなどで勝手に使われる事例も出ている。

中には肖像権の侵害だとして訴えたケースもあるという。

アメリカの俳優でつくる労働組合は、このままでは人間の演技がAIに取って代わられるなどとして、俳優を保護するための規制などを求め、4か月にわたった大規模なストライキを実施。

11月8日、製作会社側と暫定合意したと発表された。

合意の詳細は明らかになっていないが、AIの脅威から組合員を守ることへの同意などが盛り込まれたとしていて
▽製作会社が俳優のデータを利用する場合、本人の同意を得ること
▽公正な報酬の支払いを義務づけること、
などといった内容が伝えられている。

さまざまな悪用の懸念

生成AIによる、本物と見まがうばかりの動画や音声への懸念は、俳優の権利侵害だけではない。

日本でも、AIで生成された偽の画像が大雨の被災地の様子として拡散されたケース。

岸田総理大臣に全くのウソの発言をさせる動画も出回ったほか、テレビの女性アナウンサーがニュース番組で投資を呼びかけているかのように見せかけた偽の広告がSNSで拡散されるなど、懸念は現実のものとなっている。

AIとの共存

ChatGPTのリリースから1年。

瞬く間に世界中に広まった生成AIは、今後も私たちの身近な生活に入り込み、切りはなすことができない存在になっていく。

AIで何ができるのか、そして何をしてはいけないのか。

まずは、私たち一人一人がAIを正しく理解すること。

その上で、AIとの付き合い方を考えていくことが求められている。

（12月12日「クローズアップ現代」で放送）