画像生成AI “クリエーターの権利脅かされる” 法整備など提言

AI（人工知能）

文章で指示するだけで自動的に画像を生み出す「画像生成AI」の不適切な使用によってクリエーターの創作活動や権利が脅かされているなどとして、イラストレーターや漫画家などで作る団体が記者会見を開き、画像生成AIの適切な使用や法整備などを求める提言を発表しました。

記者会見を開いたのは、イラストレーターや漫画家などおよそ30人で作る「クリエイターとAIの未来を考える会」で、団体の理事を務め、イラストレーターとして活動する木目百二さんら3人が出席しました。

会見では、現在利用されている画像生成AIの多くは、著作権の所有者に無断でインターネット上から収集、複製した画像を機械学習に使用していることや、第三者が画像生成AIの機能を使って別の人が著作権を持つ画像を無断で改変し、全く別の作品として公開する行為が後を絶たず、クリエーターの権利が脅かされていると訴えました。

そして、AIの開発と著作権をめぐる法整備が十分議論されていないなどとして提言を発表しました。

提言では、▽画像生成AIの機械学習に著作物を使用する場合は事前に著作権の所有者に使用許可を得ること、▽画像生成AIの画像には、AIによる作品であることや元となった著作物の明示を義務づけること、▽著作者に対して使用料を支払うことなどを、求めています。

木目さんは「私自身もクリエーターとして自分の作品のコピー品が大量に出力されており、許されてはいけないことだ。国にはクリエーターの創作の文化や権利を守ることを理念としてしっかりと取り組んでほしいです」と話していました。

“無断で改変された”訴えるクリエーターは

自作のイラストが画像生成AIを使って何者かに無断で改変されたと訴えているクリエーターの女性は、去年12月、インターネットの投稿サイトで公開した自作のイラストが、その数日後に画像生成AIを使って無断で改変されネットに公開されているのを見つけました。

イラストは、ピンク色の帽子をかぶったイラストレーターの女性を描いたものでしたが、何者かがある画像生成AIにイラストを取り込んで改変し、再生成されたと見られています。
改変後のイラストは、構図や帽子のデザインなどは元のものとほぼ同じで髪の色や着ている服は、まったく違うものになっていて、「元のイラストの数千倍かわいくて売れそうな絵」とか、「改変行為？該当するわけないだろ」など、挑発するような文章とともにネットに掲載されていたということです。
匿名の人からの情報提供で気付いたということで、女性は「すごい悲しいという気持ちと怒りや悔しさを感じましたが、何も出きることが思い浮かばず、ただ耐えて涙を流すしかなかった」とした上で、「こんなことがあるとどのイラストレーターも不安で自分の作品を公開することができなくなるかもしれません。AIの発展はすばらしいことですが、自分の作品が知らないうちに利用されてしまう現状に恐怖を感じます」と話していました。

「生成AI」悪用のリスクを指摘する声

生成AIを巡っては、サイバー犯罪者が攻撃に利用しようとする動きが確認されるなど、悪用のリスクを指摘する声が高まっています。

サイバー犯罪に詳しい三井物産セキュアディレクションの吉川孝志さんによりますと去年11月に対話式のAI「ChatGPT」が発表されて以降、匿名性の高い闇のネット空間ではどのようにサイバー攻撃に悪用するかの情報交換が活発に行われているということです。
サイバー犯罪者たちが試みるのは「脱獄」と呼ばれる手法です。

「ChatGPT」には犯罪などに悪用されないように違法行為に関わるおそれのある質問には原則、回答しないという制限が設けられています。ところが、AIに特定の人格のふりをするよう仕向けるなど、特殊な質問のテクニックを使うとこの制限を解除できることがあるということです。

吉川さんが実際に、ソフトを「脱獄」した上で身代金要求型のコンピューターウイルス＝ランサムウエアをつくるように指示すると、プログラムを生成していました。

さらに、匿名性の高いSNS「テレグラム」とを組み合わせて開発された独自のアプリも闇のマーケットで販売されていることが確認されました。このアプリでは、制限の全くない状態で自由に対話できるようになり、そもそも「脱獄」さえ必要ありません。

吉川さんは「知識に乏しいハッカーでもウイルスを開発でき、敷居を下げることにつながるのは間違いない。AIのサイバー攻撃への悪用が拡大していくことが懸念される」と指摘しています。

悪用はサイバー攻撃以外にも

AIの悪用はサイバー攻撃以外にも広がっています。

たとえば吉川さんが「脱獄」をした上で爆弾の作り方について質問するとすぐに具体的な回答が得られることも確認できました。

また、吉川さんが着目するのは、生成される自然な日本語です。フィッシング詐欺のメールの文面のほか、フェイクニュースといったうその文章をつくることも容易です。

吉川さんは「作り出す文章が非常に巧妙であり、偽情報の拡散にも使われる可能性は非常に高い」と話しています。
対策については、AIを提供する側の対応が最も重要だとしていて「現時点では、制限機能は容易に回避でき、悪用に関する情報もアンダーグラウンドの空間にあふれているという実情がある。対策は後追いであり、しかも、ほとんど追いつけていない。セキュリティーの知見を持ったチームを並行して立ち上げるなど対策に本腰をいれる必要がある」としています。

その上で「新しい技術は常にプラスとマイナスの側面がある。安全を担保してから世に出すのか。世に出してから安全を担保するのか。サービスを提供する側が悪用の問題を察知し、迅速に修正しながら、社会に有益な方向に活用されていくようにする必要がある」と話しています。

また、一般のユーザーが気をつけるべき点として吉川さんがあげたのが、AIサービスのアカウント情報の漏えいです。

ChatGPTをはじめ、AIを活用したとするサービスが数多く発表されているものの、その中には、悪意のあるプログラムなどが仕込まれているものもあり、個人情報を盗み取られる可能性もあるとしています。
吉川さんによるとChatGPTのアプリに見せかけたウイルスも見つかっているほか利用者のアカウント情報だとするデータも販売されているということです。

吉川さんは「出所不明のサービスの中には悪意を持って個人情報を盗む犯罪者が背後にいることが十分に考えられる。不用意に登録したり、インストールしたりすることは大きなリスクを伴うことをいますぐに認識すべきだ」と注意を呼びかけています。

G７デジタル・技術相会合で主要テーマに

文章や画像を自動的に作り出す「生成AI」が急速に普及する中、29日から2日間の日程で、G7のデジタル・技術相会合が群馬県高崎市で開かれます。

これについて松本総務大臣は、27日の衆議院総務委員会で「生成AIが急速に普及し、開発や規制のあり方が議論になっている。開発の振興、利活用の推進、適切な規制という3つの観点がいずれも重要だ」と指摘しました。

その上で「大臣会合では『責任あるAIとAIガバナンスの推進』などについて議論することになる。信頼できるAIの普及・促進などに向け、議長国としてしっかりリーダーシップを発揮したい」と述べ、AIの適切な利用のあり方を議論の主要テーマとする考えを示しました。