ことし1月下旬にSNS上ではアメリカの人気歌手テイラー・スウィフトさんの生成AIが使われたとみられる偽画像が拡散しました。
ネット上ではこうした偽画像が出回り、大きな社会問題になっています。
こうした中、ChatGPTを開発するオープンAIは7日、この会社の生成AIでつくられた画像を検知する技術を開発していると発表しました。
98%の精度で生成AIによる画像かどうかを判断できるとしています。
生成AIでつくられた巧妙な偽画像が拡散するのを防ぐねらいがあるものとみられます。
また、画像や映像の制作者や編集履歴を誰でも見ることができるようにして信頼性を高めようとしている業界団体「C2PA」の運営委員会に参加するとしています。
オープンAIは生成AIの開発で世界をリードしてきましたが、安全性などをめぐって批判も受けてきました。
偽画像対策をアピールすることで、こうした批判をかわすねらいもあるものとみられています。
オープンAI 自社生成AIで作った画像 検知する技術の開発を発表
生成AI、ChatGPTを開発するアメリカのオープンAIは、自社の生成AIでつくられた画像を検知する技術を開発していることを明らかにしました。生成AIでつくられた巧妙な偽画像が拡散するのを防ぐねらいがあるものとみられます。