「この商品は本当に便利です」
「暑さ対策にぴったりのアイテムです」
大手通販サイトのレビューを評価し、不正レビューなどチェックしているサイト「サクラチェッカー」を運営するユウさん。
ことし4月、見慣れない書き方の不審なレビューが相次いでいるのを見つけました。
その口コミ、AIが書いたかも！？通販サイトに不審なレビュー
「本当に便利です！」「ぜひおすすめします」
ネット通販で購入するとき、こうした“口コミ”を参考にする人も多いのではないのでしょうか？
これらの文章、生成AIに「レビューを書いて」と指示してつくられた、使ってもいない商品をおすすめするフレーズなんです。
そしていま、通販サイトのレビューのなかに、こうしたAIが書いた可能性がある不審な文章が相次いで出現していることがわかりました。
通販サイトの運営会社では、生成AIを利用したレビューがあるとした上で、他人の文章を盗用するなどのガイドラインに違反する場合は厳しく対処していくとしています。
その口コミは本当に使った人の感想なのか？それともAIが書いているのか？
（デジタルでだまされない取材班 斉藤直哉）
レビューに“異変”
このサイトはこれまで、不自然な日本語だったり、同じ文章を使い回していたりする特徴を分析し、企業から依頼を受けて不正にレビューを書き込むいわゆる「やらせ」や自作自演の可能性を独自に判断してきました。
新たに見つかったレビューは、一見自然な日本語で書かれていたものの、これまでにはない共通の疑わしいパターンがあったといいます。
一見自然な文章だが…
その1つが「この商品」という言葉を何度も使っていることです。
例えば、ことし6月に書き込まれていた携帯型クーラーのレビューの文章では、「この商品」「このネッククーラー」という言葉が繰り返し7回使われていました。
サイト運営者 ユウさん
「これまで見てきた普通のレビューはもっと口語的なのですが、しつこいくらいに『この商品』を繰り返していたことに最初に違和感を感じました」
もう1つの特徴として、「また」や「さらに」といった接続語で段落が分けられ、商品の機能や使い方を網羅的にまとめている点が気になったといいます。
サイト運営者 ユウさん
「レビューではその人がおすすめするポイント1つに焦点をあてて、ここがよかったとかよくなかったということを書くケースが多いのですが、なぜか論文や作文のように商品の要素を網羅的にまとめていることが逆に気になって、AIによる文章ではないかと考えるようになりました」
AIが「私は最近購入しました」とおすすめ
共通のパターンをもつこれらのレビューが、AIによる文章ではないかと考えるに至った経緯を再現してもらいました。
生成AI「ChatGPT」に「ネッククーラーのレビューを書いて」と入力。
すると、AIは「夏の救世主です！」「私は最近購入し、その効果に本当に驚きました」などど、使ってもいない商品をまるで使ったように表現した文章をものの数秒で出力しました。
このとき、具体的な商品名は書き込んでいないにも関わらず、機能や使い方までも丁寧に書かれていました。
文章をみてみると、「このネッククーラーは非常に快適です」「この製品を検討してみる価値があります」など「この～」を何度も繰り返していました。
加えて、「また」「さらに」といった接続語で段落分けされ、見やすくまとめられていて、不審なレビューと同じ特徴を持っていました。
商品の説明文を要約か
さらにユウさんは、AIにより具体的な指示を出して書かせている可能性もあると考えています。
別のバイク用の雨カバーのページに書かれていた疑わしいレビューでは「○○デニールの素材」「○○パスカルに耐える防水性」などと、具体的なおすすめポイントが書かれていました。
これらの数字は、もともと商品ページの説明文に書かれている内容でした。
そこで、ChatGPTに、この商品の説明文をそのまま入力して、レビューを書くよう指示したところ、ほぼ同じ単語を順番どおりに使った、検証したレビューとそっくりの文章が出力されました。
商品が違うのに使い回しも
生成AIで作られたとみられる文章が、使い回されていることもわかりました。
メーカー名も商品名も違う複数の携帯型クーラーのレビューページに、生成AIが疑われる文章がまったく同じのまま投稿されていたのです。
投稿していたのは同じアカウントで、生成AIで作ったレビューをコピペして別の商品のレビューとして投稿するなど、何者かがAIを悪用して架空のレビューを投稿している可能性があると指摘しています。
疑わしさを独自に判定
ユウさんは傾向をつかむため、商品名を変えながら延べ1000回以上、AIでレビューを生成するよう指示し、比較してパターンを分析。
コピペを判定するツールを使って、文章の類似度を調査したところ、疑わしいレビューのなかにはAIによるレビューと比較して、文章の8割近くが同一または類似していると判定されたケースもあったということです。
こうして調査したAIによる文章のパターンから、レビューがAIで書かれたかもしれない可能性を数字で示すシステムを作り、その結果をサイト上で提供するサービスを新たに始めました。
このシステムによる判定で、AI生成のよるものと疑われるレビューは、これまでに数百件確認されたと言うことです。
ユウさんは、今後もパターンを解析していきたいとしていますが、AIがより巧妙になってくると、今後気づかなくなるおそれがあると話しています。
サイト運営者 ユウさん
「私はレビューを評価するサービスを10年以上開発してきましたが、こんな特徴をもったレビューはみたことがありません。私は今回、気付くことができましたが、今後、AIが進化してより本当のレビューっぽい文章がつくられるのではないかという危機感を持っています。自分が使った感想を書くのがレビューであって、AIに任せてしまうと、さも買ったかのような感想が自動でつくられてしまい、それはいいことではないと思います。これまでもやらせレビューの問題があって、どれが本当のレビューか見抜くのが難しくなっていたところに、新たな問題が増えてしまったと感じます」
生成AIの利用 規約では
レビューを生成AIで書くことは規約上どう位置づけられているのか。
大手通販サイト「Amazon」のレビューの規約をみると、現時点では生成AIに関する記述はありませんでした。
「Amazon」の日本法人に取材すると、「数多くはありませんが、お客様が生成AIを利用してレビューを執筆する場合がある」と回答がありました。
その上で、「商品に関する自身の体験に基づいたものでガイドラインを満たしている限り」生成AIのレビューへの利用は禁止の対象ではないとしています。
一方で、他者になりすましたり、他人の文章を盗用するなどのガイドラインに違反した不正なレビューに関しては厳しく対処しているとしています。
いったい誰が…
これらのレビューはいったい誰が書き込んでいるのか。
取材班ではレビューを書き込んだとみられるアカウントの人物を公開情報などから追跡し、実際に話を聞こうと直撃しました。
しかし、いずれの人物も取材に応じなかったり、「レビューにAIを使ったことはない」などとして、詳しい話を聞くことはできませんでした。
AIレビューは見破れない？
これらのレビューがAIによって書かれているのか、技術的に調べられないか、取材班はAIに詳しい複数の専門家に聞きました。
しかし、いずれの専門家も、いまの技術ではレビューのような短い日本語の文章を信頼できる精度で判別することは難しいという内容の回答でした。
生成AIの1つ「ChatGPT」の運営企業では、文章がAIで書かれている可能性を判断する無料のツールをウェブ上で公開しています。
しかし、判別には文章の長さが少なくとも1000文字が必要で、かつ主な対象は英語の文章としていて、英語以外の言語の場合は「間違った結果となる可能性がある」と注意書きしています。
いま世界各地で研究者や企業がこうした文章を判別するアルゴリズムやツールを開発していますが、日本語の短いレビューを高い精度で判別する技術は確立されていないのが現状だということです。
取材班では試しに「ChatGPT」に、レビューの文章が「AIで生成されたかどうか」を尋ねてみましたが、同じ文章でも結果がバラバラだったり理由があいまいだったりして、それ以上はわかりませんでした。
悪意を持った情報がつくられるおそれも
見分けがつかない情報をAIが生成することによる社会への影響について、情報セキュリティーが専門の国立情報学研究所の越前功教授は、次のように指摘しています。
越前功 教授
「文章に限らず画像や映像、音声のAI生成は今後どんどん発展していく。現状でも顔画像では、これはAIが生成したのか本当の人間の顔なのか、人間の目では判断できない状況になりつつあり、今後さらにそれが進んでいく。誰でもこういったツールを使えるようになると、そのなかに悪意を持った人も紛れ込み、悪意を持った情報をつくるという状況になる。見ただけでは見分けがつかなくなってくるので、今後、その情報だけを信じるのではなくて、ほかの情報源やファクトと呼ばれる情報にあたって、本当なのか、信頼できるのかをユーザー自身が判断する、情報リテラシーが求められる時代になってくる」
NHKニュースポスト
#デジタルでだまされない
取材班では、皆さんから体験談などだまされないためのご意見を募集しています。
取材班では、皆さんから体験談などだまされないためのご意見を募集しています。
