ここまで来た！生成AI 生活をより便利に 一方でリスクも2月14日 17時42分

テイラー・スウィフトさんの偽画像は1月下旬にネット上で拡散しました。性的な内容を含む画像は生成AIを活用してつくられたとみられています。中には4700万回、閲覧されたものもあったということです。

XなどSNS各社は1月29日までに、偽画像の削除や検索の制限を行うなどの対応に追われました。

アメリカ・ホワイトハウスのジャンピエール報道官が「憂慮すべきことだ。ソーシャルメディア各社は、誤った情報や、同意のないまま実在の人物の性的な画像が拡散されるのを防ぐためにルールを作る重要な役割を担っている」と懸念を示すほど、アメリカでは大きなニュースとなりました。

生成AIの技術は、2022年11月にアメリカのベンチャー企業、オープンAIが開発したChatGPTで一気に知名度があがり、一般の利用が広がりました。

文字・テキストの入力に対して、自然な文章で回答してくれる、その出来栄えに多くの人が驚きましたが、技術の進化はどんどん加速します。

アメリカでは今、テキストから画像や映像、音声など複数のデータを同時に処理する「マルチモーダルAI」が大きなトレンドになっています。

いってみればこのトレンドの中で、画像生成の技術が悪用されたのが、スウィフトさんの偽画像作成だったわけです。

では、アメリカではどのような「マルチモーダルAI」の製品やサービスが登場しているのでしょうか。

話題になっているのが生成AIを使ったウエアラブル端末「AIピン」です。

2023年11月に受注を開始し、2024年3月に出荷を始める予定とされています。

端末にはカメラとセンサーが搭載され、無線通信を通じて生成AIとつながり、端末が周囲の状況を正確に把握し、さまざまな質問に答えます。

台湾を旅行中の女性がドラゴンフルーツを手に取り「これ食べられる？」と端末に話しかけると、カメラが果物を認識し、生成AIが分析。

「ドラゴンフルーツは糖分が少ないからいいですよ」とアドバイスするというのです。

端末からは光が出て、手の平にアイコンなどを光学的に表示。

例えば音楽の再生ボタンを手のひらで操作できるという便利な機能もあります。

この端末を開発したのはスタートアップ企業のヒューメイン。

元アップル幹部のイムラン・チョウドリ氏とベサニー・ボンジョルノ氏の夫婦が2018年に共同で創業した会社です。

チョウドリ氏は、この製品の特徴を次のように話しています。

イムラン・チョウドリ氏
「どこにいてもAIの力をフルに活用し、日常生活に切れ目なく溶け込ませます。この端末は、AIを日常生活に統合し、人間性を損なうことなく能力を向上させるという私たちのビジョンを具現化したものなのです」

アメリカのスタートアップ企業グライダンスが開発したのは視覚障害者向けの機器です。

一見するとコードレス掃除機のようですが、カメラが付いていて、生成AIとつながっています。

進む方向に障害物があると、カメラでとらえた映像を生成AIが判断し、障害物を避けるよう自動で視覚障害者を導いてくれます。

どうしても避けられない時には急停止し、取っ手が振動して知らせてくれます。

実際、私も体験しましたが、かなり正確に誘導され、楽に歩ける印象をもちました。

急速に進化する「マルチモーダルAI」は自動車分野にも取り入れられ始めています。

日本の大手電機メーカー、ソニーと自動車大手ホンダが手を組んでEVの開発を進めている「ソニー・ホンダモビリティ」はアメリカのIT大手マイクロソフトともに、生成AIを活用した、車に搭載するシステムの開発を進めると2024年1月に発表しました。

新たなEVは、映像や音楽、ゲームなど、車内での新たな楽しみ方を提案しているのが特徴で、生成AIとの対話を通じて、車内の操作だけでなくAIからの提案型のコミュニケーションも想定しているとしています。

一部のメディアでは、会話を聞き取ったAIが自動的にサービスを行ったり、車内での雑談相手になったりするのではないかと、早くも新たなサービスの詳細に想像を膨らませています。

マイクロソフト ジェシカ・ホーク氏
「AIの展望が急速に変化し、モビリティ産業に新しい技術やイノベーションが登場するにつれて、安全な責任あるAIは引き続き最優先事項です」

ソニー・ホンダモビリティ 川西泉 社長
「AI技術は急激に進化しています。これまで車は人が操縦するもの、運転するものという一方向の関係でしたが、モビリティの進化でもっと人に寄り添うような双方向な関係がつくれるのではないでしょうか。人と車の関係をもう1回考えていきたいと思っています」

一方、進化しているがゆえにリスクも増大しています。アメリカでは生成AIのリスク対策をビジネスにする動きがすでに広がっています。

アメリカの調査会社ガートナーは、生成AIのリスク管理が2024年に重要になると分析しています。

▽AI Trust（信頼性）
▽Risk（リスク）and Security（安全性）
▽Management（マネージメント）

その頭文字をとった略称で「AI TRiSM」というキーワードを掲げています。

この「AI TRiSM」をすでにビジネスとして展開している会社がニューヨークにあります。

スタートアップ企業「リアリティ・ディフェンダー」です。

AIによって生成された偽の画像や音声がフェイクかどうか見抜く技術を開発する技術をもつ企業として知られています。

CEOのベン・コールマン氏は、試しに偽の私の声を生成し、自社のシステムにかける実験を行いました。

まず、私がスマホに吹き込んだ音声データをもとに私の偽の声を作りだしました。

偽の声で文章を読ませることができるのですが、あまりに自分の声と似ているので、びっくりしてしまいました。

そして、私の偽の声をシステムに通したところ、全体の声の分量を示す黒い部分に対して、フェイクの声であることを示す赤い部分が大部分を占め、98％、つくられた声だと判断されました。

ある文章を音声に転換する際にできる極めて微細な変化を生成AIが探知することで、偽の音声かどうかを判断できるといいます。

この微細な変化は人間の耳では探知できないものなのだそうです。

また、偽画像も識別できるといいます。

こちらの一見するとプーチン大統領の発言とみられる動画もこの会社のシステムだと、いとも簡単にフェイクと見抜きます。

しゃべっている口の動きと音声が微妙に一致していない点を見抜き、偽画像と判断するといいます。

ベン・コールマンCEO
「フェイクの音声、画像、動画は非常に急速に進歩しています。敵は日々、偽の顔や声を作り出す新しいツールを作り出しています。だから私たちは夜も眠れません。顧客企業がリアルタイムで偽の顔や声を識別できるように、常に最新の技術にアップデートし、新しいモデルを提供しなければならないのです」

さらに、生成AIをビジネスで活用する場合に直面するさまざまなリスク対策を企業に提供するビジネスも注目されています。

テクノロジー企業が集まるサンフランシスコに、ハーバード大学のAIの研究者が設立したスタートアップ企業、ロバスト・インテリジェンスを訪ねました。

企業向けに、生成AIの活用によって誤った情報を顧客に提供したり、個人情報が漏えいしたりするリスクを監視するサービスを提供しています。

例えば、生成AIを活用して顧客にチャットなどで質問に答えるシステムを導入する企業の場合、システムが顧客に誤った情報を伝えようとした場合に、会社の膨大なデータなどを読み込んだAIとソフトウエアが察知し、即座に企業に知らせ、未然に防ぎます。

生成AIのリスクは誤った情報の拡散だけではありません。

大量の個人データを抱える企業にとっては個人情報の漏えいも大きなリスクです。

さらにグローバルにビジネスを展開する企業にとっては各国政府のAIへの規制に国ごとに対応できるかどうかも重要になってきます。

専門的な技術や知識が必要となる、こうしたいわば「防御」分野のビジネスは今後、需要が高まると、この会社ではみています。

ロバスト・インテリジェンス 大柴行人 共同創業者
「AIリスクも増大し、新しいテクノロジーが登場するたびに新しい脆弱性も発生します。だからこそ、問題解決に焦点をあてた専門の組織や企業が必要なのです」

マイクロソフトの共同創業者ビル・ゲイツ氏は2023年3月「AIの時代が始まった」というタイトルのブログを掲載しました。

「生成AIは携帯電話とインターネットに匹敵するほど革命的だ」との副題をかかげたうえで「私の人生において、革命的だと感じた技術のデモンストレーションは2つしかない」として、1つはウィンドウズを含む現在のOSの先駆けとなったGUI、もう1つがオープンAIの生成AIだと指摘しています。

ゲイツ氏に革命的だと思わせた、たった2つの技術のうちの1つだけに、驚くほど急速に進化しているというのもうなずけます。

加速度的な進化は私たちにどのような利便性をもたらしてくれるのか、そしてどのような経済や社会を形づくっていくのか、まだ見えてきません。

同時にそのリスクもまた私たちの想像を超える可能性があり、ルールの制定も含めて、使い方を社会全体で考えていく必要があることを強く感じています。

（1月12日「BS国際報道」で放送）

アメリカ総局記者
江崎大輔
2003年入局
宮崎局、経済部、高松局を経て現所属

経済部記者
三好朋花
2017年入局
名古屋局を経て経済部
現在はITや電機業界を担当