去年、一躍ブームとなった生成AI。世界中で開発競争が激化し、急速に進化を遂げている。
この先AIはどうなっていくのか。日本は開発競争を生き抜くことはできるのか。
国内の研究で第一人者といわれる東京大学の松尾豊教授に教えてもらった。
（おはBizキャスター 渡部圭司／政経・国際番組部ディレクター 大川祐一郎）
ビジネス特集
おさえておきたい生成AIのいま 国内第一人者に聞いてみた
記事のポイント
・2024年 生成AIは次のステージに進む
・「日本語のデータを増強したモデル」が鍵を握る
・研究開発を“オープン”にできるか
・AIが人間に“忖度”する？
・人間をだます？ “AIが嘘をつく”=「ハルシネーション」とは
・AIは「いい道具」？ あなたはどう使いますか？
・「日本語のデータを増強したモデル」が鍵を握る
・研究開発を“オープン”にできるか
・AIが人間に“忖度”する？
・人間をだます？ “AIが嘘をつく”=「ハルシネーション」とは
・AIは「いい道具」？ あなたはどう使いますか？
2024年 生成AIは次のステージに進む
20年以上、AI研究の最前線で活躍する松尾教授は、若手研究者のスタートアップを育成していることでも知られている。
アメリカのスタンフォード大学で学んだ際に、研究開発で生まれた技術が、ビジネスを通して社会に実装され、その結果がまた研究に生かされる、シリコンバレーのダイナミズムに刺激を受けたそうだ。
松尾教授は、“研究者は理論研究をしていれば世の名は変わる”という考えは過去のものだと、研究とビジネスとの循環を日本でも作りたいと活動している。
去年、政府のAI戦略会議の座長に就任し、国内でのAI開発や利活用を支援するのはもちろん、安全性を担保するためのルール作りなども主導する立場だ。
まずは、2024年のことし、AIはどう進化するのか聞いた。
松尾教授は、“研究者は理論研究をしていれば世の名は変わる”という考えは過去のものだと、研究とビジネスとの循環を日本でも作りたいと活動している。
去年、政府のAI戦略会議の座長に就任し、国内でのAI開発や利活用を支援するのはもちろん、安全性を担保するためのルール作りなども主導する立場だ。
まずは、2024年のことし、AIはどう進化するのか聞いた。
東京大学 大学院工学系研究科 松尾豊 教授
「2023年が“生成AIに始まり生成AIに終わった”という1年だったと思いますが、ことしもさらに生成AIの活用が進み、次のステージに進んでいくと思います。この生成AIを使って、いろんなアプリケーションを作ろうという試行錯誤が進んでいますので、それが目に見えるかたちで現れてくるのではないかと思います」
「2023年が“生成AIに始まり生成AIに終わった”という1年だったと思いますが、ことしもさらに生成AIの活用が進み、次のステージに進んでいくと思います。この生成AIを使って、いろんなアプリケーションを作ろうという試行錯誤が進んでいますので、それが目に見えるかたちで現れてくるのではないかと思います」
以前、別の取材で、日本語の文章をChatGPTが瞬く間に流ちょうな英文にしてくれたことに衝撃を受けたが、松尾教授によれば、生成AIの活用はまだ始まったばかり。
私たちはその入り口に立っているに過ぎないらしい。
それはインターネットの利用が始まった頃によく似ているという。
私たちはその入り口に立っているに過ぎないらしい。
それはインターネットの利用が始まった頃によく似ているという。
松尾教授
「ChatGPTなどの対話用アプリは、ある意味、技術のショーケースみたいなものです。特定の仕事にどう使えるかは、これから開発しないといけません。現状は、例えばインターネットの初期に、“ホームページが見られてすごいね”っていうことと似ていて、それを使って『eコマース』や『検索エンジン』、『ソーシャルメディア』というのができたわけです。同じように生成AIも、その技術を使って、どういうサービスやアプリを作っていくのかというのが勝負だと思います」
「ChatGPTなどの対話用アプリは、ある意味、技術のショーケースみたいなものです。特定の仕事にどう使えるかは、これから開発しないといけません。現状は、例えばインターネットの初期に、“ホームページが見られてすごいね”っていうことと似ていて、それを使って『eコマース』や『検索エンジン』、『ソーシャルメディア』というのができたわけです。同じように生成AIも、その技術を使って、どういうサービスやアプリを作っていくのかというのが勝負だと思います」
松尾教授は生成AIを社会で活用するための模索も始めている。
故郷の香川県で、三豊市とともに、生成AIがゴミの分別や処分の方法を市のホームページで答える実証実験を行った。
故郷の香川県で、三豊市とともに、生成AIがゴミの分別や処分の方法を市のホームページで答える実証実験を行った。
結果的には、正答率が目標の99％に届かず、去年12月に本格的な導入は見送られている。
松尾教授
「今の生成AIはコントロールするのがなかなか難しくて、自分の思い通りに振る舞ってもらうのが大変です。ノウハウを色々とためているところです。試行錯誤を重ねていくことで、最終的にはいろんな形で、使えるようになっていくと思います」
「今の生成AIはコントロールするのがなかなか難しくて、自分の思い通りに振る舞ってもらうのが大変です。ノウハウを色々とためているところです。試行錯誤を重ねていくことで、最終的にはいろんな形で、使えるようになっていくと思います」
「日本語のデータを増強したモデル」が鍵を握る
生成AIの開発は、競争が過熱している。
マイクロソフトがChatGPTを開発したオープンAIに1兆円以上を投資したと伝えられ、グーグルやアマゾン、メタなども一段と開発を強化している。
マイクロソフトがChatGPTを開発したオープンAIに1兆円以上を投資したと伝えられ、グーグルやアマゾン、メタなども一段と開発を強化している。
一方の日本も、NTTやNEC、ソフトバンクなどが独自の国産AIの開発を進めているが、松尾教授は日本の立ち位置をどうみているのだろうか？
松尾教授
「日本も珍しくと言いますか、グローバル並みのスピード感を持って取り組めていると思います。これは大変素晴らしいことです。日本の経済がかなり弱ってきているので、新しいイノベーションを味方につけていかないとまずいという意識も広がってきていて、そうした中で生成AIが非常にわかりやすい技術で、これを使わないと次の時代がないと多くの人が直感したのではないかと思います」
「日本も珍しくと言いますか、グローバル並みのスピード感を持って取り組めていると思います。これは大変素晴らしいことです。日本の経済がかなり弱ってきているので、新しいイノベーションを味方につけていかないとまずいという意識も広がってきていて、そうした中で生成AIが非常にわかりやすい技術で、これを使わないと次の時代がないと多くの人が直感したのではないかと思います」
松尾教授は今後、国内で生成AIを活用していくうえで、日本語のデータを増強したモデルが鍵になるという。
上記の日本の企業はもちろん、松尾教授の研究室でも開発に取り組んでいる。
これまでの生成AIはデータが英文に偏っているため、その回答も欧米目線になりかねないからだそうだ。
上記の日本の企業はもちろん、松尾教授の研究室でも開発に取り組んでいる。
これまでの生成AIはデータが英文に偏っているため、その回答も欧米目線になりかねないからだそうだ。
松尾教授
「例えば、画像の生成AIで『将棋を指しているところを描いてください』と言うと、なんだか将棋だかチェスだかよくわからない絵を書いたりします。それはデータセットが英語に偏っているからです。将棋の画像データがあまり入っておらず、チェスはたくさん入っているのでそうなってしまう。そのため日本語のデータを増強していくのはとても大事です。より自然な日本語での文章の作成をしてもらえたり、翻訳をしてもらえたり、さらに日本の文化がわかったうえで処理をしてもらうことができるようになります」
「例えば、画像の生成AIで『将棋を指しているところを描いてください』と言うと、なんだか将棋だかチェスだかよくわからない絵を書いたりします。それはデータセットが英語に偏っているからです。将棋の画像データがあまり入っておらず、チェスはたくさん入っているのでそうなってしまう。そのため日本語のデータを増強していくのはとても大事です。より自然な日本語での文章の作成をしてもらえたり、翻訳をしてもらえたり、さらに日本の文化がわかったうえで処理をしてもらうことができるようになります」
研究開発を“オープン”にできるか
そうした研究開発の鍵を握るのは、“オープン”にしていくことだという。
去年12月、プログラムを無償で公開するかたちでの開発を目指す新団体「AIアライアンス」が設立された。
アメリカのIT大手メタやIBMのほか、東京大学をはじめとする世界の研究機関も参加している。
去年12月、プログラムを無償で公開するかたちでの開発を目指す新団体「AIアライアンス」が設立された。
アメリカのIT大手メタやIBMのほか、東京大学をはじめとする世界の研究機関も参加している。
東京では設立に合わせたシンポジウムが開かれ、松尾教授もパネリストとして、現状への危機感を話した。
松尾教授（シンポジウムでの発言）
「われわれ大学の研究者にとってみると、今の生成AIのモデルというのは大規模になりすぎて、もう学術研究として、なかなか扱えない規模になっている」
「われわれ大学の研究者にとってみると、今の生成AIのモデルというのは大規模になりすぎて、もう学術研究として、なかなか扱えない規模になっている」
研究開発の現場では、大量のデータに加え、計算に使用する設備も大がかりなものが必要となり、巨額の資金を用意できる大企業でないと扱えなくなっている。
「AIアライアンス」は、技術を囲い込むのではなく、公開しながら互いに発展させていく姿を目指している。
松尾教授は、技術の独占の懸念に加え、AIの安全性を担保するためにも必要なことだと解説してくれた。
「AIアライアンス」は、技術を囲い込むのではなく、公開しながら互いに発展させていく姿を目指している。
松尾教授は、技術の独占の懸念に加え、AIの安全性を担保するためにも必要なことだと解説してくれた。
松尾教授
「ビッグテック中心に、クローズドなモデルで生成AIの開発が進んでいて、研究者・技術者は、資本がないと全く太刀打ちできない状況になりつつあります。これに対してオープンソースで共有しながら開発を進めていこうということは、かなり意義のあることだと思っています。開発が囲われると中でどういうことが行われているのか、なかなかわからないので、AIの安全性に関しても、どういう基準を設定したらいいのか、そうした議論もやりにくくなるので、ある程度開かれた場で、技術開発を進めていくことは重要なことではないかと思います」
「ビッグテック中心に、クローズドなモデルで生成AIの開発が進んでいて、研究者・技術者は、資本がないと全く太刀打ちできない状況になりつつあります。これに対してオープンソースで共有しながら開発を進めていこうということは、かなり意義のあることだと思っています。開発が囲われると中でどういうことが行われているのか、なかなかわからないので、AIの安全性に関しても、どういう基準を設定したらいいのか、そうした議論もやりにくくなるので、ある程度開かれた場で、技術開発を進めていくことは重要なことではないかと思います」
AIが人間に“忖度”する？
日々進化するAI。
言葉を操るだけでなく、画像も生み出せるようになっているが、松尾教授によれば、そのメカニズムには未解明なこともあるという。
その進歩に伴って、興味深いことも起きていると教えてくれた。
言葉を操るだけでなく、画像も生み出せるようになっているが、松尾教授によれば、そのメカニズムには未解明なこともあるという。
その進歩に伴って、興味深いことも起きていると教えてくれた。
松尾教授
「AIが人間の言うことをできるだけ聞くようにするというのが思いのほか強く、いろいろと影響を与えています。例えば、自分の企画の案の欠点を言ってくださいと聞くと、忖度（そんたく）して、あまりはっきり言ってくれませんが、これはライバルの案で、欠点を言ってくださいとお願いすると、遠慮なく言い始めるという事例があって、非常に面白いなと思います」
「AIが人間の言うことをできるだけ聞くようにするというのが思いのほか強く、いろいろと影響を与えています。例えば、自分の企画の案の欠点を言ってくださいと聞くと、忖度（そんたく）して、あまりはっきり言ってくれませんが、これはライバルの案で、欠点を言ってくださいとお願いすると、遠慮なく言い始めるという事例があって、非常に面白いなと思います」
こうしたことがなぜ起こるのか。
松尾教授によれば、AIの学習機能によるものだそうだ。
出した回答に対して、人間がどのように評価をするかをAI側が学んでいて、できるだけ人間が喜ぶような回答を導きだそうとする。
それが忖度のような行動につながっているという。
まるで、人間と一緒ではないか。
松尾教授によれば、AIの学習機能によるものだそうだ。
出した回答に対して、人間がどのように評価をするかをAI側が学んでいて、できるだけ人間が喜ぶような回答を導きだそうとする。
それが忖度のような行動につながっているという。
まるで、人間と一緒ではないか。
松尾教授
「トレーニングの過程の中で、忖度のようなことが、うまく学習されているということですよね。どっちかというと、人間側の性質というか、人ってそういうものだということなんですよね」
「トレーニングの過程の中で、忖度のようなことが、うまく学習されているということですよね。どっちかというと、人間側の性質というか、人ってそういうものだということなんですよね」
人間をだます？ “AIが嘘をつく”=「ハルシネーション」とは
松尾教授は、AIを“人間の鏡”と表現する。
それはデータや学習を通じて、社会のゆがみも含め、AIが反映してしまうからだ。
その例の1つとして松尾教授が挙げたのが、アメリカのネット通販大手アマゾンでかつて問題になった、AIによる人事採用システムだ。
アマゾンは、過去10年分の履歴書や採用の可否などのデータをAIに学習させ、採用に生かそうとした。
しかし、過去に採用したスタッフの割合は圧倒的に男性が多く、それが反映されてしまった結果、IT系の職種に“女性は不向き”という結果をAIが出してしまい、アマゾンは「差別的だった」と開発をとりやめたのだ。
こうした課題は、今の生成AIでもなくなっていないと指摘する。
それはデータや学習を通じて、社会のゆがみも含め、AIが反映してしまうからだ。
その例の1つとして松尾教授が挙げたのが、アメリカのネット通販大手アマゾンでかつて問題になった、AIによる人事採用システムだ。
アマゾンは、過去10年分の履歴書や採用の可否などのデータをAIに学習させ、採用に生かそうとした。
しかし、過去に採用したスタッフの割合は圧倒的に男性が多く、それが反映されてしまった結果、IT系の職種に“女性は不向き”という結果をAIが出してしまい、アマゾンは「差別的だった」と開発をとりやめたのだ。
こうした課題は、今の生成AIでもなくなっていないと指摘する。
松尾教授
「ハルシネーションという“生成AIが嘘をつく”という現象があるのですが、技術的な問題もあるものの、大きな理由の一つは、AIが学習しているデータ自身に嘘が多いということがあります。人間は何か書類で書くものについては、すごくチェックしますが、口頭でしゃべるものに関しては、比較的何でもしゃべると。例えば、飲み屋でしゃべっている話には、かなり嘘や誇張が多い。そういうものも文字起こしをされて、AIが学習しちゃう。そうするとデータセットの方が、実は悪いのではないかという、こういう議論もあります。やっぱり人間自身の活動を、もう少し私たちがよく知らないといけないということだと思います」
「ハルシネーションという“生成AIが嘘をつく”という現象があるのですが、技術的な問題もあるものの、大きな理由の一つは、AIが学習しているデータ自身に嘘が多いということがあります。人間は何か書類で書くものについては、すごくチェックしますが、口頭でしゃべるものに関しては、比較的何でもしゃべると。例えば、飲み屋でしゃべっている話には、かなり嘘や誇張が多い。そういうものも文字起こしをされて、AIが学習しちゃう。そうするとデータセットの方が、実は悪いのではないかという、こういう議論もあります。やっぱり人間自身の活動を、もう少し私たちがよく知らないといけないということだと思います」
AIの課題は、むしろ人間の側が問われているのかもしれない。
それはAIの使い方でも同じだ。
すでにフェイク画像などで人をだますために使用されてもいる。
松尾教授は、政府のAI戦略会議の座長として、そうしたことに歯止めをかけていきたいという。
それはAIの使い方でも同じだ。
すでにフェイク画像などで人をだますために使用されてもいる。
松尾教授は、政府のAI戦略会議の座長として、そうしたことに歯止めをかけていきたいという。
松尾教授
「生成AIで間違った使い方をしてしまうと、デマを拡散することができてしまうとか、本当に民主主義を危機にさらすといったいろんなことが起こり得ると思います。そういったことへの対策もとても大事だと思います。今、グローバルに、AIの安全性に関しての議論が進んでいて、アメリカでも、イギリスでも、AIの安全性に関する機関が設立されます。日本でも、そうした機関がこれからできていく中で、安全性に関しての議論をしていくということになります」
「生成AIで間違った使い方をしてしまうと、デマを拡散することができてしまうとか、本当に民主主義を危機にさらすといったいろんなことが起こり得ると思います。そういったことへの対策もとても大事だと思います。今、グローバルに、AIの安全性に関しての議論が進んでいて、アメリカでも、イギリスでも、AIの安全性に関する機関が設立されます。日本でも、そうした機関がこれからできていく中で、安全性に関しての議論をしていくということになります」
AIは「いい道具」？ あなたはどう使いますか？
AIのことを、私たちはまだ十分に理解できていない。
取材を通じて改めて実感した。
松尾教授は、新しい分野だからこそ、若い研究者、技術者に大きなチャンスがあるという。
取材を通じて改めて実感した。
松尾教授は、新しい分野だからこそ、若い研究者、技術者に大きなチャンスがあるという。
松尾教授
「AIは本当に進展が早いので、若い人が勉強するにはすごく向いている分野だと思います。新規参入に有利なんです。若い人が学んでくれれば、あっという間に一線に行けますし、とても活躍しやすいと思います。私も若い才能をたくさん送り出していきたいと思いますし、日本全体を良くしてほしいと思います」
「AIは本当に進展が早いので、若い人が勉強するにはすごく向いている分野だと思います。新規参入に有利なんです。若い人が学んでくれれば、あっという間に一線に行けますし、とても活躍しやすいと思います。私も若い才能をたくさん送り出していきたいと思いますし、日本全体を良くしてほしいと思います」
私たちは、AIとどう向き合っていけばいいのか。
最後に聞いてみた。
最後に聞いてみた。
松尾教授
「電気が発明されたとか、内燃機関が発明されたのと一緒なのですが、我々は試行錯誤をして、例えば車ができたり、電灯ができたり、いろんなものができてきたわけです。それと同じです。AIも擬人化するのではなくて、すごくいい道具だと、今までにできないことができる道具だと。これをどう使ってやろうかという思考をしてもらえるといいと思います。新しい道具ができれば、それに合わせて人間の仕事も変えていけば良いわけですし、その時に過度に恐れるのではなくて、これをどう使って自分たちの仕事を楽にするのか、生産性が上がるのか、試行錯誤してもらうといいのではないかと思います」
「電気が発明されたとか、内燃機関が発明されたのと一緒なのですが、我々は試行錯誤をして、例えば車ができたり、電灯ができたり、いろんなものができてきたわけです。それと同じです。AIも擬人化するのではなくて、すごくいい道具だと、今までにできないことができる道具だと。これをどう使ってやろうかという思考をしてもらえるといいと思います。新しい道具ができれば、それに合わせて人間の仕事も変えていけば良いわけですし、その時に過度に恐れるのではなくて、これをどう使って自分たちの仕事を楽にするのか、生産性が上がるのか、試行錯誤してもらうといいのではないかと思います」
（1月16日 「おはBiz」で放送）
- おはBizキャスター
渡部圭司
2002年入局
金融・ITなど幅広く取材
4年間のNY駐在も経験
趣味は全国の城とジャズ喫茶巡り
- 政経・国際番組部ディレクター
大川祐一郎
2011年入局
青森局、経済部、福井局、おはよう日本を経て現所属
生成AIを使い始めたばかり