ChatGPT公開から1年 誤情報拡散などのリスク対応が課題

オープンAIは、アメリカ西部カリフォルニア州サンフランシスコに本社をおき、AI＝人工知能の開発を手がけるベンチャー企業です。人類に広く恩恵をもたらす安全なAIを開発するという目標を掲げ、利益を出すことを目的としない非営利の企業として、サム・アルトマン氏や起業家のイーロン・マスク氏らによって2015年に設立されました。

その後、2019年には非営利の企業のもとに利益を出す営利企業の子会社を設置し、アメリカのIT大手マイクロソフトから投資を受ける形で戦略的な提携を結びました。マイクロソフトのオープンAIへの投資額はこれまでに総額で130億ドル、日本円でおよそ1兆9000億円にのぼると伝えられています。

会社は去年11月30日にChatGPTのサービスを公開してから、事業を急拡大させています。ことし初め、社員数は300人余りでしたが、現在は約770人と2倍以上になっています。現在のオフィスが手狭になったことから、サンフランシスコ市内に新たに2つのオフィスビルを賃貸することにしていて、オフィス面積は少なくとも現在の3.5倍に拡大することになります。

一方、事業の急拡大によって、社内ではあつれきが生じていました。11月17日、サム・アルトマンCEOは取締役会から突然、解任されました。

生成AIのサービスをビジネスとして急速に拡大させようとするアルトマン氏と、AIの安全性を重視する取締役会のメンバーとの間で意見対立が激しくなり、解任という決断に至ったと、アメリカのメディアが報じています。

解任後、主要な投資家がアルトマン氏の復帰を会社に働きかけたと伝えられ、マイクロソフトがアルトマン氏をヘッドハントすることを明らかにしたほか、全体の9割を超える社員が、アルトマン氏が復帰しなければ退社し、マイクロソフトに移る可能性があるなどとする書簡に署名し、会社は大きく混乱しました。

アルトマン氏は11月21日、一転してオープンAIのCEOに復帰することが決まりました。会社経営を正常化させ、生成AIの安全性に配慮しながら開発を加速できるのかが、アルトマン氏とオープンAIにとって大きな課題となっています。

生成AIをめぐってはさまざまなリスクが指摘されています。

【選挙への影響】
特に選挙への影響は深刻です。
偽の画像や動画がつくられ、選挙広告などで使われると、有権者の投票行動を左右する事態が起きかねません。

【著作権侵害】
著作権の侵害をめぐるトラブルも起きています。
画像生成AIソフトにあらかじめ学習させる画像データがどこから収集されたものなのかあいまいなケースや、使用の許可をとっていないケースが多く、アメリカでは、許可なく自分のアートをAIに学習され、画像を生成されたとして、アーティストが著作権の侵害を理由にAIソフトを運営する会社を相手に集団訴訟を起こす動きも出ています。

【プライバシー侵害】
大量のデータを学習した生成AIが、さまざまな個人情報を組み合わせることで個人を特定してしまうなどプライバシーを侵害したり、差別や偏見を含んでいる内容を学習することで差別などを助長したりするリスクも指摘されています。

【雇用が失われる】
アメリカでは、生成AIが人間の代わりに仕事を行うことで雇用を脅かすことへの懸念も出ています。すでにコピーライターやカウンセラーなどで実際に職を失った人たちもあらわれています。

ハリウッドなどの脚本家でつくる労働組合は、AIによって業務が侵害されないことなどを求めて、ことし5月初旬から9月下旬までストライキを行いました。

アメリカの再就職支援会社、チャレンジャー・グレイ・アンド・クリスマスは、ことしに入って10月までにあわせて4000人余りがAIを理由に失業したとの調査をまとめています。

【ヨーロッパでは】
ヨーロッパはAIのルール作りで先行し、年内に生成AIの規制を盛り込んだ世界初の法案の合意を目指して、ヨーロッパ議会と加盟国が協議を重ねてきました。

ところが、協議が大詰めを迎えた10月末、主要国のフランスとドイツが「ヨーロッパの競争力は優れた独自のAI開発にかかっている」などとして、生成AIの規制には慎重な姿勢を表明。11月17日にはフランスのマクロン大統領が、規制されるべきはAIの技術開発ではなく、AIの運用だとし「罰則は設けられるべきではない」などとする考えを明らかにしました。

ヨーロッパでは、個人情報や著作権の保護の観点から、生成AIに厳しい規制を求める声があがる一方で、アメリカの大手IT企業が主導する生成AIの普及には、経済や産業育成の観点から強い危機感があります。フランスやドイツから規制に慎重な声があがっているのも、ヨーロッパ独自の生成AIの開発を進める自国の企業や研究者を支援する思惑があるものとみられています。

【アメリカでは】
アメリカでは、バイデン大統領が10月31日、AIの安全性に関する新たな基準を設けることなどを盛り込んだ大統領令に署名しました。
大統領令では
▽AIの安全性を確保するため政府機関が一般に公開される前のテストに厳格な基準を設けたり
▽AIによって生成されたコンテンツであることを示す認証の仕組みを策定したりする一方で
▽ヘルスケアなどの重要分野におけるAI研究への助成金を拡大することが盛り込まれ、リスクを管理しながら技術革新を目指すものになっています。

バイデン大統領はAIの分野で世界を先導していく考えを強調していて、プライバシー保護のための新たな規制法案の可決に向け、議会に対しても早期の対応を求めています。

生成AIの開発や活用をめぐっては、国内でも規制の整備やルール作りが進められています。

政府はことし5月、関係閣僚や有識者らで作る「AI戦略会議」を立ち上げ、利活用や規制のあり方の議論を進めています。

戦略会議では、関係する事業者向けのガイドラインを年内にまとめることにしていて
▽人権侵害や犯罪などを助長する可能性の高いAIの提供・利用を禁止すること
▽リスクに関する情報の開示を求める内容などを盛り込む方針です。

また、生成AIをめぐっては、ことし5月、G7＝主要7か国が議論の枠組みとなる「広島AIプロセス」を設置し、規制や活用に向けた共通のルール作りについて議論を進めています。ことし10月には、開発者を対象にした行動規範と指針がまとまり、G7各国の首脳の間で合意しました。このなかでは、生成AIの能力や限界を明確にすべきとしたうえで、政府や市民との責任ある情報共有や、生成AIが作成したコンテンツかどうかを利用者が見分けられる手段を開発し、導入することなどを求めています。

「広島AIプロセス」では、今後、AIを利用する企業や団体などに向けた内容も盛り込み、国際的な指針を年内にとりまとめることにしています。

生成AIを巡っては研究者や専門家らの間では、安全保障の観点に加え、日本語や日本に関する情報を十分に扱うことができる国産の生成AIの必要性が叫ばれ、その基盤となる「大規模言語モデル＝LLM」の開発が産官学の間で加速しています。

【LLM-jpは】
国立情報学研究所が中心となって進めている研究プロジェクト「LLM-jp」は、大学や企業などから780人を超えるAIの研究者や専門家などが参加し、生成AIの基盤となる大規模言語モデルの開発を進めていて、10月に最初のモデルを公開しました。今後はさらに高い性能のモデルを開発するとしています。

【東工大・東北大などのグループ】
東京工業大学と東北大学、それに富士通、理化学研究所のグループは、ことし5月から世界最高クラスの計算能力を持つスーパーコンピューター「富岳」を利用した大規模言語モデルを開発するための研究を進めています。

＜民間企業の動き＞
民間企業もNECやソフトバンク、NTTなどがそれぞれ独自の国産AIの開発を進めています。

【NEC】
NECは、自社開発した生成AIの企業への提供をことし7月に開始し、企業だけでなく自治体や大学も含めて実証データの収集を重ねています。日本語への対応を強化したうえで特定の業種や分野に特化する形で導入を広げようとしています。

【ソフトバンク】
ソフトバンクは、生成AIの開発を目的とした新たな子会社を設立し、来年中には生成AIの技術的な基盤となる「大規模言語モデル」の完成を目指しています。

【さくらインターネット】
さらに国産のAI開発を支援するための動きも出始めています。IT企業の「さくらインターネット」は、北海道石狩市のデータセンターにおよそ130億円を投じて、AIの学習に最適とされる最新の高性能な半導体「GPU」を導入し、生成AIの開発を行う企業向けの支援サービスを提供する予定です。

一方、国産AIの開発をめぐっては
▽必要とされる高性能な半導体の「GPU」がAIの世界的な開発競争から手に入りづらくなっていること
▽AIが学習を重ね、性能を上げていくための良質な日本語のデータが少ないこと
▽人工知能に関する研究者や開発の人材が不足していること
などが課題として挙げられています。

人とAIの関わりについて、佐藤教授は「技術的に最先端のAIを、誰でも手軽に使えるようになったことは非常に大きな出来事で、結果的に多くの方がさまざまな活用を始めたほか、ChatGPTなどの生成AIを利用したビジネスも広がった1年間でした。生成AIによるコンテンツの生成、例えばメールの文章を作るといった、新しい応用が広がってきたことは従来のAIにはなかった大きな光の1つで、今後も広がっていくでしょう。一方で、生成AIはまだ未熟な技術で、出力に間違いやバイアス、つまり、偏りがあるという問題や権利をめぐる課題もあります。技術で解決できる部分、または規制など他の方法で解決しなければいけない場合もあり、議論を積み重ねていくことが大切です」と振り返りました。

そのうえで「AIはあくまでも人間のサポート役であり、AIに頼りすぎるというのは適切ではありません。人間が判断すべきことをAIに任せるようなことは避けるべきです。そのため、人間がAIをきちんとコントロールするということが求められてきます」と話していました。