アメリカでは、「ChatGPT」を開発したオープンAIのほか、マイクロソフトやグーグルなどのIT大手がこぞって対話式AIの開発を強化しています。
こうした中、アメリカの非営利団体、フューチャー・オブ・ライフ・インスティチュートは、高度なAIの出現で人類が文明を制御できなくなるおそれがあるなどとして、少なくとも半年間は開発を中断するよう求める書簡を公表しました。
書簡では「強力なAIシステムは、リスクを管理できるという確信がある場合にのみ開発すべきだ」としたうえで、開発競争がコントロールできない状況に陥っていることが中断を求める背景だと説明しています。
「対話式AI」 開発中断求め署名活動開始 日本の研究者も賛同
質問に対し、自然な文章で回答を作成できる「対話式AI」について、開発競争がコントロールできない状況に陥っているなどとして、少なくとも半年間は開発を中断するよう求める署名活動がオンラインで始まりました。
署名活動に賛同した日本の研究者は「『対話式AI』の活用方法や倫理的な指針を考えるために一呼吸置いて、専門家が中心になって議論を進めるべきだ」として、日本国内でも議論すべき時にきていると指摘しています。
公開書簡 “コントロールできない状況に”
イーロン・マスク氏らも署名
署名活動はオンラインで始まり、日本時間の30日時点で1300人以上が署名し、起業家のイーロン・マスク氏のほか、アップルの共同創業者、スティーブ・ウォズニアック氏なども含まれています。
書簡では、開発の中断が実現しない場合には政府が介入すべきだと訴えていて、こうした動きを受けて、IT各社がどのような判断を行うのかに注目が集まっています。
書簡では、開発の中断が実現しない場合には政府が介入すべきだと訴えていて、こうした動きを受けて、IT各社がどのような判断を行うのかに注目が集まっています。
日本の研究者も賛同「国内でも議論すべき時」
今回の署名活動に賛同した人の中には日本の研究者もいます。
ロボット研究が専門で、みずからもAIを活用している東京大学大学院工学系研究科の中村仁彦 上席研究員は、署名した理由について「『対話式AI』はさまざまな分野での利用が加速度的に進んでいて、企業の開発競争がさらにそれを早めています。おそらく歴史的な転換点になると考えていますし、研究者としてはそうやって世の中は便利になっていくものと信じていますが、対話式AIが区別できないような形で私たちの身の回りに広がってくることにどう身構えておくのか、意識するタイミングではないかと思います」と話しています。
また、今回の署名活動で開発が中断されるかどうかはわからないとしたうえで、日本国内でも議論すべき時にきていると指摘します。
中村さんは「今回の書簡は、研究そのものをやめましょうという話ではなく、一呼吸置いて活用方法や倫理的な指針を考えようというものだと思います。これまでも海外ではAI倫理規定が定められるなどして日本政府もそれに対する指針を作ってきていますが、対話式AIが空気や水のように社会に行きわたってしまう前に専門家が中心になって議論を進めていくべきではないでしょうか」と話しています。
ロボット研究が専門で、みずからもAIを活用している東京大学大学院工学系研究科の中村仁彦 上席研究員は、署名した理由について「『対話式AI』はさまざまな分野での利用が加速度的に進んでいて、企業の開発競争がさらにそれを早めています。おそらく歴史的な転換点になると考えていますし、研究者としてはそうやって世の中は便利になっていくものと信じていますが、対話式AIが区別できないような形で私たちの身の回りに広がってくることにどう身構えておくのか、意識するタイミングではないかと思います」と話しています。
また、今回の署名活動で開発が中断されるかどうかはわからないとしたうえで、日本国内でも議論すべき時にきていると指摘します。
中村さんは「今回の書簡は、研究そのものをやめましょうという話ではなく、一呼吸置いて活用方法や倫理的な指針を考えようというものだと思います。これまでも海外ではAI倫理規定が定められるなどして日本政府もそれに対する指針を作ってきていますが、対話式AIが空気や水のように社会に行きわたってしまう前に専門家が中心になって議論を進めていくべきではないでしょうか」と話しています。