これは、生成AIの「ChatGPT」を開発したアメリカの企業オープンAIが26日、公式ウェブサイトで明らかにしました。
このなかでは、将来的に開発されるAI＝人工知能は「全人類の利益となる可能性を秘めているが、一層深刻なリスクを引き起こす」として、AIが悪用された場合の危険性や、最先端の言語処理のモデルが盗まれた場合、どのように悪用されるおそれがあるかについて、理解を深める必要があるとしています。
そのうえで、サイバーセキュリティーや核の脅威など「破滅的なリスク」について研究するための専門のチームを立ち上げ、今後のAIの開発方針に活用するとしています。
AIの活用をめぐっては、イギリスで来月、各国の政府高官や企業の代表が話し合う「AI安全サミット」が開かれる予定で、AIの悪用のリスクを抑えどう安全に利用していくか、検討する機運が高まっています。
米オープンAI 「破滅的なリスク」研究チームの立ち上げ発表
生成AIを開発するアメリカの「オープンAI」は、人工知能がもたらすサイバーセキュリティーや核の脅威などの「破滅的なリスク」を研究する専門のチームを立ち上げると発表しました。