EU議会“生成AIの規制盛り込むべき”修正案可決国内でも動き

2023年6月15日 20時33分 AI（人工知能）

EU＝ヨーロッパ連合が成立を目指すAI＝人工知能の規制法案をめぐって、EUの議会、ヨーロッパ議会はChatGPTなど生成AIの規制も盛り込むべきだという修正案を採択しました。

国内でも、読書感想文など夏休みの宿題で、AIの回答をコピーしてそのまま提出させないことなど注意喚起を促す動きがあります。

生成AIをめぐる規制や対策の動きを、お伝えします。

EU議会 “生成AIの規制も“ 修正案を採択

EUの執行機関、ヨーロッパ委員会はおととし、リスクに応じてAIに規制を設ける法案を世界に先駆けて提出しましたが、生成AIについて明確には触れられていません。

この法案についてヨーロッパ議会は、14日の本会議で、生成AIに対する規制も盛り込むべきだとする議会としての修正案を賛成多数で採択しました。

具体的には、AIを使って作られた文章や画像、音声などはAIで作られたことを明示し、AIに学習させるために著作権で保護されたデータを利用した場合は公表するなど、透明性の義務を課すとしています。

ヨーロッパ議会メツォラ議長

ヨーロッパ議会のメツォラ議長は会見で「テクノロジーはわれわれの基本的な権利や民主主義の価値観に沿う形で発展していかなくてはならない」と強調しました。

法案では規制の目的について、人間中心で信頼できるAIの利用を促進し、「AIの有害な影響から健康、安全、基本的な権利、民主主義と法の支配、環境を守ることを保障するためだ」と説明しています。

そして、▼警察などが公共の場で顔認証システムをリアルタイムで行うことや▼顔認識のデータベースを作成するためにインターネットや監視カメラの映像を使って無差別に顔画像を集めることなどを禁じています。

こうした規制に違反した場合、▼最大4000万ユーロ、日本円で60億円あまりか、▼法人の場合は年間売上高の7％、いずれかの高いほうを罰金として支払う必要があるとしています。

このほか、▼本物と見分けがつかない偽物を排除するためAIを使って作られた文章や画像、音声などはAIで作られたことを明示したり▼AIに学習させるために著作権で保護されたデータを利用した場合は公表したりするなど、透明性の義務も課すとしています。

EUでは今後、ヨーロッパ議会と加盟国が協議を重ねて規制法の最終案を作成し、年内の合意を目指します。今回の議会での採択を踏まえ、今後、生成AIの規制についてEU内で議論がさらに活発になるとみられます。

背景に“基本的な権利”守る意識

EUが諸外国よりも厳しい規制を検討する背景にあるのが、「基本的な権利」を守ろうという意識です。

例えば、AIを導入した金融機関で、融資を受けようとした場合。
AIは、ネット上にあふれている個人情報などを集めて判断材料にしますが、そのなかには、真偽不明のものも含まれます。

プライバシーを侵害するのではないか。さらには、誤った情報に基づいて、融資を断る事態が起きるおそれはないのかなどが懸念されています。

また、「画像生成AI」の分野では、学習させる画像データがどこから収集されたものなのかあいまいなケースや、使用の許可をとっていないケースもあり、著作権侵害のおそれがあるのです。

フランス・パリのカフェで開かれた、「ChatGPT」の使い方を学ぶ講習会。参加者の関心は高く、質問が相次いでいました。

参加者の一人は、「新しいテクノロジーの基本的な使い方を知りたくて来ました」と話していました。

フランスでは多くの人がChatGPTの登場を肯定的に捉えていて、ある調査では、興味がある、使ってみたいなどと言う人があわせて6割を超えました。

一方で、規制強化が必要だと答えた人は7割を超えていて、市民を保護するためにAIを規制すべきだという考えも多数を占めているのです。

東京都教育委員会注意喚起の通知

東京都教育委員会は、13日、都立学校にあてた通知を出し、児童や生徒が夏休みの宿題でAIの回答をコピーして、そのまま提出させないことなど注意喚起を促しています。

東京都教育委員会はChatGPTなどの生成AIにいかに対応すべきか、ことし4月から9つの都立学校で聞き取りなどを行い、検討してきたということです。

ある学校では、1割ほどの生徒が生成AIを使っていて、都の教育委員会は普及が急速に進むことを想定し、学校側が児童や生徒に注意喚起すべき内容などを3枚の紙にまとめ、13日、すべての都立学校に通知しました。

その中で、留意点として、ChatGPTは利用規約で「13歳未満は使用不可、18歳未満は保護者の許可が必要」とされていることから、小学生は使用できず、中高生は保護者の許可がないと使用できないと指摘しています。

また、読書感想文や課題に対する考察などでは、AIが書いた文章と人間が書いた文章を見分けるのは困難だとした上で、課題を出す側の工夫も必要になるとしています。

具体的には、レポートの課題を出す際には授業中に教員が説明した内容を踏まえて書くよう指示したり、探求活動においては引用や参考文献を明記するよう指導したりすることを求めています。

東京都教育庁篠祐次企画調整担当部長

東京都教育庁の篠祐次・企画調整担当部長は「読書感想文であれば、AIの文章をそのままコピーするのではなく文章を参考に、一緒に考える方法もあるかもしれない。最新の技術を子どもたちに使わせないというのではなく、技術の特性を知ってもらったうえで、どう活用するかを家庭や学校で考えてほしい」と話していました。

読書感想文の主催団体も対策を始める

夏休みの宿題の定番、読書感想文のコンクールを主催している東京・文京区の全国学校図書館協議会は、ChatGPTなどの生成AI対策を始めています。

ことしの応募要項の中に、生成AIを利用して書いた読書感想文の提出を控えるよう「盗作や不適切な引用等があった場合、審査対象外になることがあります」という文言を追加したのです。

全国学校図書館協議会の設楽敬一理事長によりますと、生成AIを使用して作った読書感想文を確認したところ、本の内容と全く違う記述があるものが見られたということです。

一方、本によっては、読書感想文の中に明らかな誤りがないものもあって、生成AIを使った感想文かどうかを完全に見抜くのは難しいと考えています。

全国学校図書館協議会設楽敬一理事長

設楽理事長は「本によっては、伝わりやすい文書構成になっているなどして適切な内容になっていた。また、同じ本で3つ読書感想文を作ってもらったが、それぞれ違う視点から書かれたものになっていて、生成AIを使ったかどうか見抜けないケースもある」と話していました。

生成AIが急速に普及していることを踏まえ、設楽理事長は、教育現場で、適切な使用方法を教えることが大切だと考えていて、「本を読んでどう感じたか、その感動を伝える表現力を培うために読書感想文がある。ほかの力を借りるのではなく、自分で考えて、自分で表現してほしい」と呼びかけていました。