ニュース画像

WEB
特集
あなたもAIに選別される?

ヤマ場を迎えている就職活動。でも、採用にかかわる判断をコンピューターが行っているとしたら、あなたはどう思うだろうか。いま、企業の間で、採用や人事にさまざまなデータを活用する動きが広がる一方で、不安の声もあがっている。「人」に関わるデータの活用が急速に進む社会に、私たちはどう向き合えば良いのだろうか。(科学文化部記者 黒瀬総一郎)

学生が直面する「学歴フィルター」

今月1日、大手企業の採用面接が解禁され、学生の就職活動が本格化している。そうした中、多くの学生が口にする、ある言葉がある。「学歴フィルター」だ。

いったいどのようなものなのか。実際に「学歴フィルター」を経験した女子大学生に話を聞くことが出来た。スマートフォンで、説明会に申し込もうと、企業のサイトに名前や大学名を入れると、「満席」の文字が表示される。

ニュース画像

ところが、大学名を「早稲田大学」に変えると、「受付中」と表示された。どの大学かによって、自動的に選別されていたのだ。 女子大学生は「学生側にみんな来てねといい顔しておいて、フィルターをかけられてしまうのは、すごくショックでした。私はまだ『ちくしょう』と思って、頑張ろうという気持ちになれましたが、否定された気持ちになる人もいると思う。フィルターを設ける企業があるのは効率の面でもしかたないかもしれませんが、フィルターがあるならあると言ってほしい。うそはつかないでほしい」と胸の内を語った。

採用や人事に広がるデータ活用

いま、個人のデータをもとに、企業の採用や人事をより効率的に行おうという動きが広がろうとしている。

ことしに入って、リクルートなどデータ活用を手がける企業は、研究者とともに「ピープルアナリティクス&HRテクノロジー協会」という新団体を設立。研究や活用を本格化させている。

ニュース画像

先月、東京都内で初めて開かれたセミナーは、企業の人事担当者など200人余りで満員となり、注目の高さを伺わせた。日本は、アメリカに比べて、人事部門にデータ分析を専門的に行える人材が少なく、活用は大幅に遅れているという。

採用や人事のデータ活用に詳しいPwCコンサルティング合同会社の北崎茂さんは「働き方やビジネススタイルが急速に変化するなか、従来の経験と勘に頼った人事には限界があり、業務をより効率的に進めていくためにも、データの分析と活用を進める必要がある」と、必要性を訴えた。

プロファイリングに注目

いま、この領域で特に注目されているのが「プロファイリング」と呼ばれる技術だ。

「プロファイリング」とは、ネット上などのさまざまなデータから、個人の好みや性格を予測するもの。

ニュース画像

通販サイトで表示される「おすすめ商品」などが、まさにこれだ。こうした技術を、採用や人事に取り入れようというのだ。

匿名の投稿から個人特定も可能に

さらに、匿名で発信した情報から個人を特定することも可能になろうとしているという。プロファイリング研究の第一人者、電気通信大学の吉浦裕教授に、AI=人工知能を使って匿名のSNSのアカウントの持ち主を特定する実験を見せてもらった。

まず、学生30人のSNSのアカウントを用意する。どのアカウントがどの学生のものか、AIは知らない。 次に、この30人の履歴書から抜き出した、趣味や住所など116項目について、データにまとめてAIに読み込ませる。

ニュース画像

AIが、膨大な投稿と履歴書のデータを突き合わせた結果、3分の1を超えるアカウントで、本人を特定することに成功した。 さらに、SNSの投稿内容と、Wi-Fiの電波から収集した移動履歴とを照合する実験では、さらに高い42%の確率で本人を特定することに成功したという。

こうした技術が進めば、私生活の情報を企業が収集することも可能になるのだ。

ニュース画像

吉浦教授は「本人が考えているよりもはるかに広い範囲の情報が抽出できる。SNSにせよ、WEBの閲覧履歴にせよ、やり方が体系化されてきているので、ふつうに技術がある人なら誰でもやれる時代がもうすぐ来る」と話す。

ニュース画像

忍び寄る『バーチャルスラム』の現実

AIによる個人のプロファイリングは、実は、中国では、すでに幅広く導入されている。

中国で、大手決済会社が運用する「芝麻信用」という信用サービスでは、支払い履歴や学歴、交友関係などを基に、個人の信用度を950点満点で点数化する。

ニュース画像

スマートフォンのアプリ上には、その人の点数とともに、点数に応じて受けられるサービスが表示される。点数が低いと、公共サービスを利用する際に保証金を取られたり、企業のさまざまなサービスを利用しにくくなったりするという。

現実味を帯びる、AIによる個人の選別。こうした流れが行き過ぎたときに懸念されているのが、「バーチャルスラム」と呼ばれる新たな差別の構図だ。

AIと人権に詳しい、慶応義塾大学の山本龍彦教授は「AIによるプロファイリングは、採用や人事にとどまらず、金融や保険、教育にも広がると考えられている。非常に多くのデータを使い、判断のプロセスはブラックボックス化されるため、自分がなぜ落とされたのかが分からない。どこまでいってもAIから嫌われると、再挑戦したり、人生をやり直して、這い上がっていくことが非常に難しくなり『バーチャルスラム』とも言える新たな被差別集団が生まれかねない」と指摘する。

ニュース画像

AIによる選別、広がる懸念

AIによる個人の選別にどう向き合うのか。ヨーロッパでは、世界に先駆けて手を打つ動きが出ている。先月施行された、EUのGDPR=一般データ保護規則だ。

「プロファイリングに対して異議を唱える権利」や「コンピューターによる自動処理のみに基づいて重要な決定を下されない権利」を盛り込んだほか、意思決定プロセスの透明化も求めている。AIによる選別の行き過ぎに歯止めをかけようとしている。

ニュース画像

AIによる個人のプロファイリングが進む中国でも、ことしに入って変化が生じているという。中国のビジネスに詳しいコンサルタントの田中信彦さんによると、「芝麻信用」を巡り、サービスを通じて会社が得た個人情報を、本人の同意無く第三者に提供出来てしまう仕組みに批判が高まり、会社側は同意画面の設定の変更を余儀なくされたという。プライバシー意識が急速に高まっているのだ。

日本でも、大きな問題が起きる前に手を打とうという動きが出てきた。先述の「ピープルアナリティクス&HRテクノロジー協会」では、データ活用の行き過ぎを防ぐための取り決めを作ろうとしている。協会の副代表理事で、大手就職情報会社で30年余りにわたって就職活動に携わってきた加藤茂博さんは「企業の活動として手に入る情報で人事の予測精度が上がるなら使いたいと思うのはやむを得ないが、良い面と悪い面があり、人間の思ってもみない部分が見られてしまうおそれがあることを社会も私たちも認識しないといけない」と話す。

ニュース画像
ピープルアナリティクス&HRテクノロジー協会
加藤茂博 副代表理事

慶應義塾大学の山本龍彦教授は「EUの『GDPR』は、AI社会の人権宣言とも言える非常に重要な動きだ。日本では『個人情報保護』と言うと情報漏れに、『憲法』では第9条に注目が集まり、なかなか『人権』に注目が集まらないが、日本でも近い将来、気持ち悪いではすまない問題が出てくると思うので、できるだけ早く議論していく、あるいは法制度を検討していくことが必要なのではないか」と指摘する。

AIによる個人のプロファイリングは、ますます熱を帯びている。日本の国際競争力を高めるため、技術開発と活用を進める必要性がさけばれる一方で、取り返しのつかない事態をどう防ぐか。急速な技術開発の一方で、新たな課題として浮かび上がる、AI時代の人権保護。ルール作りを怠ったとき、「バーチャルスラム」に巻き込まれるのは、あなたの身近にいる人かもしれないのだ。

黒瀬 総一郎
科学文化部記者
黒瀬 総一郎