AIが人間を評価し、神に代わって裁く時代が来た？とは｜噂の背景と都市伝説としての見方

2017年が 「AI元年」 と呼ばれたように、現在様々な分野で AI（人工知能） が活用されています。人間の脳のように学習するAIが、複数の観点から人間を 評価 し、 点数付け するシステムは中国ではすでに一般化されていますし、日本でも就活の選考などで用いられはじめています 。人間が行ってきた雑務を 効率化 し、さらに 安全な社会 をもたらすためには有効なのでしょうが…… AIが人間の価値を決めるなんて、まるで 神 のようではありませんか？。近い将来、AIから「価値がない」と判断された人間は 排除 されるのかもしれません 。

元記事で語られていた内容

今回は、人を評価し裁こうとする、AIの怖い話を3つ紹介します。AIの怖い話①人間がAIに評価され、点数をつけられる時代が到来。AIは 人工知能 というように、 機械で作られた「 脳 」 です。AIは人間と同じように学習し、経験し、性能をより高めていきます 。なかでも私たち一般人も身近に使っているサービスが、 SNS におけるAIシステムです。

怖さが残るポイント

たとえば Twitter には、 「クオリティフィルター」 という、 低品質 なツイート（発言）をAIが自動検出し、表示しないようにする機能 があります。Facebook でも2017年に、 AIがコンテンツの品質を 評価 して表示順位を下げる ようにアップデートされ、 Google Chrome でも同様に、 有害 と判断されたコメントを表示しない拡張機能 「Tune」が2019年にリリースされました。ここでいう 低品質 とは、たとえば 違法行為 が含まれるもの、 差別的な内容 、また情報量が少なく無関係な 広告で埋め尽くされたページ などをさします。たしかに排除されてしかるべきものでしょうが、もうすでに、 AIは人間に代わって 人間を評価 し、価値があるかないかを判断している のです。AIの怖い話①AIが人間を評価する中国の「社会信用システム」と「信用スコア」。

噂と事実を分けて読む

中国国務院 が2014年6月にはじめたプロジェクトに、 「社会信用システム」 があります。これは 交通違反や納税状況、さらにネット上での振る舞いなど、幅広い観点から人間を点数付け し、14億人の国民の 「 社会信用スコア 」 を決定するものです。たとえば前科持ちはもちろんのこと、ネットで フェイクニュースを流布した者 も信用スコアが下がり、スコアが低い人物は ブラックリスト化 され、 飛行機や列車の搭乗が拒否される などの制裁措置が課されます。逆に スコアの高い者 は ホテルやレンタカーのデポジット（保証金）が不要になる などの特典が受けられるのです。中国の英字紙「グローバル・タイムズ」によれば、すでに2018年4月末までに、 低スコアをつけられた1114万人が航空機の、425万人が高速列車の搭乗を拒否された ことがわかっています。

現地の空気を想像すると見えてくるもの

中国のネット通販最大手「アリババ」傘下の「アント・フィナンシャル」が提供する信用評価システム 「芝麻（ジーマ）信用」 では、 ネット上の購入履歴、やサービス利用履歴、さらには交友関係まで様々なデータからAIが判断し、人間の 信用スコア を決定 します。AIの怖い話①AIが人間を評価する日本の就活とローン審査。中国ではすでに、AIによって人間の点数づけがなされ、価値のあるなしが決められています。実は 日本 でも、一部で同様のシステムが用いられています。たとえば 就活（採用選考） や ローン審査 です。

怖い話として読み継がれる理由

ソフトバンク株式会社は2017年5月、新卒採用選考の エントリーシート（申請書類）評価 に、IBMのAI「ワトソン」を導入する 、と発表しました。AIの自然言語処理の機能 を使い、 人間に代わってAIがエントリーシートの内容を評価 するのです。ワトソンの導入により、エントリーシートの確認にかかる時間を75％削減し、その分を面接にあてるといいます。他にも サッポロビール株式会社 など、就活選考にAIを導入する企業は続々と増えています。そして信用審査といえば、 ローン審査 です。

怖い話として読み直す意味

真相を断定することはできません。ただ、こうした話が長く語られ続けるのは、そこに人が忘れられない違和感や恐怖が残っているからです。噂として距離を取りながら読むことで、元記事とは違う角度から怖さが見えてきます。