教養としてのデジタル講義

デジタル爆発

　本書は、コンピューターについて語るものではない。あなたと私の人生について、語るものだ。私たちを支えてきた土台の、根本的な変化について語る本でもある。

＊

　デジタル情報の爆発は今、あらゆるものを変えている。例えば ――

　大学で優秀な成績を収めたニコレット・バーチュリは、投資銀行の面接試験を受けた。彼女を面接したのは、AIソフトウェアを利用したコンピューターだった。彼女は自分では手応えを感じていたが、採用されなかった。

　彼女は不採用になった理由を知りたかったが、誰もその理由を説明できなかった。というのも、実際のところ、誰にもわからなかったからだ。

　どうやらこのプログラムは、彼女が応募した職種にふさわしい人材に共通するパターンを検知できて、彼女を観察した結果、それが見いだせなかったようだ。このプログラムはニコレットの人間性について判断したが、彼女に何が欠けていたのかは、誰にも説明されることがなかった。

　今では多くのシステムが、他の領域でも人間の代わりに同様の判断を下している。裁判官は刑事被告人が出廷してこない可能性を見極めるために、コンピューターに判断を仰ぐ。不動産業者は、どの入居希望者が家賃を滞納する恐れがあるかを判断するために、コンピューターを利用する。

　こうしたシステムの大半は特許が取られていて、開発した企業にその仕組みを公開する義務はない。

　この事例が注目に値するのは、ニコレットが機械によって適性がないと判断されたということのみならず、人事部長、それどころかプログラマーさえも、どんな基準で判断すべきかを、このソフトウェアに教えていないという点だ。

　実は、ソフトウェア自体がすべてを決めている。ソフトウェアは現在働いている従業員の映像を見て、独自の基準を作り上げたのだ。

＊