悪のAI論　あなたはここまで支配されている

監視される

　AI（人工知能）社会が到来した。掃除ロボットから将棋のソフト、医療診断の支援まで、様々な場面でAIを使ったサービスが広がり始めている。

　その恩恵を受ける一方で、AIが人間に不幸をもたらすのでは、という懸念も消えない。

28人の議員を犯罪者と誤認

　AIは人間をはるかに上回る分析能力を持つ。監視カメラにつなげれば、街角を行き交う人々の顔を認識し、犯罪者を見つけ出すことも可能だ。

　ただ、AIが常に正しいわけではない。間違いも犯す。データの読み違い、顔の取り違い。それが、どんな事態を引き起こすのか。例えば、あなたが犯罪者だと認定されてしまったら？

　このような懸念が現実のものとなった。

　28人の米連邦議会議員の顔を、アマゾンのAIが逮捕歴のある人物として誤認識した ―― 2018年7月、人権保護団体の「米自由人権協会（ACLU）」が、そんな実験結果を明らかにした。

　ACLUが実験に使ったのは、アマゾンの画像認識AI「レコグニション」だ。ネットで入手した2万5000人分の逮捕写真をレコグニションに入力して「犯罪者データベース」を構築。その上で、535人の上下両院の議員の顔写真を判定させたところ、28人が「犯罪者」と認識されたのだ。

　同年5月、ACLUはアマゾンがレコグニションの提供について、フロリダ州オーランド市などと契約を締結していたと報告。これが人権侵害に当たるとして、41の人権保護団体が連名で、アマゾンのジェフ・ベゾスCEOに対し、提供をやめるよう求める公開書簡を送っていた。

　これらの団体は、「人々は、政府に監視されずに通りを歩く自由が保障されるべきだ。顔認識テクノロジーは、米国のコミュニティにおけるこの自由を脅かすものだ」と指摘している。

FBIの顔写真データベース

　米連邦捜査局（FBI）は、顔認識のテクノロジーを使った顔写真データベースを2015年から本格運用している。だが、様々な問題もある。

　米会計検査院は2016年と17年に、この顔写真データベースを調査した上院への報告書を公開している。16年の報告書のサブタイトルは「FBIはプライバシーと精度の確保を改善せよ」、その対応を検証した翌年のサブタイトルも「司法省とFBIはプライバシーと精度の確保のための追加措置を講ぜよ」。いずれも、FBIの対応の不十分さを指摘している。