米国自由人権協会（ACLU）の北カリフォルニア支部は2019年8月13日、Rekognitionの検証結果をツイートした。

　同協会は、一般に公開されている「事件で逮捕された容疑者の顔写真」（いわゆる「マグショット」だ）を2万5000枚集めた。そしてRekognitionがマグショットとカリフォルニア州議会の議員120人の顔写真とを見分けられるかを試した。ACLUによれば、Rekognitionは26人を犯罪者と誤判定した。単純計算で21.6％、つまり約5人に1人を「この人は犯罪者です」と断じたのだ。

　カリフォルニア州議会は、警察官が装着するカメラに顔認識ソフトを使うことを禁じる州法案「AB 1215」を検討中だ。今回のテスト結果がAB 1215を成立させようとする勢力にとっては追い風となるかもしれない。

　これに対してAmazonは、「意図的に誤った説明で大衆を誤解させている」と主張し、「推奨する『信頼閾値99％』の設定で顔認識を実施して、人間主導の意志決定の一部としてその結果を使用することで、有益な目的のために有用になる」と反論する。

　Rekognitionは、単純に顔が似ているか似ていないかを0～100の数値で示す「信頼スコア」を算出する。ACLUはその詳細を示していないし、その数値は単に「予測確率」なので、最終的に信頼するかどうかは人間による判断が重要になるということらしい。

　議員の顔が「犯罪者の顔に似ている」と判断されたからといって、Rekognitionの顔認識技術が完全に否定されたというのは強引な話だ。一方でプライバシーを無視して顔認証技術を法的機関が使うことにも違和感がある。Amazonの顔認識技術は、どちらに向かっていくのだろうか。

---

上司X：　Amazonの顔認証技術が、カリフォルニア州議会の議員の顔と犯罪者の顔とを誤認識しちゃったという話だよ。

ブラックピット：　誤認率21.6％ですか。論調がやや強引な気もしますけどねえ。

上司X：　そうかい？

ブラックピット：　似ていたからといって何ですかって話ですよ。犯罪者と似ているだけで逮捕されたらたまりませんよ。

上司X：　確かに「犯罪者に似ていますね」と言われた議員はいい気分じゃないだろうな。法案の審理中ということもあって、世間の印象を操作しようという意図があるのかもしれない。

ブラックピット：　まあ「この世には自分にそっくりな人間が3人いる」って話もありますし、議員さんは気にしないでいいんじゃないですか。

上司X：　何でそんなにポジティブなんだよ。顔認識で感情まで判断されるとなると、うかうか街も歩けないぞ。

ブラックピット：　いやいや、街のあちこちでもう始まってると思いますよ。今さら警戒したって意味はないのでは。

上司X：　キミがそう思うのはいいのだが、一市民としてはプライバシーの保護が優先されるべきなのか、犯罪に対する抑止力が強化されて安全が高まった方がいいのかという岐路に立たされているわけだ。今後の動向が注目だな。