Amazonがカリフォルニア州の議員を「悪人」だと断じたワケ：526th Lap

AmazonはEC事業を世界中で展開して成功を収めているが、実はクラウドサービス事業で大成功している企業でもある。だが性能向上に余念のないWebサービスに思いがけない弱点が発見された。

[キーマンズネット]

　Amazonはクラウドサービス事業の一環として、顔認証技術「Amazon Rekognition（レコグニション）」を提供している。静止画や動画の中の人間の顔を認識し、検出する技術だ。2019年8月14日の発表によると、その性能がさらに向上したという。

　Amazonは、Rekognitionの機能向上に自信満々だ。動画や静止画から性別や年齢範囲を判別できるだけでなく、「幸せ」「悲しみ」「怒り」「驚き」「嫌悪」「落ち着き」「困惑」といった7つの感情を検出できていた。今回のアップデートで「恐れ・不安」まで探知できるようになったという。

　しかし、とんでもない弱点があることが判明した。一体どういうことか。

　米国自由人権協会（ACLU）の北カリフォルニア支部は2019年8月13日、Rekognitionの検証結果をツイートした。

　同協会は、一般に公開されている「事件で逮捕された容疑者の顔写真」（いわゆる「マグショット」だ）を2万5000枚集めた。そしてRekognitionがマグショットとカリフォルニア州議会の議員120人の顔写真とを見分けられるかを試した。ACLUによれば、Rekognitionは26人を犯罪者と誤判定した。単純計算で21.6％、つまり約5人に1人を「この人は犯罪者です」と断じたのだ。

　カリフォルニア州議会は、警察官が装着するカメラに顔認識ソフトを使うことを禁じる州法案「AB 1215」を検討中だ。今回のテスト結果がAB 1215を成立させようとする勢力にとっては追い風となるかもしれない。

　これに対してAmazonは、「意図的に誤った説明で大衆を誤解させている」と主張し、「推奨する『信頼閾値99％』の設定で顔認識を実施して、人間主導の意志決定の一部としてその結果を使用することで、有益な目的のために有用になる」と反論する。

　Rekognitionは、単純に顔が似ているか似ていないかを0〜100の数値で示す「信頼スコア」を算出する。ACLUはその詳細を示していないし、その数値は単に「予測確率」なので、最終的に信頼するかどうかは人間による判断が重要になるということらしい。

　議員の顔が「犯罪者の顔に似ている」と判断されたからといって、Rekognitionの顔認識技術が完全に否定されたというのは強引な話だ。一方でプライバシーを無視して顔認証技術を法的機関が使うことにも違和感がある。Amazonの顔認識技術は、どちらに向かっていくのだろうか。

---

上司X：　Amazonの顔認証技術が、カリフォルニア州議会の議員の顔と犯罪者の顔とを誤認識しちゃったという話だよ。

ブラックピット：　誤認率21.6％ですか。論調がやや強引な気もしますけどねえ。

上司X：　そうかい？

ブラックピット：　似ていたからといって何ですかって話ですよ。犯罪者と似ているだけで逮捕されたらたまりませんよ。

上司X：　確かに「犯罪者に似ていますね」と言われた議員はいい気分じゃないだろうな。法案の審理中ということもあって、世間の印象を操作しようという意図があるのかもしれない。

ブラックピット：　まあ「この世には自分にそっくりな人間が3人いる」って話もありますし、議員さんは気にしないでいいんじゃないですか。

上司X：　何でそんなにポジティブなんだよ。顔認識で感情まで判断されるとなると、うかうか街も歩けないぞ。

ブラックピット：　いやいや、街のあちこちでもう始まってると思いますよ。今さら警戒したって意味はないのでは。

上司X：　キミがそう思うのはいいのだが、一市民としてはプライバシーの保護が優先されるべきなのか、犯罪に対する抑止力が強化されて安全が高まった方がいいのかという岐路に立たされているわけだ。今後の動向が注目だな。

ブラックピット（本名非公開）

年齢：36歳（独身）
所属：某企業SE（入社6年目）

昔レーサーに憧れ、夢見ていたが断念した経歴を持つ（中学生の時にゲームセンターのレーシングゲームで全国1位を取り、なんとなく自分ならイケる気がしてしまった）。愛車は黒のスカイライン。憧れはGTR。車とF1観戦が趣味。笑いはもっぱらシュールなネタが好き。

上司X（本名なぜか非公開）

年齢：46歳
所属：某企業システム部長（かなりのITベテラン）

中学生のときに秋葉原のBit-INN（ビットイン）で見たTK-80に魅せられITの世界に入る。以来ITひと筋。もともと車が趣味だったが、ブラックピットの影響で、つい最近F1にはまる。愛車はGTR（でも中古らしい）。人懐っこく、面倒見が良い性格。