大手ITベンダーが次々と顔認識技術の提供、開発の停止を表明 その理由は？：567th Lap

IBMを皮切りに、Amazon、Microsoftが相次いで顔認識技術の提供を停止すると発表した。その理由とは。

[キーマンズネット]

　AI（人工知能）を使った顔認識技術を開発していた複数の大手ベンダーが、開発や提供の中止を発表している。その背景には、米ミネアポリスで白人警官に取り押さえられた黒人男性が死亡した事件に端を発した世界各国での抗議デモがある。各ベンダーは「顔認識技術と人種差別問題の関係」を問題視し、事業撤退を宣言した。その詳細とは――？

　「IBMは今後、汎用（はんよう）の顔認識技術やその分析ソフトは提供をしない」

　これは、2020年6月8日にIBMの最高経営責任者（CEO、2020年4月に就任）であるアービンド・クリシュナ氏が米連邦議会議員に提出した書面の一部だ。

　これまで、警察をはじめとする法執行機関は、犯罪捜査はもちろん市民の監視やプロファイリングにもAIを用いた顔認証技術を活用してきた。これに対し、クリシュナ氏は書面で「市民の監視や人種別の分析、基本的人権や自由の侵害は、当社の価値観である『信頼と透明性に関する原則（Principles for Trust and Transparency）』に合致しない。他ベンダーによるAIを用いた顔認識技術を含むいかなる技術の使用についても断固反対する」と、全面的に批判している。

　顔認識技術と人種差別問題について、クリシュナ氏は「AIは市民の安全を支援することもできるが、法執行機関が利用する場合、AIの『バイアス』についての検証が十分かどうかは疑問が残る。IBMをはじめ、AIを開発するベンダーやユーザーは、この検証に責任がある」と続けている。ここでの「バイアス」は「偏見」とイコールだ。

　AIを使った顔認識技術は、かつてより「バイアス」についての疑問が寄せられている。米マサチューセッツ工科大学（MIT）や米国立標準技術研究所（NIST）の研究によると、ほとんどのAI顔認識技術は学習過程で白人の成人男性の顔画像を多く使うため、アフリカ系やアジア系の人の認識では精度が大幅に落ちてしまうと報告されていた。

　また、性差によっても精度が異なることも報告されている。この精度の差が「バイアス」になり人権問題にもつながりかねない。この問題を抱えたまま法執行機関が顔認識技術を使うことを危惧する声は、元より少なくなかったのだ。

　そして今、冒頭でも触れたように米国をはじめとして世界中で人種差別抗議運動が活発化している。元より警察による有色人種への過度な取り締まりが問題になっていた米国では、誤認識を否定できないAIによる顔認証技術がその差別問題を助長させかねない。このままの状態で顔認識技術の使用を続ければ、抗議運動に影響することは間違いないだろう。

　このIBMの判断を受けてか、2020年6月10日にはAmazon Web Services、同11日にはMicrosoftがそれぞれAIを用いた顔認識技術の提供を凍結すると発表している。

　こうして法執行機関に提供されてきた顔認証技術は、機能的なバイアスの課題が解決され信頼できるシステムとなったことが証明されるまで、利用される可能性はほぼなくなったのだ。

---

上司X：　IBMをはじめAI顔認識技術を開発してきた大手ベンダーが提供や開発をやめる、という話だよ。

ブラックピット：　顔認識技術と人種差別問題にこんな相関性があったんですね……。

上司X：　ああ、以前からその懸念はあったようだな。

ブラックピット：　AIだって完璧ではないですもんね。どうしてバイアスが働いてしまうんでしょう。

上司X：　紹介したように開発時の学習サンプルが偏ってるとかいろんな理由があるだろう。人間も自分と違う地域の人の顔を見分けにくいらしいしな。

ブラックピット：　AIが白人中心に判断してしまっているのも問題ですよね。

上司X：　AIが学習している現代社会そのものにバイアスの問題があるのかもしれないな。なんにせよ、生体認証の中でも顔認識はユーザーにとってメリットもあるわけで人種差別問題のいち早い解消を祈りたいものだ。

ブラックピット（本名非公開）

年齢：36歳（独身）
所属：某企業SE（入社6年目）

昔レーサーに憧れ、夢見ていたが断念した経歴を持つ（中学生の時にゲームセンターのレーシングゲームで全国1位を取り、なんとなく自分ならイケる気がしてしまった）。愛車は黒のスカイライン。憧れはGTR。車とF1観戦が趣味。笑いはもっぱらシュールなネタが好き。

上司X（本名なぜか非公開）

年齢：46歳
所属：某企業システム部長（かなりのITベテラン）

中学生のときに秋葉原のBit-INN（ビットイン）で見たTK-80に魅せられITの世界に入る。以来ITひと筋。もともと車が趣味だったが、ブラックピットの影響で、つい最近F1にはまる。愛車はGTR（でも中古らしい）。人懐っこく、面倒見が良い性格。