最近は新しいバイオメトリクス認証として顔認証の導入も進み、iPhoneもFace IDをリリースしてiPhoneを見るだけでロック解除できるようになったりなど、様々な恩恵が出始めていますね。
日本では導入されていませんが、海外では防犯カメラなどでも顔認証を利用したものがリリースされ始めているのですが、この顔認証のせいで誤認逮捕された黒人男性がニュースとなり、その実用性と精度に疑問の声が上がり始めているようです。
機械学習サンプルの問題
2020年1月、ミシガン州に住むアフリカ系アメリカ人男性のロバート・ジュリアン＝ボルチャック・ウィリアムズさんは、家族の目の前でほとんど何の説明もされず逮捕され、何の疑いで逮捕されたのかもわからずにデトロイト市警に連行されました。
ウィリアムズさんはそのまま留置所で一夜を過ごし警察からの尋問を受ける事になるのですが、彼が2018年10月に発生した強盗事件の犯人として、2019年3月に別の店で撮影されアップロードされた彼の顔写真と古い免許証の写真、監視カメラに写った顔との顔認証の結果犯人と断定され、今回の逮捕に至った事を知るのは釈放されてからだったそうです。
しかし警察が提示した監視カメラの画像はどう見ても別の黒人男性で、警察官が自分の顔の横にその防犯カメラの拡大写真を並べ写真の人物が自分かどうか確認された際、思わず少し笑ってしまいながら「あなた達が全ての黒人男性の顔が似ていると思わない事を願う」と返したそうです。
結局彼は30時間ほど不当に警察に拘束され、その2週間後に証拠不十分で警察側からの起訴が却下されたのですが、彼が家族の目の前で逮捕された事実、犯罪を犯し逮捕された人間として顔写真や指紋、DNA情報などの個人情報を収集されデータベースに登録された事に変わりはありません。
実は警察側には、2019年7月の時点で「顔認証のみで犯罪者を検挙する」という目標が掲げられていたそうで、ウィリアムズさんはそのくだらない目標のためにまともな捜査や検証などもせず、また逮捕理由も述べられずに不当逮捕されてしまったワケです。
こういった顔認証システムは大抵の場合、多くの顔写真を機械学習で取り込んで識別精度を上げるワケなのですが、今話題のAI顔編集アプリ『FaceApp』で「白人っぽくなった」と言われているように、圧倒的に白人のサンプルが多く黄色人種や黒人のサンプルが少ない事がこういった誤認に繋がっている要因の1つです。
Face IDのように1個人の鍵を作り他を弾くような顔認証システムならある程度の精度は確保できますが、今回のように不特定多数から不特定多数を選出するようなシステムでは誤認判定が非常に多く、実際に黒人は白人の100倍以上の確率で誤判定していると連邦政府の研究結果が出ているそうです。
こうした精度の問題から、すでに顔認証事業の危険性を危惧し撤退したIBM・Microsoft・Amazonからは警察に顔認証を使用する事を中止するよう求めており、アメリカや中国で利用されている顔認証システムそのものに警鐘を鳴らしています。
まとめ
現在黒人差別抗議について様々な報道がされていますが、例えば今回のような顔認証システム開発において、黒人が白人の100倍以上の確率で誤判定を叩き出しているのにも関わらず採用しているのも、開発環境での人種差別の結果と言えるでしょう。
中には長年見つからなかった犯罪者を顔認証技術で捕まえた、なんてもニュースもあるのですが、誤認判定の確率がこれだけ高いのなら表面化せず顔認証のせいで冤罪で服役する事になってしまった黒人や黄色人種の人がかなり多い可能性も秘めています。
