米ミシガン州の、デトロイト警察が顔認識AI技術を活用した捜査で誤った男性を拘束したことが報じられています。
デトロイトでは顔を識別するためにAIを2017年から導入していますが、今回で誤認逮捕は２例目となりました。
デトロイトでAIによる２件目の誤認逮捕
今回、誤認逮捕されたのはアフリカ系アメリカ人のロバート・ウィリアムさんで、30時間にわたり拘束されました。
彼は今年の一月に自宅前で時計店での強盗犯の容疑者として逮捕されました。
その際、防犯カメラが捉えていた映像をもとに顔の識別を行ったAIが誤った判断を下してしまったということです。
顔認識技術の誤りが原因で誤認逮捕を行うのは実はデトロイトでは２件目になります。
これを受け、デトロイトが属するミシガン州ウェイン郡のキム・ワーシー検察官は、顔認識のAIが捜査のための道具として使われるべきであって、証拠として扱われるべきではないという立場を示しました。
ウィリアムさんの弁護士は、警察に対して訴追の取り下げや逮捕記録の抹消、公式な謝罪を要求しています。
２件ともアフリカ系アメリカ人
そして、この２件の誤認逮捕には共に、逮捕された人がアフリカ系アメリカ人だったという共通点があります。
実は、たびたび顔認証技術は特定の人種に対して精度が著しく低下することが指摘されています。
理由は機械の学習に活用されているデータに、人種的な偏りがあるからだとされています。
このような欠陥を持つ技術を警察が捜査に用いることに対して批判の声も上がっています。
主要なテック企業も反発
実際マイクロソフトにはしっかりとした法体制が整うまで、警察機関に対して顔認識技術の提供を停止する動きがあります。
他にもAmazonやIBMも同様の態度を取っており、２件目が発生した今ではさらなる議論を呼びそうです。
AI (artificial intelligence) concept, machine learning, nanotechnologies and face recognition concept, Interactive artificial intelligence digital advertisement in event exhibition hall, CCTV camera
また、現状ではボストンやサンフランシスコなど顔認識AIの使用を禁止または制限する地域もたくさんあります。
そして、ミシガン州議会の下院でも、顔認識技術の使用禁止を訴える声が出ています。
顔認識AIは正しく運用できれば、将来的に事件捜査の大きな助けになる可能性を持っているだけに、まだ技術が未成熟な今は慎重な対応が期待されます。
