コンプライアンス

海外進出・海外展開:顔認証システムに規制を求める動き アメリカでの顔認証システムの開発や導入は要注意

by 弁護士 小野智博

はじめに

マイクロソフトが中心となって、各国政府に対し、顔認証システムの利用に警鈴を鳴らしています。十分な法整備の無いまま普及することにより、偏見や差別、プライバシーの侵害など私たちの生活を脅かす恐れがあるというのです。マイクロソフト社のCLOであるスミス氏は2018年7月に顔認証システムにおける法整備の重要性を呼びかけ、さらに2018年12月にはより具体的な内容を訴えています。

新しい技術によってもたらされる恩恵の影には、課題が残されていることも少なくありません。今回の顔認証システムに関わるマイクロソフト社の公式提言は政府レベルの導入だけではなく、企業レベルの導入にも当てはまります。例えば、顔認証システムを従業員満足度の評価に使う流れもあります。

本記事では、顔認証システムについて概説するとともに、顔認証システムを企業内に導入する際に注意すべきポイントを、マイクロソフト社の提言内容を元に説明します。

 

顔認証システムとは

顔認証システムとはデジタル画像から、人を自動的に識別する技術です。近年、技術の向上が著しく、私たちの生活の身近な場所に導入されるようになってきました。ここでは、具体的な利用例をいくつか紹介します。

 

顔認証システムの不完全性

中国やイギリスをはじめとして、複数の国々で犯罪捜査などに顔認証システムが活用されています。しかしながら、システムの完全性には疑問が残っており、例えばアマゾン開発の認証システムが犯罪者でないアメリカの連邦議員28人を犯罪者と誤認したという報告もあります。

大学機関やマイクロソフト社、グーグルの研究者からなる「AI Now Institute」のレポートの中では顔認証システムの不完全性に注意を促すとともに、システム運用を適切に監視し、透明性を保持するための制度作りを訴えています。

例えば、AI Now Instituteの報告書内で専門家らは「個人の内的感情や精神の不調を検出できる」と主張している顔認証システムには問題が多いと指摘しています。顔認証システムを利用した従業員満足の評価をアピールする企業も最近は多くなってきていますが、これらの技術には科学的裏付けが十分ではなく、非倫理的で無責任なものであると訴えています。つまり、安易に雇用や保険、教育の評価場面で用いるにはリスクが高いといえるでしょう。

 

顔認証システムの課題

マイクロソフト社の提言の中では、顔認証システムには大きく3つの課題があるとされています。ここでは課題とそれを解決するために必要な法整備について説明します。

 

1.差別

一部の顔認証システムでは性別や人種によってエラー率にばらつきがあることが明らかになっています。そのため、第3者機関が顔認証サービスの正確性と公平性のテストを行えるようにするための法制度が必要です。

 

2.プライバシーの侵害

消費者の識別に顔認証システムを使用する企業は、その旨を明確に示した上で、消費者から顔認証システムの使用に同意を得ることを法律によって義務付ける法制度が必要です。

 

3.民主主義の自由

政府や権力組織による顔認証システムの利用により、デモや集会への参加者が委縮し民主主義の自由が損なわれる可能性があります。そのため、政府や権力組織が特定の個人を継続的に監視する行為は裁判所による令状を得た場合に限定する法制度が必要です。

 

マイクロソフトの提唱内容

マイクロソフト社では有識者や従業員、消費者の声から、顔認証システム利用時の行動規範についてまとめています。この内容は企業側が顔認証システムを導入する際の汎用的な行動規範として参考にできるでしょう。

 

1.公正性

あらゆる人々を公正に扱う顔認証システムを開発すること。

 

2.透明性

顔認証システムの性能と限界について文書で明確に説明すること。

 

3.説明責任

顔認証システムが大きな影響を与える場合には、AIのみに依存せず人間による適切なコントロールを併用すること。

 

4.差別的使用の禁止

顔認証システムが差別的に使用されることを利用規約により禁止すること。

 

5.通知と同意

顔認証システムを導入する場合にはその旨を通知し、明確な同意を得ること。

 

6.合法的監視

政府や警察の監視に顔認証システムが利用されるときには、民主主義的自由が損なわれることのないようにサポートすること。民主主義的自由が担保されない場合には顔認証システムを使用しない。

 

海外進出・海外展開への影響

出退勤管理やセキュリティの強化、マーケティングなどに顔認証システムを活用する企業が増えています。しかし、今回マイクロソフト社を中心とした提言により、顔認証システムに対する風向きが変わることが予想され、導入済みの企業や導入を検討している企業の両者において、最新の動向をキャッチアップする必要があるでしょう。今後、マイクロソフト本社のあるアメリカでは3月に新議会がスタートします。関連法案が急増することが予測されるでしょう。プライバシーや人権問題には特に敏感な国ともいえますので、アメリカで顔認証システムの開発や導入を検討する場合には特に注意が必要です。

 

※本記事の記載内容は、執筆日現在の法令・情報等に基づいています。

 

 

当事務所のご支援事例

業種で探す ウェブ通販・越境EC  IT・AI  メーカー・商社  小売業 
サービスで探す 販路開拓  不動産  契約支援  現地法人運営  海外コンプライアンス 

ご相談のご予約はこちら

弁護士法人ファースト&タンデムスプリント法律事務所 ロゴ

弁護士法人ファースト&タンデムスプリント法律事務所
(代表弁護士 小野智博 東京弁護士会所属)
 03-4405-4611
*受付時間 9:00~18:00