ITをめぐる法律問題について考える

弁護士水町雅子のIT情報法ブログ

紹介の連鎖で伝言ゲーム的な感じ?

知人の知人(またはさらにその知人)から、とある依頼を受けたが、その依頼者は依頼元ではなくて、さらにその方の知人が依頼元で、みたいな依頼があり、私の所にたどりつくまでの間にかなりの人数が挟まっているといった状況がたまにあります。

 

私 ← 依頼元

 

ではなく

 

私 ← 私の知人 ← 知人の知人 ← 知人の知人の知人 ← 知人の知人の知人の知人 ← 依頼元

 

みたいな感じ。間に入っている人数は、時によって違って、0人~4人ぐらいまでのことがあります。

 

あまりに間に人を介していると、依頼趣旨が不明というか、なぜ私に依頼が来て、誰が私に依頼したのか、そして私に何をしてほしいのかが不明なものがたまにあります。

間に入っている方に聞いても依頼内容は不明だし。結局、直接の依頼元にそれを確認しないとわからないのですが、直接の依頼元が複数人(共催みたいな感じだったりJVとか)で、さらに事務局がいたりすると、一体だれが依頼者で、私に何をしてほしいんだろうと謎すぎて…。

 

なぜそこまでして、間に何人も入れてまで紹介がある必要があるのか。それなら依頼趣旨をはっきり明確にした状態で、直接連絡してくれれば、私と関係ない依頼なら断るし、関係ある依頼なら断らないのに、と思います。

 

何人も間に人が入っていると、依頼内容がわからないし、さらに紹介者が「×さんは大変お世話になった人なので、良かったらお受けいただけると嬉しいです」とか「△さんは先輩で」みたいな話をされると、「そうか、では受ける方向で考えよう」と、ついなってしまいますが、大体、依頼内容がわからない状態では受けるかどうかも本当は決められないので。

 

依頼元が早く依頼内容を教えてくれるといいのですが。かれこれ1ヶ月ぐらい、わからないような件があり。伝言ゲームをやっていて、日程調整やるだけで1ヶ月かかるなら、直接連絡してくれた方が早いのではないのでしょうか…。

 

あと講演依頼とかで、そもそも講演するイベントが、誰主催でいつどこで誰を対象にやるのかもわからない依頼とかあったりすると、受けるか受けないかも決められないので、本当にもやもやします。

 

こういうのが続くと、だんだん紹介案件がおっくうになってきます。

ヨーロッパでの顔認証の議論(FRA Paper 2019)

※完成まで非常に時間がかかりそうなので、とりあえず適当なところで公開していますが、都度更新していく予定です。更新時にはブログ日付は更新せずに、完成時にブログで新記事を起こして、報告予定です。

 

顔認証は、日本だとそこまでの議論になっていませんが、欧米では様々な議論になっているようです。議論を追っかけていきたいと思っているところで、今回は、

FRA(European Union Agency for Fundamental Rights)が公表している顔認証に関するペーパー (2019年11月27日付のもの)

をまとめていきたいと思います。

なお、日弁連で、このペーパーについて教えていただき、これを読んで報告する係になったので、同時並行的にブログにも掲載しようと思ってます。なお、ざっと読んで粗く訳しているだけなので、抜け漏れや誤訳・誤解があり得ますので、ご利用に際しては必ず原文に当たっていただきますよう、お願いします。


Facial recognition technology: fundamental rights considerations in the context of law enforcement

 

 

本ペーパーの位置づけ(原文P2-3)

  • 顔認証技術の利用に焦点を当てる最初のペーパーであり、FRAがこれまで行ってきた生体データ利用における人権問題の検討に基づいている*1
  • 本ペーパーの範囲はあくまで、公的機関が警察活動や国境管理等の法執行*2のために、カメラから得られた映像と顔画像のデータベースを比較する顔認証技術に関して生じ得る人権fundamental rightsに関する分析である。

  •  AI、ビッグデータそして人権に関する調査プロジェクトの一環*3

用語的なもの(原文表紙、P3)

  • FRT:Facial recognition technology 顔認証技術
  • LFR : Live facial recognition technology ライブ顔認証技術。監視カメラ映像とリアルタイムで照合する等するもの。
  • CCTV:video cameras / closed-circuit television 監視カメラ・閉鎖回路テレビ
  • law enforcement authorities :犯罪の予防、調査、捜査、訴追または刑罰の遂行(execution of criminal penalties)、公衆安全への脅威への保護・予防を目的とする所管官庁。Law Enforcement Directive1条1項参照のこと。なお、本稿では「当局」などと訳すこととする。なぜなら、基本的に警察、検察、公安、法務省入国管理局などが妥当する概念と思われるので。

 

顔認証の法的特徴(原文表紙、P2、P5)

  • バイオメトリックデータ・生体データ(GDPR4条9号)でありGDPR上のセンシティヴデータ、特別な種類のデータに当たる
  • EUデータ保護法では、生体データに二つのカテゴリがあるが、顔認証は①。
    ①身体的、生理的 physical, physiological特徴(顔の特徴、指紋等)
    ②行動の特徴(癖、行動、手書きの署名、歩容等)
  • 写真photographsと顔画像(biometric)facial imagesは違いGDPR前文(51)に以下の記載あり。
    写真の取扱いは、特別な種類の個人データの取扱いであると即断してはならない。なぜなら、自然人を一意に識別又は認証をすることができる特別な技術的手段を用いて取扱われる場合においてのみ生体データに含まれるからである。
  • 簡単に公衆空間public placesでキャプチャできる
  • 変えることができず、また簡単にキャプチャされてしまう(指紋、DNAなどと比べて)。人々は、顔画像をキャプチャされ公共空間で監視されることを避けることはできない
  • 誤認識のリスクがある、特に少数派のグループにおいて。
  • EU法で関連するのは、Law Enforcement Directive、General Data Protection Regulation、Data Protection Regulation、Directive on privacy and electronic communications(原文P6表1参照)
  • ECHR:ヨーロッパ人権条約European Convention on Human Rights
  • ECtHR:欧州人権裁判所European Court of Human Rights

 

顔認証の利用例と世論の動向(原文P2-3)

 

顔認証技術のリスク(原文P3-4)

  • 既存の不平等や差別を深刻にする可能性がある。例えば黒人やLGBTQ等
  • 誤認識リスクがある。特に女性や有色人種でエラー率が高い。
  • 人権、特に人間の尊厳、私的生活に関する権利、個人情報の保護、無差別、子供と年配者の権利、障がい者の人権、集会等の権利、表現の自由、right to good administration、効果的な救済、公平な裁判に影響を及ぼす。萎縮効果もある。
  • 大量の個人情報を取り扱ってプライバシーを奪うことは、究極的には民主主義の機能にも影響を与える。なぜならプライバシーは自由で民主的で多元的な社会に内在するコアバリュー(核心の価値)であり、人権享受のための基礎だからである。
  • 警察活動や国境管理等の法執行に適切な技術なのか。
  • どの人権が最も影響を受けるのか。
  • 公的機関が取るべき措置は何か。

 

3.顔認証技術とは何か(原文P7-8)

  •  顔認証技術とは、個人の顔をマッチングし自動識別を可能とする生体認証システムである。顔認証技術は、「生体認証テンプレートbiometric template」を生成し、生体データを抜き出しさらに処理する。「生体認証テンプレート」は様々な顔の特徴を探知し測定する。「生体認証テンプレート」とは、識別と照合verificationに必要なものに限定した生体データの特徴抽出によって得られる数学的な表現を意味する。
    (注)FRA Paper的な定義的な感じのものと、29条作業部会の定義的なもの双方が原文には記載されている。
  • 顔認証技術は様々な用途に使えるものであり、照合に使われるのか、識別に使われるのか、分類化に使われるのかが重要である。照合verificationと識別identificationは、個人のアイデンティティを決定するために個人特有の特徴をマッチングする。分類化は、生体的特徴をもとに個人が特定のグループ(例:性、年齢、人種)に属するかどうかを推定する。
  • 照合verification(1対1の比較)
    照合や認証authenticationは、1対1の比較としてしばしば言及される。2つの生体認証テンプレートの比較を可能とし、通常は同一人物かどうかを推定する。空港の自動入出国管理ゲートなどで使われる。パスポート写真をスキャンし、その場所で当人の写真を撮影する。これら2つの画像を比較し、同一人物である可能性が一定水準を超えれば、照合される the identity is verified。照合の場合、生体データの特徴が中央データベースに保管される必要はない。生体データの特徴は例えばカードや旅行文書、身分証明書などに保管することができる。
  • 識別identification(1対他の比較)
    識別は、個人の顔画像テンプレートを、データベースに保管されている他の多くのテンプレートと比較し、当該データベース上にその個人の顔画像が保管されているか否かを見つけることを意味する(例:ウォッチリストに含まれた人物に該当するかどうかなど)。顔認証技術は、2つの画像が同一人物のものかどうかの確率を示すスコアを返す。Live Facial Recognition Technology(LFRT)などと言われる。
    識別は、ビデオカメラから得られる顔画像に基づいて利用することができる。ビデオ映像中から、まず顔を探知することが必要(スマホカメラで顔に自動的に四角形囲みなどが示されるようなイメージ)。
    ビデオ映像から抽出する顔画像のクオリティは、明るさ、距離、位置などによって異なってくるものであり、コントロールできない。したがって、コントロールされた環境(出入国管理現場、交番など)で取られた顔画像と比べて、マッチングに失敗することが多い。
  • カテゴリ化Categorisation(一般的な特徴のマッチング)
    顔認証技術は個人の特徴を抽出することができる。これは「顔分析facial analysis」などと言われる。 プロファイリングに利用することができる。
    カテゴリ化の場合、識別したりマッチングしたりすることに技術を利用するわけではないが、顔から複数の特徴を推測し他のデータ(位置情報等)と潜在的にリンクされると、事実上の個人識別を可能とする。ここで止まらずに、さらに顔画像から他の特徴(例えば性指向等)を推測しようとすることがあり、そうなると倫理的観点から議論を引き起こす。また顔認証技術は感情を例えば怒り、恐怖、幸せといった感情や、真実を述べているかウソをついているかなどを推測するのにも利用できる。うそ発見器的利用については、ギリシャハンガリーラトビアで調査された(→Integrated Portable Control System, iBorderCtrl https://ec.europa.eu/research/infocentre/article_en.cfm?artid=49726)。
  • なお、本ペーパーではカテゴリ化による重大な人権問題については対象外とし、本ペーパーはあくまで識別目的の顔認証技術の利用にフォーカスする。

 

4.正確性ー誤識別リスク(原文P9-10)

  • 顔認証技術への注目は、2014以降の強力な正確性確保から始まる。正確性を確保した主な要因としては、コンピュータのパワーが増加したこと、データ量が大量になったこと、現代の機械学習アルゴリズムの利用などである。
  • 正確性の検証・評価手法は多数あり、タスク・目的・文脈などに依ってくる。
  • 100万人以上のひとびとがおとずれる場所(例えば駅、空港等)でのエラー率は非常に低く、例えば0.01%であるが、それでも数百もの人々が誤ってフラグを立てられている。加えて、特定のカテゴリーの人々は、誤認識されやすい。加えて、誤認識の話になると、システムがどれだけ簡単にだまされるかに関連し、例えば偽の顔画像によるなりすましspoofingが、法執行目的law enforcement purposesにとっては特に重要となる。
  • 他の機械学習アルゴリズム同様、誤検出と検出漏れが問題となる。
  • 偽陽性・誤検出false positive
    ウォッチリスト中の別の画像と誤ってマッチングされる状態をいう。人が誤って識別されてしまう
  • 偽陰性・検出漏れfalse negative
    ウォッチリスト中に存在しないとされるものの、実際は存在している場合。
  • エラー率について議論する際、3つの考慮が必要となる。
    ①あくまで最終決定を導きだせるわけではなくて確率にすぎないこと。例えば、80%の可能性など。
    偽陽性偽陰性トレードオフ関係にあること。しきい値が高いと偽陽性が減少するが偽陰性が増加する。
    ③具体ケースの量によってエラー率を評価する必要があること。例えば大量の人がチェックされると偽陽性率が低くても多くの人が誤って識別されることになる。
  • 異なるグループごとに正確性評価がなされる必要がある。例えば、性別、年(子供と高齢者)、人種、障がい者
  • 顔認証技術の正確性は顔画像データの品質に強く影響される。GDPR5(1)(d)やLaw Enforcement Directive4(1)(d)からもデータの正確性が求められる。データの品質に影響をもたらす要素とは、背景、ライト、反射、年齢、性別、肌色、肌状態など。ビデオカメラから画像を抽出する顔認証技術の場合、画像の品質をコントロールすることが難しいので重大な問題serious issueとなる。
  • 人権の観点からは、学習データが何かが重要である。例えば、白人男性画像で学習することが多いので、他の人種や性別の顔認識に問題が報告されている。なお、巨大IT企業は様々なデータを収集するアドバンテージがあると思われるが、それでもメジャーな顔認証ソフトウェアベンダーですら、いまだに品質問題が存在しているperfomance problems persist。
  • ただ、学習データがわかりづらい。なぜなら、既存のアルゴリズム(学習済モデル)を使用しているため、その学習データに戻ることは困難であり、またベンダーは学習データに関する情報を開示したがらない

 

 

5.EU公的機関での顔認証技術の利用(原文P11-17)

5.1警察での利用
イギリス警察の事例
  • 現在のところ、イギリス警察がライブ顔認証技術にもっとも活動的である。サウス・ウェールズ警察は大規模スポーツイベント(UEFAチャンピオンリーグ ファイナル 2017年6月)で、イギリス初のライブ顔認証技術利用を行った。ウェールズの首都カーディフに31万の人がおとずれたイベントである。
    複数の監視カメラが予め選定された異なる場所に配置された。
  • このイベントでは、4つの異なるウォッチリストが利用された。
    1)治安維持に重大なリスクをもたらすとされた少数の人物
    2)より重大な攻撃型の犯罪を過去におかした人物
    3)現時点で、公衆安全に直ちにリスクや脅威をもたらすわけではないが、警察が興味を持っている人物(水町注:警戒者ということでしょうね)
    4)警察官(システムの有効性確認のため)
  • ウォッチリストは、400から1200人ぐらい含まれ、それぞれ選定基準が異なる。しかし、どのようにしてウォッチリストが生成されたかという情報が開示されておらず、このためライブ顔認証技術採用の、真の目的、必要性を評価することが困難である。
  • 本件は、カーディフ地方裁判所に提訴されたが、適法との判断がなされた。
    (水町注:控訴審で違法との判断で確定?https://cyberlawissues.hatenablog.com/entry/2020/09/14/171718)It ruled, in a case directed against the South
    Wales Police, that the current national legal regime
    is adequate to ensure the appropriate and non-arbitrary use of the facial recognition technology called “AFR Locate”, and that the South Wales Police’s use
    to date of “AFR Locate” has been consistent with
    the requirements of the Human Rights Act and the
    data protection legislation.50
ロンドン警察 London Metropolitan Police
  •   2016年から2019年に10のライブ顔認証技術テスト配備を行った。
    2016年・2017年のノッティング・ヒル・カーニバル等。
  • 既存のウォッチリストと警察スタッフの画像を利用した。
    1)まだ逮捕されていない未解決の逮捕状が出ている人(水町注:指名手配犯のようなイメージ?)individuals with outstanding arrest warrants
    2)暴力犯の可能性が高い人 individuals believed likely to carry out violent crimes
    3)公人の安全への脅威とみなされている人
  • ロンドン警察倫理委員会London Policing Ethics Panelは、どのように、そしてなぜウォッチリストが生成されるかが重要だとした。別のところから画像が抽出され、画像データベースが統合されることへの懸念が示され They raised concerns with respect to the integrity of the databases from which images were taken
    for the watchlists, and the fact that images were
    drawn from other sources as well、市民社会はウォッチリストにだれが掲載されているかの情報が欠如していることを批判した。
ドイツ、ハンブルグ警察
  • 2017年G20サミットで顔認証技術を利用。8つの駅からのビデオ映像のほか他の画像・映像(バス、地下鉄など)に基づき、警察官が犯罪行為及び関連者を手動で特定した。ハンブルグのデータ保護コミッショナーは、データ保護法を遵守していないとし、顔認証技術利用のための法的基礎の欠如が明らかになった。
ドイツ、ベルリン警察
  • 大規模なテストを2017-2018年に駅で行った。異なる3つの顔認証ソフトウェアを利用した際のパフォーマンス検証が主目的で、結果は成功だった。
  • あくまで300人のボランティアのみの情報を含んだ、疑似ウォッチリストが使われた。
  • 警察は、誰がウォッチリストに含まれるべきかを決めずに、立法が決めるべきだと述べた。例えば、テロ関連で探索されている人、性的加害者、脱走囚、迷子等。
フランス、ニース警察
  • 2018年のお祭りでテストを実施。こちらもボランティア画像のみ。
  • 警官隊は顔認証技術を犯罪捜査に利用しているものの、法の欠如のためライブ顔認証技術は利用していない。しかし将来的な利用は、お尋ね者の捜索などで、現在のシステムをより効率化するだろうと述べている。
その他
5.2 出入国管理
  • 出入国管理における顔認証については、根拠法があるようである?
    Regulation (EU) 2017/2226 of the European Parliament and of the Council of 30 November 2017 establishing an Entry/Exit System (EES) to register entry and exit data and refusal of entry data of third-country nationals crossing the external borders of the Member States and determining the conditions for access to the EES for law enforcement purposes, and amending the Convention implementing the Schengen Agreement and Regulations (EC) No. 767/2008 and (EU) No. 1077/2011, OJ L 327, 9.12.2017, pp. 20-82 (EES Regulation), Arts. 3 (1) (18), 15, and 23-26.
  • 出入国管理規制Entry/Exit System Regulationは、EU法で初めて、顔画像を生体識別子とし、かつ照合Verification目的での顔認証技術利用に向けて導入された? 
  • 出入国管理における顔認証技術の利用は照合目的であり、誰が影響を受けるか分からない識別identification目的とは異なる
  • EUの大規模システムで顔画像を使っているものが表2・3に掲載(原文14-15P)
  • EU大規模システムで、顔画像の収集及び処理は、他の生体データと比してもさらに厳格に法令によって規制されている。
  • 法律による保護措置により、個人情報の収集及び処理は、厳格に必要な範囲かつ操作上求められる範囲に限られる。In the large-scale EU IT systems, the collection and processing of facial images, along with other biometric data, are strictly regulated by law. Safeguards limit the collection and further processing of personal
    data to what is strictly necessary and operationally required. Access to the data is restricted to persons who have an operational need to process the personal
    data. 
    データ保護法で求められる本人の権利にも対応する。The legal instruments setting up the IT systems provide for rights of data subjects in line with the EU data protection acquis
    法律は、データ品質のための保護措置も強化している。信頼できるマッチングの保証が技術的に可能な範囲でのみ、顔画像の自動処理が可能であり、欧州委員会はその用意を報告しなければならない。担当庁(eu-LISA)は品質保証に責任を持ち、定期的に品質コントロールの仕組みと手続について報告する。出入国管理システムについて、欧州委員会は品質の技術的仕様を採択した。Typically, they provide that the automated processing of facial images should be done only as soon as technically feasible to guarantee a reliable match and that the
    European Commission should report on their readiness. As an additional safeguard, the Agency for the Operational Management of Large-Scale Information Technology Systems (eu-LISA) is responsible for quality assurance safeguards and reports regularly on automated data quality control mechanisms and procedures. With respect to the Entry/Exit System, the European Commission has adopted technical specifications for the quality, resolution and use of the biometric data, including facial images
  • 当然、常に目的制限と、必要かつ法定された目的と釣り合いの取れたアクセスの原則を遵守しなければならない。
5.3 EU資金提供による顔認証調査
  • EUは顔認証に関する調査に資金提供をしている
  • PRO-TECT, PERSONA, TELEFI等
  • PERSONAではインパクトアセスメントも行っている模様。
    http://persona-project.eu/
    Privacy, ethical, regulatory and social no-gate crossing point solutions acceptance’ (PERSONA)
    for example, aims to design tailored impact assessment methods to appropriately assess the effects of new contactless crossing border-controlling technologies, including facial recognition technologies
  • 見てみたけどあまり内容がないかもしれない。この具体例を見てみたい。
    https://cris.vub.be/files/48091346/dpialab_pb2019_1_final.pdf

6 顔認証に関する人権問題(原文P18-22)

  • 人権へのリスク:特に弱い立場にいる人に対して
  • 人権へのメリット:迷子救済、不正探知、なりすまし防止
6.1 世論
  • FRA調査(2015年)では、12%の人が国境で顔画像を提供することに大変不満だった。18%はプライバシーに大変な侵害だと感じ、26%は自尊心を傷つけられたと述べた。 
    国籍で差異が見られ、アメリカとロシアの人はあまり懸念せず、中国やその他の地域の人は懸念を感じる傾向。年齢や性別で明確な差異は見られなかった。
  • フランスのニースでライブ顔認証技術の調査が行われた際、900人の内わずか3%しか顔認証技術に反対しなかった。
  • 英調査では、9%が警察目的での顔認証技術利用にとても不満、10%が空港での利用にとても不満、24%が公衆移動public transportでの利用に満足しない、28%が学校、37%がスーパー、37%が職場との結果が出た。日常生活での利用に不満の傾向が見られる。セキュリティ向上のためであれば満足する傾向が見られ、プライバシーに干渉すると不満足な傾向が見られる。
    (水町注:警察と空港はfeel completely uncomfortableなのに、公衆移動からはdo not feel comfortableという表現になっていて、表現自体が合っていない)
6.2 人権制約への正当化要件Requirements for justified interference with fundamental rights
  • EU加盟国での実証実験等では、正確性とエラー率に焦点が当たっており、人権への評価が広汎になされてはいない。いくら完全に正確な技術になったとしても、潜在的に本人の同意Informed consentなしに実施され、弱く尊厳が失われた状態におくというようなリスクがある(ので、人権問題への検討が必要だ)。顔認証技術は人間の尊厳に広く関係するが、人間の尊厳は全ての人権の基礎であり、EU基本権憲章EU Charter of Fundamental Rightsでも保証されている。顔画像を含む生体データは、人間の尊厳を尊重した方法で処理されなければならない。
  • 監視の下では、人々は公衆空間に行くのが不快になる。行動を変え、社会生活から引きこもり、監視下にある場所を訪問せず、駅を避け、文化・社会・スポーツイベントを拒否するかもしれない。
  • FRA文書は、当局が、国境で人々に指紋採取について過度な権限を行使した例を示している。同様の状況が発生するかもしれない。
  • 顔認証で多数の誤ヒットがあれば、多くの人が足止めされ誤ってチェックされることになるので、当局は顔認証を停止すべきであるし、このような点であるとか、人間の尊厳を尊重する必要性等についての適切な訓練を行う必要がある。イギリスメディアは、顔認証カメラを避けた人が罰金を科せられたと報道している。
  • 人権尊重・遵守を促進するためには、独立機関による監視が重要である。データ保護法でも独立監督は根本的要素である。
  • EU基本権憲章EU Charterの52条1項に従い、
    人権へのいかなる制約も法律の根拠が必要であり、
    公益目的に真に合致するか、又は他者の権利と自由を保護するためである必要があり、
    権利の本質を尊重しなければならず、must respect the essence of the right
    釣り合いがとれていなければならない(水町注:比例原則的)

    EU基本権憲章52条1項 衆議院
    http://www.shugiin.go.jp/internet/itdb_kenpou.nsf/html/kenpou/chosa/shukenshi056.pdf/$File/shukenshi056.pdf
  • ある手段によって、奪うことのできない本質的な権利の核心が侵されないのであれば、次に権利の核心ではない部分に関してEU基本権憲章に述べられた必要性・相当性(比例性)テストが実施されなければならない。
  • 公衆の安全や犯罪防止といった公益目的はそれだけで、権利を干渉することを十分正当化できるものではない
  • ヨーロッパ人権条約でも同様の要件が課されている。
    欧州人権裁判所による3本柱テストthree-pronged testでは、①正当な目的②適法(質的要件に合致した適切な法的根拠を必要とする?necessitating an appropriate legal basis meeting qualitative requirements)③民主社会に必要(必要性・相当性(比例性)テスト)necessary in a democratic society (necessity and proportionality test)
    4番目のテストとして欧州人権裁判所は権利の本質概念'essence of a right' conceptを使用している。
    民主社会にとって必要かどうかは、権利干渉が社会的必要性と対応し、つりあいがとれ、目的・理由に関連性があって十分であるか等で例えば判断される。 The
    case law of the ECtHR has identified the following elements when determining whether a measure is “necessary in a democratic society” − for example, that the interference needs to correspond to a pressing social need, must be proportionate, and that the reasons given to justify the interference must be relevant and sufficient
  • このテストは、技術を利用する際のすべての方法について実施する必要がある。必要性・相当性(比例性)テストについて十分な情報に基づく評価informed assessmentを可能とするため、すべての関連する人権をカバーし、その技術が達成しようとしている正当な目的及び顔画像が収集される方法(監視カメラ、ボディカメラ、スマホアプリ等)からエラー率といったすべての要素を考慮する必要がある。
  • テストは、識別目的(1対他の比較)か照合目的(1対1の比較)かによって異なる。犯罪捜査のための識別目的の場合は、捜査対象の犯罪の重要性が重要だ。警察は効率性向上、お尋ね者検知の成功率向上、コスト削減を主張し、また監視カメラの全映像を確認する人手はないと述べて、顔認証技術を正当化する。(水町中:FRAとしてはそれだけでは正当化できず、当局が顔認証技術を使用する犯罪の種類を限定すべきというような主張をしているように見える)
  • 正確性についていうと、アメリカのNISTのテストでは1200万人にたいして0.2%のエラーという成果が出た。しかし偽陽性偽陰性の関係性から、テストは、偽陽性偽陰性トレードオフ関係を調和させるためにも必要だ。問題は、どれぐらいの罪のない人が誤ってフラグを立てられ警察から足止めされることが、ある人を探すために受け入れられるか、である。探している人物の重要性や足止めされる無垢の人への害によって異なるだろう。
  • その鮮明な例がドイツでのテストだ。3つのシステム中1つでも「ヒット」matchと出た場合について分析すると、エラー率としてすべての陰性のうちの偽陰性=検出漏れが8.8%、偽陽性=誤検出が0.34%だった。10人中1人が検出漏れになり、1000人に3-4人が誤って検出されるということだ。ドイツ当局によればこれでは受け入れられないとされた。なぜなら大量の人が毎日駅を通過するので、誤って足止めされたり、少なくとも危険人物として警察にフラグを立てられるからである。3つのシステム中3つともが「ヒット」とならなければだめとすると、検出漏れは31.9%だが誤検出は0.00018%だった。しかし10万人のひとが毎日駅を通過するので、10日間もすれば、2人の罪のない人が誤ってフラグを立てられ警察から足止めされることになる。

7 もっとも影響を受ける人権(原文P23-32)

  • このセクションは、包括的な分析ではなく、該当する例に対する分析である(水町注:ここに記載されていることが漏れない全ての分析ではないとの注)
7.1 私生活及び個人情報の保護
  • 私生活の尊重及び個人情報の保護に関する権利は、顔認証技術を公共の場で採用する際の中心となる。私生活の尊重及び個人情報の保護は、人格を自由に発展させ、思考し、意見を形成できる個人の空間を保障することで、自律や人間の尊厳といった価値を保護するためのものであり、他の人権、例えば思想の自由、良心の自由、信教の自由、表現の自由、集会の自由などを行使するための前提条件である。
  • 欧州人権裁判所は、個人の顔画像は個人の人格の主要要素の一つであり、宝識別子、唯一の特徴を表すものであると述べている。顔画像の保護に対する権利は、個人の発展personal developmentのための不可欠な要素の一つである。
  • 顔画像の生体的処理、ビデオ映像の保持、ウォッチリストとの比較、ウォッチリストへの顔画像の追加は、私生活への尊重及び個人情報保護の権利への干渉となる。厳格な必要性・相当性(比例性)テストに服する必要があり、明確な法的根拠及び正当な目的が必要である。
  • GDPR9条2項g
    第9 条 特別な種類の個人データの取扱い
    1. 人種的若しくは民族的な出自、政治的な意見、宗教上若しくは思想上の信条、又は、労働組合への加入を明らかにする個人データの取扱い、並びに、遺伝子データ、自然人を一意に識別することを目的とする生体データ、健康に関するデータ、又は、自然人の性生活若しくは性的指向に関するデータの取扱いは、禁止される。
    2. 第1 項は、以下のいずれかの場合には適用されない。
    (g) processing is necessary for reasons of substantial public interest, on the basis of Union or Member State law which shall be proportionate to the aim pursued, respect the essence of the right to data protection and provide for suitable and
    specific measures to safeguard the fundamental rights and the interests of the data subject;
    (g) 求められる目的と比例的であり、データ保護の権利の本質的部分を尊重し、また、データ主体の基本的な権利及び利益の安全性を確保するための適切かつ個別の措置を定めるEU 法又は加盟国の国内法に基づき重要な公共の利益を理由とする取扱いが必要となる場合。

*1:例えば、FRA (2018), Under watchful eyes: biometrics, EU IT systems and fundamental rights, Luxembourg, Publications Office, March 2018; FRA (2018), Interoperability and fundamental rights implications – Opinion of the European Union Agency for
Fundamental Rights, FRA Opinion – 1/2018 [Interoperability], Vienna, 11 April 2018。原文注15も参照。

*2:law enforcementが主なターゲットで、特にpoliceが強く明示されているわけではないが原文P3ではpolice stationという語も出てくる。また、law enforcementの意味として警察活動があるのかと思い、このように訳した。また国境管理については原文で言及有。for law-enforcement and border-management purposesとある。

*3:本プロジェクトの成果物として、The following have been published so far as part of the

research project: FRA (2018), #BigData: Discrimination in datasupported decision making, Luxembourg, Publications Office, May 2018; FRA (2019), Data quality and artificial intelligence – mitigating bias and error to protect fundamental rights,
Luxembourg, Publications Office, June 2019. For more on the project, consult FRA’s webpage on the project.

*4:警察官が勤務中に装着する小型カメラ

ご当地キティボールペン

f:id:cyberlawissues:20200907114832j:plain

ずいぶん前にいただいた&自分で買ったご当地キティボールペン。

「愛」をかぶっているキティちゃんと、伊達政宗になってハート型の眼帯をつけているキティちゃんで、かわいいです。

最近はご当地キティグッズをあまり見かけないようにも思いますが。一時期は本当に全盛だったのに、少し悲しいです…。

会議が重なる謎

年度末(1月から3月ぐらい)はすごく会議が多くなることもあるけれども、それ以外は比較的そんなに会議が入らないのですが、最近、やけに会議が重なるように感じています。

 

今週は、毎日1件入っているという状態。

月曜日:港区(リアル開催)

火曜日:杉並区(リアル開催)

水曜日:都(Web打合せ)

木曜日:Pマーク(Web会議)

金曜日:足立区(リアル開催)

 

そしてそれ以降は、週に複数件入ったり、まったく入っていなかったりするけど、11月5日からがまた重なる。

11/5木 Pマーク

11/6金 港区

11/9月 足立区&杉並区

11/11水 港区

 

8末から9初頭にかけてと、次は11月上旬に重なるという…。なぜ?

Pマークは月1回開催で、自治体は議会時期を避けて、2か月ごとぐらいに開催するから違う自治体の会議も大体同じ時期になるのでしょうか?? いや、でも去年まではそんなに重なっていなかった気が…。

デジタルガバメント改正法案

2020.9.1追記しました。

 

2020.8.27

www.jiji.com

 

預貯金口座とマイナンバーの連結法案が、総務省から来年通常国会目途で提出されると以前より報道されていましたが、マイナンバー活用その他のデジガバ関連法案も一緒に提出され、一括提出されるそうです。

 

 

政府は来年にかけてマイナンバー制度を軸とする行政のデジタル化を一気に進める方針だ。

国は20年ぐらいこれ(=行政のデジタル化)を言い続けているように思いますが、なぜ進まないのか、その理由を分析して、課題を克服していかないといけないのではないでしょうか。

口先だけでDX、ユーザエクスペリエンス、UI向上などといっても仕方がなくて、何をどういう風にデジタル化するか、その目標・各省への義務をどうかけていくのか、利用者が使いやすいように設計するために本当の意味で利用者の声を聴く機会を必ずもうけさせるようにするためのスキームなどを検討していくべきでしょう。

 

昔は「デジタル化」とか言わずに、「IT」とか「いっと」(笑)とか言っていたように思いますが、呼び方は変わったものの内容とか進まなさとかは20年前から大して変わっていない気が。

 

緊急経済対策などに伴う給付の迅速化を図るほか、生活保護、児童手当もマイナンバーを通じた給付を検討する。支給ミス防止や手続きの簡略化にもつなげる。

具体的に何をするのか、それによって現状と何が変わるのかをきっちり示しましょう。

生活保護、児童手当もマイナンバーを通じた給付って言っているだけでは? 両方、個人番号利用事務でしょう。なぜマイナンバーをそもそも活用していないのか。児童手当の現況届、まだ国民に出させている自治体ありますよ。生活保護だって、重複申請のチェックがマイナンバーでできなかった気がしますが?

 

運転免許証との一体化で調整しており、将来的には現行の免許証の廃止も視野に入れる。医師免許などの国家資格証もマイナンバーカードに集約するほか、日本に中長期間滞在する外国人に交付する在留カードも一体化の対象としたい考えだ。

運転免許証とマイナンバーカードを一体化するっていっても、ゴールドかどうかとか有効期限とか眼鏡着用とか書く必要があるから、どうするんでしょうかね。券面に書かないで、別途書類でもらうとすると、有効期限とかわからなくなる人いると思うのですが。警察が切符きるときは、ピッとやる端末みたいなのを持っているとも思われるので、ICカードで対応できそうですが。

医師国家資格証っていうのは、保険証を兼ねるから、病院にはカードリーダーが入るから、HPKIもそれでよんでねっていう話ですかね。

 

そりゃ確かに免許証と一体化すれば、普及率は上がるでしょうが、カード二枚持たせる仕組みとかにもししたら、めちゃくちゃ国民利便性下がりますよね。今の国家公務員の入退館って、マイナンバーカードの上からもう一枚カードをかぶせているんでしたっけ? ああいう形に運転免許証をするとすれば、ものすごく不便ですよね。だからさすがにそれはしないかな。所持者側の利便性と、バックエンド側の効率化、両方を達責するスキームにしないといけないですよね。

 

あとはJ-LISに支払う2円問題を解決しないと。お金は2円じゃなかったでしたっけ?2円でしたっけ?忘れてしまいましたが。

2円を保険者が負担するとか、利用者が負担するとかって、その2円を上回る利益がない限り難しいわけで。今は2円払ってないのに、なぜマイナンバーカードを使うと2円払う必要があるのか。2円払ってでも2円を超える価値が出るなら払うけど、でもそんなに財政に余裕ないし、みたいな。

運転免許証をマイナンバーカードにして、警察が切符をきる用にマイナンバーカードを読み取るたびに、J-LISに2円払うんでしょうか。国庫金で警察が予算を取る? どうなんでしょうかねえ…。HPKIは2円とは関係ない?

既に判明している課題を放置して、拡大を続けるっていうのは、失敗する可能性が高くなる気がするのですが。どうなんでしょうかねえ、ほんとに…。

 

既存のカードありきで、既存のカードと一体化する戦略も否定はしませんが、それよりも前にブログで書きましたが、社会課題を解決するスキームにしていくべきだし、マイナンバーの本来の効果を発揮するスキームにしていくべきだと思います。

マイナンバーカードがあれば、例えば住民票はいらない、戸籍も取りに行かなくていいとか、待ち時間ゼロの優先レーンとか、DXによって国民に便利さ・快適さを提供できるような、そして同時に役所側のバックエンドの処理も効率化・迅速化して、公益に役立つような、そういうデジガバを実現するような検討が必要だと思います。

 

もう、だんだん、これ関連のニュース見ても、毎度毎度同じことばかり思うので、だんだんムカムカしなくなってきました。特別定額給付金の時にマイナンバーが活用できなくて、毎日ムカムカして、どうすれば改善できるか必死に考えていろいろやってきましたが、なんでこういう検討・改善をしないんだろう、なんでこんなスキームなんだろうと考えれば考えるほどムカムカしていましたが、だんだん慣れてきたというか、またかと思うというか。まあ淡々と私にできることをやっていきたいと思います。

 

2020.9.1追記

住民票とか戸籍抄本・謄本とか印鑑証明書とかの証明書類の発行通数は、年間、1つの区又は市で数十万枚にも及ぶようです(団体の人口規模にもよってきますが、人口数がそこまで多くない区で数十万通なので、大規模自治体だと百万枚に達する可能性も?)。全国的に見たら、どれだけの枚数が発行されているかを考えると、すごい数に及ぶと思います。

それをデジタル化できたらかなりの件数ですよね。半分デジタル化するだけでも、すごい数です。ペーパーレス、住民側の手間(来庁するための時間、待ち時間、申請書記入時間等)・役所側の手間(外注費、人件費等)削減の観点からも、期待できそうです。

 

マイナンバーカードがあっても、住民票とかの証明書類は引き続き必要なわけですが、例えばマイナンバーカードによってそれがどれ位削減できたのかなどの具体的効果が出てくると、本当に良いと思います。

なぜ、いま困っていない保険証や運転免許証をマイナンバーカードに統合したがるのか。

保険証をマイナンバーカードに統一することで、ICカード化・全国共通化できるので、効果が上がる可能性はありますが、そうはいっても今の検討状況だと、オンライン資格確認だって、現状と比べ費用対効果が上がるのかどうか(コストの方が高いというオチにならないのか)、全国共通化のメリットは何かなど、きちんとした分析が必要だと思います。

運転免許証はもともとICカードの気がしますので、マイナンバーカードと統合されることで、マイナンバーカードの普及率向上以外に具体的にどのような効果があるのかを明確に示す必要があるのではないでしょうか。マイナンバーカードの普及率が向上したって、それって別に政策目的ではないというか、ゴールではないですよね。カードの普及率を向上させるっていうのは、何らかの政策目的達成のための手段では? 手段とゴールの混同など、論理的な検討・分析ができていないように感じてしまいます。

 

あとは、証明書自動交付機が、多くの自治体で設置されていて、そのためのカードって結構な普及率だった気もしますが、マイナンバーカードの登場によって証明書自動交付機もカードも廃止になり、マイナンバーカードによるコンビニ交付(マイナンバーカードでコンビニで住民票の写しとかが取れるようになったので、市区町村独自の証明書自動交付機は廃止)に切り替わっています。

しかし、証明書自動交付機によって交付されていた証明書の通数と、マイナンバーカードのコンビニ交付で交付されている証明書の通数を比較すると、後者の方が少なく、証明書自動交付機の廃止によって、コンビニ交付がそれを代替するというよりも窓口交付増につながっている可能性もあります。

この辺りもデータとして、きちんと分析していくべきではないでしょうか。せめてコンビニ交付ぐらいは、証明書自動交付機よりも成果を上げてほしいものです。そして、証明書自動交付機のためのカードの発行枚数と、マイナンバーカードの発行枚数の比較とかもやっていくべきですよね。

 

まずは足元から、すでに実施している政策から、現状をきちんと把握・分析して、課題を克服して、具体的効果を上げていくべきではないでしょうか。思い付き的にマイナンバーカードの政策を打ち出しても、今と何も変わらない気がします。迷走ぶりが謎です。

港区選考委員会委員長を拝命しました

港区「窓口事務等における証明発行等業務委託に係る事業候補者選考委員会」委員長を拝命しました。

委員会名が長いので、タイトルに全部入れられず^^

 

先週は港区個人情報保護運営審議会で副会長を拝命し、今週は港区上記会議委員長を拝命して、少しびっくりというか、委員長・会長・座長というのはもっと上の先生が就任されるものだと思っていたので、私なんかでよいのかなという思いがありますが、頑張って務めたいと思います。

 

なお、杉並区のPIA部会はずいぶん前から部会長を拝命していますが、これはPIAなので部会長でも、そうかなと思っていましたが^^、ただPIAについては言いたいことがたくさんあるので、そうすると座長よりも委員の方がいっぱい発言しやすいかなという気もしなくはありません。

最後に、港区役所付近で見えた東京タワーとミミロルちゃんです。

f:id:cyberlawissues:20200831101147j:plain