私たちの暮らしはどうなる

デジタル法で

公開講演会

日時　　2021年８月１日

会場　　ゆめりあ宇治

講師　　黒田充さん

自治体情報政策研究所代表

講演の概要

（文責、赤色は宇治自治問研）

デジタル改革関連法で、私たちの暮らしはどうなる

■はじめにーー結論

デジタル関連法を概括すると・・・

●政府と財界

　入手した個人情報を、ＡⅠで分析しパターン（Ａの属性を持つ者はＢをする確率が高い）を見つけ出す。

　個人情報を集め、ＡⅠでプロファイリングし、見つけたパターンに基づき選別する（Ａの属性を持つ者を探し出す）。

　選別で得た層（Ａの属性を持つ者）にターゲットを絞り働きかけ（宣伝、誘導、制限、排除・・・）をする。

　これで効率的に利益を得られる、もしくはリスクが回避できる。

　こういう仕掛けで、儲かることを理解した。

●個人情報

　誰の個人情報か確実に特定でき、かつ、内容が正確な個人情報を最も多く持っているのはどこか？　それは市区町村。

　市区町村の個人情報はマイナンバーと紐付けされているので、使い勝手は抜群。

●市区町村の個人情報を利用するために

　市区町村は全国に約１８００もある。全国の市区町村の個人情報を効率的に利用するためには２つの問題がある。

①　データの形式が、市区町村によってバラバラで使い勝手が悪い。

政府の対応策ーー全国市区町村のデータの標準化。市区町村が使っている情報処理システムの標準化。全国約１８００市区町村のデータを一カ所に。システムもデータも全てガバメントクラウドに集約。

②　市区町村ごとの個人情報保護条例。

政府の対応策ーー個人情報保護法を改正して、市区町村が独自な条例をつくれないように。

●医療と介護の情報

　医療等の分野の情報は、識別子を使って収集。

●スーパーシティ　・・・個人情報活用の実証実験

　国家戦略特区の制度を利用して、個人情報のプロファイリングの実証実験。そして、うまくいけば全国展開を狙う。

　スパーシティのデータ連携基盤に、市区町村の個人情報と民間が持っている個人情報を投入。

●“幸福”な監視社会

　プロファイリングに使う個人情報を社会に遍在する監視装置を使って集めるのが、現代的な「監視」。

クレジットカード、ポイントカード、インターネット、携帯電話、ⅠＣカード乗車券、防犯カメラ等々　　　＋マイナンバーの仕組み

　こうした監視と監視によってもたらされるサービスを、安全・安心、快適、便利と無批判に受入れて、のほほんと暮らせるのが、もうすぐやって来る“幸福”な監視社会。

　そんなのは嫌だ！　では、どうするか？

■１．監視、プロファイリング

そして“幸福”な監視社会

【1‐1】個人情報とプロファイリング

今、最も重要な言葉の一つ

　プロファイリング・・・個人情報保護、プライバシー保護を語るうえで、今、最も重要な言葉の一つ。

プロファイリングとは

　対象者に関する様々な個人情報を名寄せすることで、対象者の人物像をコンピューター上などに「仮想的」に作り出すこと。

　プロファイリングによって、対象者の将来予測やリスク評価が可能になり、特定の基準に従って評価し、選別や分類、等級化などを行い、特定の目的を実現するための誘導や制限、排除、優遇などが可能となる。

【1‐2】遍在化する監視装置

●より正確なプロファイリングのためには、より多くの個人情報が必要。「監視」はそのために必要不可欠。

かつての監視と、現代の監視

　かつての監視は、あらかじめ選んだ特定の者を人の目や耳などを使って見張ることだった。

　しかし、現代では、デジタル技術の飛躍的進歩と普及により、社会に遍在する監視装置を使って、全ての者を電子的に監視することが可能となっている。

●監視を行うのは国家だけではない。民間企業も様々に行っている。

人々が便利に享受している様々なサービスは、監視によって実現されている。

例えば

クレジットカード、ポイントカード・・・・購買情報

ＡＴＭ・・・入出金情報

携帯電話・・・位置情報

街を歩く・・・監視カメラで行動情報

インターネット・・・検索履歴、メールの情報

健康保険・・・診療情報

世界のどこかにあるコンピューターに記録され、必要に応じて活用される。

●今の問題は

　集められた個人情報が、個々のサービスの中に留まっているのなら、問題ではないのかもしれない。

　しかし、より大きな利益を求める大企業と、それに奉仕する政府によって、個人情報は１つのサービスや、企業、自治体、国家の枠を超え、プロファイリングを実現するために、本人が与り知ることなく、関与することもできないところで、合法的に利用され始めている。

【1‐3】プロファイリングとＡⅠ

●プロファイリングは人間を介することなく、一般的にＡⅠ（人工知能）などの機械により自動的に行われる。

　人間は多面的、かつ、常に成長・変化するもの。一面的、機械的に評価することは困難。

　限界性を持つプロファイリングに基づく「決め付け」によって、選別や排除等が行われ、人権侵害が引き起こされる可能性がある。

●ＡⅠ自体にも、限界がある。また、公正・中立でもない

　ＡⅠは、「言葉」の意味や概念を理解することはできず、人間のような価値観を持つもない。

　あくまでも使用者（行政等）があらかじめ設けた基準やルール、学習データとして与えられた過去の事例や前例に従って、対象をプロファイリング（統計処理）しているだけ。

　与えられた学習データに偏りや誤りがあれば、ＡⅠも偏った、誤った結果を出してくる。

●ＡⅠが下した結果に対して疑問を抱かず、正しいものとして安易に受け入れてしまう可能性も

「機械は間違わない」の思い込み

●ＡⅠは、安易にブラックボックス化する危険性をはらんでいる

　ＡⅠが、なぜそう判断したのか（推論の過程や根拠等）が、誰にもわからなくなる可能性も。

【1‐4】「幸福な監視国家・中国」

●デジタル化された監視の先進国である中国には、キャッシュレス決裁サービス「アリペイ」を展開するアリババグループによる「信用スコア」が広く普及している。

　信用スコアは、アリペイの使用状況や返済履歴などのほか、学歴や職歴、資産、交友関係、買い物等の日常行動や犯歴といった個人情報をもとに、一人ひとりに付けられる点数である。

●顔認識（顔識別、顔認証）技術も日常に浸透している

●欧米的市民的自由よりも、伝統的功利主義が重視される現代の中国社会では、安全・安心・便利として、監視は受け入れられており、中国国民の多くは疑問を持たない

新疆ウイグル、チベット、香港・・・

【1‐5】ＥＵのプロファイリングされない権利

●ＥＵの「一般データ保護規則」

（General Data Protection Regulation)

ＥＵに加盟する全ての国に適用される個人情報保護法。

2016年4月に制定、2018年5月から施行。

「プロファイリング（自動処理・決定）されない権利」を明記

・・・明確な本人同意が必要

　人々はプロファイリングに対して異議を唱える権利とともに、法的効果や影響をもたらす決定をプロファイリングを含む自動処理のみによってなされない権利を持つ

　ＥＵの「一般データ保護規則」に盛り込まれたプロファイリングされない権利は、「人間介入の権利」の明文化である（宮下紘『プライバシーという権利』岩波新書）

　背景には、ナチス・ドイツによる支配と、東側諸国の監視社会という重い歴史がある。特にドイツでは、マイナンバーのような共通番号制度だけでなく、国勢調査さえ憲法違反とされている

●欧米では、公的機関による監視カメラや顔認証技術の利用への異議申し立てや、利用規制が進んでいる

・サンフランシスコ市　　顔認証技術を行政機関が利用することを禁止（2019条例化）

・ボストン市　　市による顔認証技術の使用を禁止する決議（２０２０）

・スウェーデンのデータ保護当局は、生徒の出欠確認に顔認証技術を利用した学校に罰金（約220万円）を科す（２０１９）

・英国サウスウェールズ警察の顔認証技術（日本のＮＥＣ制）を使った人物照合を欧州人権条約に反し違法だとの判決を控訴裁判所がくだす（２０２０）

・ⅠＢＭやAmazonは、警察等への顔認証技術の提供を止めると表明

【1‐6】日本はどちらにすすむのか

●日本社会の個人情報保護の認識は欧米に比べて格段に遅れている

・プロファイリングという言葉自体がほとんど知られていない

・個人情報保護の議論も、政府や大企業をどう規制するかではなく、情報漏洩や不正アクセスといったセキュリティの話にいまだ留まっている

・「デジタル社会の形成を図るための関係法律の整備に関する法律」に含まれる個人情報保護法の改正にもプロファイリングされない権利はうたわれていない。「デジタル化社会形成法」の基本理念には「個人情報保護」の文言すらなく、個人情報の利活用一辺倒になっている。

●街角にあふれる監視カメラ（防犯カメラ）への法規制もなく、顔認識技術も便利として広がっている

●中国で進むデジタル化をすばらしいと感じ、そうしたものにビジネスチャンスを求める人たちも少なくない

●個人情報保護法の改正を含むデジタル改革関連法の狙いの一つは、民間企業による個人情報の利活用の拡大であり、行政機関の持つ個人情報の民間企業への提供である。

●中国におけるプロファイリングと監視は、もはや対岸の火事ではない

■２～■５　略

■６　おわりに

【6－1】私たちを待ち受ける監視社会

●このまま「ボーっと生きて」いるだけでは、やがて個人情報が集められていることも、名寄せされていることも、プロファイリングされていることも意識することなく、そして選別されたり排除されたり、コントロールーーー自分の意思だと勘違いしたままーーーされたりしていることも、自分のスコアが上下する理由も、一切知る術もなければ、知る必要性すら感じることのない社会に、私たちは住むことになるだろう

　やって来るのは、特高警察が闊歩した旧憲法下のような、ナチスが支配したドイツのような、ディストピア小説『1984年』（オーウェル）で描かれたような、ある意味わかりやすい監視社会ではなく、分相応に暮らせば、安全・安心・快適・清潔・便利を感じられる明るい「幸せな監視社会」（ハイスクール『すばらしい新世界』のような）なのである

ーーもちろん、権力に逆らう者の選別と排除が、その前提にあるのだが

●こうした監視社会を実現する上で、すなわちプロファイリングや監視を行う上で最も基本的な個人情報であるマイナンバーを含む住民登録や、戸籍、所得、国保などの情報ーー将来的にはその範囲はさらに拡大するであろうーーをマイナンバー制度のシステムに提供することになる市町村の役割は極めて大きい

　自治体の果たす役割は、政府が進めるデジタル化を押しとどめるという点においても極めて大きい

【6－2】「漏れたら怖い」に留まることなく

●まずは、「デジタル化」に関心を持ち、政府の施策や大企業の思惑を正しく知り、何が問題かを理解すること

闇雲にいくら鉄砲を撃っても、相手は困らない

●世界を知ることも必要。すべての国が日本と同じ方向を向いているわけではない

例えば、EUや、米国（の一部）が取り組んでいるGAFAへの規制や課税

GAFA　Google、Apple、Facebook、Amazon

2021/4/21　EU欧州委員会は「人工知能の利用に対する規制案（AⅠ法案）」、を公表

市民的自由を守れとする国民世論と市民運動が背景にあることを忘れてはならない

・例えば、BLM（Black Lives Matter) と顔識別規制との関係

・なぜ、ドイツでは国勢調査も、共通番号制度も違憲なのか

・どうして、イギリスでは国民ⅠDカード構想は完成前に破棄されたのか

・例えば、EUや、米国（の一部）が取り組んでいるGAFAへの規制や課税

●自治体や地域レベルでのデジタル化の実態を具体的に掴むことも必要

・市役所の中で何が起きているのか、起きようとしているか

・市役所と住民との間で何が起きているのか、起きようとしているのか

・国や府からの市への指示や圧力はどうなっているのか

●EU並みのプロファイリング規制や、欧米のような顔認識技術の規制を求める運動も必要であろう

憲法の理念「すべて国民は、個人として尊重される」（13条）からのアプローチ

●デジタル化（現政権が進めているようなものではなく）は、人類社会の発展方向から考えれば避けて通れない課題である

・基本的人権を「監視」からどう守るのか、「監視」をどうコントロールするのか、グローバル企業等の横暴から市民や社会をどう守るのか

・情報通信技術を民主主義の発展に、国民生活の向上に、社会保障の制度の拡充に、基本的人権の擁護に、どう活かすのか

公開講演会

デジタル関連法を概括すると・・・

​ 入手した個人情報を、ＡⅠで分析しパターン（Ａの属性を持つ者はＢをする確率が高い）を見つけ出す。

​ 個人情報を集め、ＡⅠでプロファイリングし、見つけたパターンに基づき選別する（Ａの属性を持つ者を探し出す）。

選別で得た層（Ａの属性を持つ者）にターゲットを絞り働きかけ（宣伝、誘導、制限、排除・・・）をする。

これで効率的に利益を得られる、もしくはリスクが回避できる。

こういう仕掛けで、儲かることを理解した。

​●個人情報

誰の個人情報か確実に特定でき、かつ、内容が正確な個人情報を最も多く持っているのはどこか？ それは市区町村。

市区町村の個人情報はマイナンバーと紐付けされているので、使い勝手は抜群。

●市区町村の個人情報を利用するために

市区町村は全国に約１８００もある。全国の市区町村の個人情報を効率的に利用するためには２つの問題がある。

① データの形式が、市区町村によってバラバラで使い勝手が悪い。

政府の対応策ーー全国市区町村のデータの標準化。市区町村が使っている情報処理システムの標準化。全国約１８００市区町村のデータを一カ所に。システムもデータも全てガバメントクラウドに集約。

② 市区町村ごとの個人情報保護条例。

政府の対応策ーー個人情報保護法を改正して、市区町村が独自な条例をつくれないように。

●医療と介護の情報

医療等の分野の情報は、識別子を使って収集。

●スーパーシティ ・・・個人情報活用の実証実験

​ 国家戦略特区の制度を利用して、個人情報のプロファイリングの実証実験。そして、うまくいけば全国展開を狙う。

​ スパーシティのデータ連携基盤に、市区町村の個人情報と民間が持っている個人情報を投入。

●“幸福”な監視社会

プロファイリングに使う個人情報を社会に遍在する監視装置を使って集めるのが、現代的な「監視」。

クレジットカード、ポイントカード、インターネット、携帯電話、ⅠＣカード乗車券、防犯カメラ等々 ＋マイナンバーの仕組み

こうした監視と監視によってもたらされるサービスを、安全・安心、快適、便利と無批判に受入れて、のほほんと暮らせるのが、もうすぐやって来る“幸福”な監視社会。

そんなのは嫌だ！ では、どうするか？

【1‐1】 個人情報とプロファイリング

今、最も重要な言葉の一つ

プロファイリング・・・個人情報保護、プライバシー保護を語るうえで、今、最も重要な言葉の一つ。

プロファイリングとは

対象者に関する様々な個人情報を名寄せすることで、対象者の人物像をコンピューター上などに「仮想的」に作り出すこと。

プロファイリングによって、対象者の将来予測やリスク評価が可能になり、特定の基準に従って評価し、選別や分類、等級化などを行い、特定の目的を実現するための誘導や制限、排除、優遇などが可能となる。

【1‐2】 遍在化する監視装置

●より正確なプロファイリングのためには、より多くの個人情報が必要。「監視」はそのために必要不可欠。

かつての監視と、現代の監視

かつての監視は、あらかじめ選んだ特定の者を人の目や耳などを使って見張ることだった。

しかし、現代では、デジタル技術の飛躍的進歩と普及により、社会に遍在する監視装置を使って、全ての者を電子的に監視することが可能となっている。

●監視を行うのは国家だけではない。民間企業も様々に行っている。

人々が便利に享受している様々なサービスは、監視によって実現されている。

例えば

クレジットカード、ポイントカード・・・・購買情報

ＡＴＭ・・・入出金情報

携帯電話・・・位置情報

街を歩く・・・監視カメラで行動情報

インターネット・・・検索履歴、メールの情報

健康保険・・・診療情報

世界のどこかにあるコンピューターに記録され、必要に応じて活用される。

●今の問題は

集められた個人情報が、個々のサービスの中に留まっているのなら、問題ではないのかもしれない。

【1‐3】 プロファイリングとＡⅠ

●プロファイリングは人間を介することなく、一般的にＡⅠ（人工知能）などの機械により自動的に行われる。

人間は多面的、かつ、常に成長・変化するもの。一面的、機械的に評価することは困難。

限界性を持つプロファイリングに基づく「決め付け」によって、選別や排除等が行われ、人権侵害が引き起こされる可能性がある。

●ＡⅠ自体にも、限界がある。また、公正・中立でもない

ＡⅠは、「言葉」の意味や概念を理解することはできず、人間のような価値観を持つもない。

あくまでも使用者（行政等）があらかじめ設けた基準やルール、学習データとして与えられた過去の事例や前例に従って、対象をプロファイリング（統計処理）しているだけ。

与えられた学習データに偏りや誤りがあれば、ＡⅠも偏った、誤った結果を出してくる。

●ＡⅠが下した結果に対して疑問を抱かず、正しいものとして安易に受け入れてしまう可能性も

「機械は間違わない」の思い込み

●ＡⅠは、安易にブラックボックス化する危険性をはらんでいる

ＡⅠが、なぜそう判断したのか（推論の過程や根拠等）が、誰にもわからなくなる可能性も。

【1‐4】 「幸福な監視国家・中国」

●デジタル化された監視の先進国である中国には、キャッシュレス決裁サービス「アリペイ」を展開するアリババグループによる「信用スコア」が広く普及している。

信用スコアは、アリペイの使用状況や返済履歴などのほか、学歴や職歴、資産、交友関係、買い物等の日常行動や犯歴といった個人情報をもとに、一人ひとりに付けられる点数である。

●顔認識（顔識別、顔認証）技術も日常に浸透している

●欧米的市民的自由よりも、伝統的功利主義が重視される現代の中国社会では、安全・安心・便利として、監視は受け入れられており、中国国民の多くは疑問を持たない

新疆ウイグル、チベット、香港・・・

【1‐5】 ＥＵのプロファイリングされない権利

●ＥＵの「一般データ保護規則」

（General Data Protection Regulation)

​ＥＵに加盟する全ての国に適用される個人情報保護法。

2016年4月に制定、2018年5月から施行。

「プロファイリング（自動処理・決定）されない権利」を明記

・・・明確な本人同意が必要

人々はプロファイリングに対して異議を唱える権利とともに、法的効果や影響をもたらす決定をプロファイリングを含む自動処理のみによってなされない権利を持つ

ＥＵの「一般データ保護規則」に盛り込まれたプロファイリングされない権利は、「人間介入の権利」の明文化である（宮下紘『プライバシーという権利』岩波新書）

背景には、ナチス・ドイツによる支配と、東側諸国の監視社会という重い歴史がある。特にドイツでは、マイナンバーのような共通番号制度だけでなく、国勢調査さえ憲法違反とされている

●欧米では、公的機関による監視カメラや顔認証技術の利用への異議申し立てや、利用規制が進んでいる

・サンフランシスコ市 顔認証技術を行政機関が利用することを禁止（2019条例化）

・ボストン市 市による顔認証技術の使用を禁止する決議（２０２０）

　入手した個人情報を、ＡⅠで分析しパターン（Ａの属性を持つ者はＢをする確率が高い）を見つけ出す。

　個人情報を集め、ＡⅠでプロファイリングし、見つけたパターンに基づき選別する（Ａの属性を持つ者を探し出す）。

　選別で得た層（Ａの属性を持つ者）にターゲットを絞り働きかけ（宣伝、誘導、制限、排除・・・）をする。

　これで効率的に利益を得られる、もしくはリスクが回避できる。

　こういう仕掛けで、儲かることを理解した。

●個人情報

　誰の個人情報か確実に特定でき、かつ、内容が正確な個人情報を最も多く持っているのはどこか？　それは市区町村。

　市区町村の個人情報はマイナンバーと紐付けされているので、使い勝手は抜群。

　市区町村は全国に約１８００もある。全国の市区町村の個人情報を効率的に利用するためには２つの問題がある。

①　データの形式が、市区町村によってバラバラで使い勝手が悪い。

②　市区町村ごとの個人情報保護条例。

　医療等の分野の情報は、識別子を使って収集。

●スーパーシティ　・・・個人情報活用の実証実験

　国家戦略特区の制度を利用して、個人情報のプロファイリングの実証実験。そして、うまくいけば全国展開を狙う。

　スパーシティのデータ連携基盤に、市区町村の個人情報と民間が持っている個人情報を投入。

　プロファイリングに使う個人情報を社会に遍在する監視装置を使って集めるのが、現代的な「監視」。

クレジットカード、ポイントカード、インターネット、携帯電話、ⅠＣカード乗車券、防犯カメラ等々　　　＋マイナンバーの仕組み

　こうした監視と監視によってもたらされるサービスを、安全・安心、快適、便利と無批判に受入れて、のほほんと暮らせるのが、もうすぐやって来る“幸福”な監視社会。

　そんなのは嫌だ！　では、どうするか？

【1‐1】個人情報とプロファイリング

　プロファイリング・・・個人情報保護、プライバシー保護を語るうえで、今、最も重要な言葉の一つ。

　対象者に関する様々な個人情報を名寄せすることで、対象者の人物像をコンピューター上などに「仮想的」に作り出すこと。

　プロファイリングによって、対象者の将来予測やリスク評価が可能になり、特定の基準に従って評価し、選別や分類、等級化などを行い、特定の目的を実現するための誘導や制限、排除、優遇などが可能となる。

【1‐2】遍在化する監視装置

　かつての監視は、あらかじめ選んだ特定の者を人の目や耳などを使って見張ることだった。

　しかし、現代では、デジタル技術の飛躍的進歩と普及により、社会に遍在する監視装置を使って、全ての者を電子的に監視することが可能となっている。

　集められた個人情報が、個々のサービスの中に留まっているのなら、問題ではないのかもしれない。

【1‐3】プロファイリングとＡⅠ

　人間は多面的、かつ、常に成長・変化するもの。一面的、機械的に評価することは困難。

　限界性を持つプロファイリングに基づく「決め付け」によって、選別や排除等が行われ、人権侵害が引き起こされる可能性がある。

　ＡⅠは、「言葉」の意味や概念を理解することはできず、人間のような価値観を持つもない。

　あくまでも使用者（行政等）があらかじめ設けた基準やルール、学習データとして与えられた過去の事例や前例に従って、対象をプロファイリング（統計処理）しているだけ。

　与えられた学習データに偏りや誤りがあれば、ＡⅠも偏った、誤った結果を出してくる。

　ＡⅠが、なぜそう判断したのか（推論の過程や根拠等）が、誰にもわからなくなる可能性も。

【1‐4】「幸福な監視国家・中国」

　信用スコアは、アリペイの使用状況や返済履歴などのほか、学歴や職歴、資産、交友関係、買い物等の日常行動や犯歴といった個人情報をもとに、一人ひとりに付けられる点数である。

【1‐5】ＥＵのプロファイリングされない権利

ＥＵに加盟する全ての国に適用される個人情報保護法。

　人々はプロファイリングに対して異議を唱える権利とともに、法的効果や影響をもたらす決定をプロファイリングを含む自動処理のみによってなされない権利を持つ

　ＥＵの「一般データ保護規則」に盛り込まれたプロファイリングされない権利は、「人間介入の権利」の明文化である（宮下紘『プライバシーという権利』岩波新書）

　背景には、ナチス・ドイツによる支配と、東側諸国の監視社会という重い歴史がある。特にドイツでは、マイナンバーのような共通番号制度だけでなく、国勢調査さえ憲法違反とされている

・サンフランシスコ市　　顔認証技術を行政機関が利用することを禁止（2019条例化）

・ボストン市　　市による顔認証技術の使用を禁止する決議（２０２０）

・スウェーデンのデータ保護当局は、生徒の出欠確認に顔認証技術を利用した学校に罰金（約220万円）を科す（２０１９）

【1‐6】日本はどちらにすすむのか

■２～■５　略

■６　おわりに

【6－1】私たちを待ち受ける監視社会

　自治体の果たす役割は、政府が進めるデジタル化を押しとどめるという点においても極めて大きい

【6－2】「漏れたら怖い」に留まることなく

闇雲にいくら鉄砲を撃っても、相手は困らない

GAFA　Google、Apple、Facebook、Amazon

2021/4/21　EU欧州委員会は「人工知能の利用に対する規制案（AⅠ法案）」、を公表