2018年3月18日に開催されたパーソナルデータ＋α研究会シンポジウム「AI社会における『個人』とパーソナルデータ」の報告資料です。 https://www.shojihomu-portal.jp/seminar?seminarId=5267792 ■AI社会における「個人」と自律 プライバシーを自己管理することはもはや限界ではないかと指摘されて久しい。また、プライバシーよりも治安を優先させたかに見える情報圏も台頭しつつある。さらに、AIの普及によって近代的「個人」観が維持できなくなるとの見解も存在する。 本報告では、一定程度自律的なAIに、権利義務・責任・法人格などを認めるべきという議論や諸外国の政策動向を紹介しつつ、法（学）が「自律」という擬制を自覚した上で対応してきたことを指摘し、これまでの「個人」像を維持した場合と維持しない場合に何が起きうるかについて検討する。

1. AI社会における「個人」と自律
マカイラ株式会社
コンサルタント／上席研究員
工藤郁子
2018年3月18日(日)
於 放送大学 東京文京学習センター 多目的講義室
パーソナルデータ＋α研究会シンポジウム
「AI社会における『個人』とパーソナルデータ近代とシンギュラリティのあいだで？」

4. 自己管理の限界
• データ取得時の「同意」の透明性と、事後の情報訂正・オプトアウトの確保が重
視されているが…
• 誰も利用規約やプライバシーポリシーを読まない（cf. 「ヘロデ条項」）
• 目先のメリットにつられやすい
• 長期的・累積的・総合的なリスクを認知しにくい
• IoTにより、利用する機器・端末が膨大・重層化すれば、認知限界を迎える
→ パーソナルデータやプライバシーを自己管理するのは、限界ではないか？(Solove
2012)

5. Affective Computing
• 感情を計測・理解し、感情に働きかける技術群：
• 感情のセンシング（人・場のセンシングによる感情・雰囲気の分析）
• 感情の活用・喚起（気持ちの変化の先に行動変化を招く行動誘発技術）

6. 「個人」による自律というフィクション
• ＜意思—行為—責任＞という連関
• 自由意思に基づく自律的判断を前提として、その自己決定から生じた結果を
引き受ける、という近代法の基本原理
• 前提に、自律した人格を有するという「強い」「個人」像
• さらには、 ＜各個人の自由—自己決定—幸福＞が一致する制度を法を通じて
国家が供給するという近代モデル（大屋 2014）
• もっとも、法（学）は、こうした擬制を自覚し一部修正で対応してきた
• 民事法分野は、業法・消費者法の問題として処理可能（栗田 2017）
• cf. フランス人権宣言（1789）における「人一般（homme）」と「市民
（citoyen）」の二重性に注意
→ 擬制を諦めると、どのような社会になる…？

7. 「プライバシーなんていらない！？」
• 中国の芝麻信用（ジーマ・クレジット）
• ユーザーの同意のもと、免許証、Eメールアドレス、不
動産登記簿などの情報を取得
• 属性情報、交友関係、決済履歴などを含む5項目で評価
• AIで「スコア」を算出
• スコアをインセンティブに人々の素行（！）が良くなる
• パーソナルデータの開示とプロファイリングを前提とした、
新しい社会インフラ？
→ ハイパー・パノプティコン（超監視）で安心・信頼を実現
→ 「やましいことがないのであれば、安全のために、あなたの
プライバシーを開示するのは問題ないのでは？」 という主張
（Nothing-to-hide argument）の素朴な力強さ…

8. 「尊厳」の復権？
• 「個人の尊重」「尊厳」という根本規範への立ち返り
• EUの一般データ保護規則（ General Data Protection Regulation :
GDPR）22条1項などについて、「時間とコストをかけてその個人を直接見
ることを厳格に要求し」「ビッグデータ社会において、なお人間の尊厳・個
人の尊重原理が『根本規範』として維持されるよう」にしたとの評価（山本
2017）
• しかし、「尊厳」の復権という構想は、困難も伴う…
• 実務面：「プライバシー外交」（石井 2013）、バーゲニングパワーの維持、
産業政策・競争政策との接合（ GAFA（Google・Apple・Facebook・
Amazon）対策）
• 理論面：身分と深い内面的牽連のある「尊厳」と近代的「個人」は、元来相
互に排斥し合う観念であり、「個人の尊厳」を近代立憲主義の構想の中核に
据えると、解決不可能な課題を背負い込んでしまう（蟻川 2016）

9. Cf. EU 一般データ保護規則（GDPR）22条
１. データ主体は、当該データ主体に関する法的効果をもたらすか又は当該データ主体に
同様の重大な影響をもたらすプロファイリングなどの自動化された取扱いのみに基づいた
決定に服しない権利を持つ。
２. 第１項は次に掲げるいずれかの決定には適用されない。
(a)データ主体とデータ管理者間の契約締結、又は履行に必要な決定。
(b)データ主体の権利及び自由並びに正当な利益を保護するための適切な対策が定め
られた管理者が従うＥＵ法又は加盟国の国内法によって認められた決定。
(c) データ主体の明示的な同意に基づく決定。
３. 第２項(a)号及び(c)号で定める状況に関して、データ管理者は、データ主体の権利及
び自由並びに正当な利益を保護するための適切な対策を実施し、少なくとも管理者側で人
を介在させる権利、当該データ主体の観点を表明する権利、及び決定に同意する権利を実
施するものとする。
４. 第２項で定める決定は、第９条第２項(a)号又は(g)号が適用されず、データ主体の権
利及び自由並びに正当な利益を保護するための適切な対策が機能していないならば、第９
条第１項で定める特別な種類の個人データに基づいてはならない。

10. 設計プロセスの改善による実効化
• プライバシー保護を組織的・体系的に、設計に組み込む方向性
• プライバシー・バイ・デザイン（Privacy by Design: PbD）：プライバ
シー侵害が起きる前にそれを予防することを指向し、仕様段階から検討
• プライバシー影響評価（Privacy Impact Assessment: PIA）：プライバ
シーへの影響度を事前に評価し、リスクの回避・緩和を促すプロセス
• ナッジ（Nudge）：選択肢などを適切に配置することで、背中を軽く押すよ
うに、人々に「より良い」選択を促すこと
→ 特にナッジについて、良かれと思ってしたことでも、意思決定への介入ではない
か、パターナリスティックではないか、との批判

11. AIによる実効化…？
• プライバシーに関する選好をパラメータ化し、 AI や Electronic agent に管理を
任せることも想定される（cf. 金融市場における「アルゴリズム取引」）
• しかし、契約の成否や効果帰属などは（実は）必ずしも明らかでない
• 米国：統一電子取引法（UETA）、統一電子情報取引法（UCITA）、統一商
事法典（UCC）において、自動的取引を有効としつつ、電子エージェントの
利用者にその契約の効果を帰属させると明確化
• EU：自律型ロボットの一部に「電子人（electronic person）」など一定の
法的主体性を将来的に認める可能性を検討中
• 会社や船舶など、人ではない「物」を法的主体とし、一定の権利義務を認め、法
的課題を解決する技法は従来から存在する
→ AI に行為主体性や法的人格を認めることは 「個人」を単位とする社会のあり方を
根本から問い直すか？（大屋 2017）

12. AI社会のパーソナルデータ法制に向けて
• パーソナルデータやプライバシーを自己管理するのは、限界を迎えている
• その背後には、＜意思—行為—責任＞という近代法の擬制がある
• 擬制を維持しないシナリオ（治安社会）では、ハイパー・パノプティコンが想定
される
• 擬制を修正しつつ維持するシナリオ（尊厳社会）には、実務面・理論面で課題が
あり、検討すべき点も多い
• 特に、 AI に行為主体性や法的人格を認めることは 「個人」を単位とする社会の
あり方を根本から問い直す可能性もある
• AI社会のパーソナルデータ法制を考える上では、どのような社会・将来像が望ま
しいかを念頭において議論する必要がある
• 様々なステークホルダーで議論することが望ましく、そのコミュニケーションの
技法として、理念・原則を提示することが考えられる

13. “
• 蟻川恒正『尊厳と身分』, 岩波書店, 2016.
• Guardian "Londoners give up eldest children in public Wi-Fi security horror show", Sep 2014.
https://www.theguardian.com/technology/2014/sep/29/londoners-wi-fi-security-herod-clause
• 工藤郁子「自然人、法人に次ぐ『電子人』概念の登場」ビジネス法務 vol.18 No.2, 2018.2, pp.4-5.
• 栗田昌裕「民事裁判例におけるプライバシー」NBL1100号, 2017, p44.
• 石井夏生利「『プライバシー外交』 のためのプライバシー」情報通信政策レビュー vol.4, 2013,
pp.54-78.
• 大屋雄裕『自由か、さもなくば幸福か?』, 筑摩書房, 2014.
• 大屋雄裕「人格と責任―ヒトならざる人の問うもの」福田雅 樹＝林秀弥＝成原慧編『AIがつな
げる社会― AIネットワーク時代の法・政策』, 弘文堂, 2017.
• Solove, Daniel J. "Privacy Self-Management and the Consent Dilemma. "
• Solove, D.著, 大島義則・松尾剛行・成原慧・赤坂亮太訳『プライバシーなんていらない！？―情
報社会における自由と安全』, 勁草書房, 2017.
• 山本龍彦『プライバシーの権利を考える』, 信山社, 2017.
• 山本龍彦 『おそろしいビッグデータ』, 朝日新聞出版, 2017

14. Thank you for your attention.
Please contact us if you have any
questions.
Fumiko Kudo - Makaira KK
TEL: +81-3-6869-3483
Email: fumiko@makairaworld.com
5F Room A, Shimizu Bldg. 3-19 Hayabusa-Cho, Chiyoda-ku, Tokyo
102-0092, Japan