信頼・情報・ルール形成（Trust in Digital Life Japan - Working Group #1）

信頼・情報・ルール形成
マカイラ株式会社
コンサルタント／上席研究員
工藤郁子
2018年3月6日（火）
於ロフトワーク渋谷オフィス
Trust in Digital Life Japan - Working Group #1

Bio
• マカイラ株式会社コンサルタント/上席研究員
• 中京大学経済学部付属経済研究所研究員
• 総務省情報通信政策研究所特別フェロー
• 「昼のお仕事」：public affairs, public
policy, stakeholder engagement
• 「夜のお仕事」：情報法政策やロボット・AI
と法の研究

Agenda
• そもそも信頼とは？
• 信頼の機能と対象
• 法制度と信頼
• なぜいま信頼？
• 社会システムに対する信頼と情報
• 人格システムに対する信頼と情報
• 人格に対する信頼と情報
• 信頼をどうしていくべきか？
• ルール形成に向けて

信頼の機能
• 信頼は「情報不足を内的に保証された確かさで補いながら、手持ちの情報を過剰
に利用し、行動予期を一般化する」ことによって「社会的な複雑性を縮減する」
• ニクラス・ルーマン著、大庭健・正村俊之訳『信頼──社会的な複雑性の縮減
メカニズム』勁草書房（1990）
• 言い換えれば、信頼とは、未来における他人の振る舞いによる利益を見越して、
未来における他人の振る舞い（裏切り）による害が生じうることを認識しつつも、
現在において決定を行なうこと

信頼の対象（3類型）
• 人格に対する信頼
• 「馴れ親しみ」に依存しつつ長期にわたる直接的接触による愛着に基づいて
生じる、周囲にいる特定の知っている人に対する信頼
• 人格システムに対する信頼
• （それほど知らない・親しくない人たちも含む）人格を備えた自由な他者に
対して、その人の自己表現にもとづいて生じる信頼
• こちらの思うとおりには振る舞わないかもしれない他者への信頼
• 社会システムに対する信頼
• 「他の人たちも信頼しているはずだ」という信頼にもとづいて生じる、貨
幣・真理・権力といったコミュニケーション・メディアに対する信頼
• さらには、コミュニケーション・メディアの周囲で成立している非人格的な
制度的秩序の働き一般に対する信頼

法制度と信頼
• 信頼の補完
• 限定的な情報力・判断力を補うことによって、「人格システムに対する信
頼」を醸成する
• 信頼の保証
• 裏切られるリスクを軽減することによって、「人格システムに対する信頼」
の醸成を助ける
• 信頼の促進
• 協力関係を日常化させ、「人格システムに対する信頼」「人格に対する信
頼」を増進する
→ 社会システム（この場合は法制度）に対する信頼によって、個人間に「人格シス
テムに対する信頼」「人格に対する信頼」が成立しやすくなっている

cf. 「宴のあと」事件
• 「近代法の根本理念の一つであり、また日本国憲法のよつて立つところでもある
個人の尊厳という思想は、相互の人格が尊重され、不当な干渉から自我が保護さ
れることによつてはじめて確実なものとなるのであつて、そのためには、正当な
理由がなく他人の私事を公開することが許されてはならないことは言うまでもな
いところである」
• 「私事をみだりに公開されないという保障が、今日のマスコミニケーシヨンの発
達した社会では個人の尊厳を保ち幸福の追求を保障するうえにおいて必要不可欠
なものであるとみられるに至つていることとを合わせ考えるならば、その尊重は
もはや単に倫理的に要請されるにとどまらず、不法な侵害に対しては法的救済が
与えられるまでに高められた人格的な利益であると考えるのが正当であり、それ
はいわゆる人格権に包摂されるものではあるけれども、なおこれを一つの権利と
呼ぶことを妨げるものではないと解するのが相当である」
• 東京地判昭和39・9・28 / 下級審民事判例集15-9-2317

なぜいま信頼？
• 信頼は、一種のヒューリスティックな意思決定であり、その精度を向上させる仕
組みだった
• ヒューリスティック（heuristic）：常に正しいとは限らないが経験的にある
程度正しい解を導ける推論や経験則などを利用して、近似的あるいは暫定的
な解を得る手法のこと
• しかし、情報化によって、信頼の構造（複雑性の縮減方法）が変わりつつあり、
また、信頼を「操作」することが可能になっている

「社会システムに対する信頼」と情報
• 報道への信頼
• 従来、報道機関（主としてマスメディア）は、広告収入や購読料という経済
力を背景にしながら、しかし、広告主とは距離をおきつつ、権力を監視し、
「事実」を編集・分析・解釈して、国民に提供する機能が期待されてきた
• 「報道の自由」
• 司法も、博多駅テレビフィルム提出命令事件などで、報道機関に一定の役
割・利益を是認してきた
• 「報道機関の報道は、民主主義社会において、国民が国政に関与するにつき、
重要な判断の資料を提供し、国民の『知る権利』に奉仕するものである。」
• （最大決昭和44・11・26 / 刑集23-11-1490）

「社会システムに対する信頼」と情報
https://edelman.jp/insight/trust-barometer2018

「フェイクニュース」
• いわゆる「フェイクニュース」問題とは、主にインターネットに端を発する虚偽
情報が、ソーシャルメディア等で拡散され、投票結果などに影響を及ぼすほど流
通してしまう現象を指す
• 「フェイクニュース」が社会問題化したのは、2016年の米国大統領選挙における
一連のねつ造記事の拡散現象や、同時期に行われた欧州各国での選挙、英国のEU
離脱投票（いわゆる「Brexit」）であるといわれる
→ ニュースや報道に対する信頼が揺らぎ、ひいては、選挙・投票結果への信頼も揺
らいでいる
→ 背景に、SNSなど情報流通構造の変化

「フェイクニュース」の作り方
1. 自らが運営する（一見まっとうに見える）
政治ニュースサイトや政治ブログなどに、
「フェイクニュース」の記事を投稿する
2. オンライン広告の出稿などを通じて、イン
ターネット上での流通を促す
3. 扇動的で衝撃的な内容が多いため、SNS
での共有などリアクションが得られやすく、
その結果、見かけ上の信憑性が付与される
（「友人や家族からの推薦」は信頼を得や
すいという、一種の認知バイアス）
4. 記事の流通が加速し、同じ記事を何度も目
にすることになる
5. 時に、大きな社会的影響力を獲得する

「フェイクニュース」とパーソナルデータ
• 「フェイクニュース」は、広告出稿
の際にパーソナルデータ（※）を利
用することが多い
• 利用者の行動履歴などから推定され
た政治的傾向・嗜好に基づいて、
ターゲティングした方が、伝播が効
率的であるため
• なお、経済目的で「フェイクニュー
ス」を制作している者にとっては、
広告出稿が初期投資であり、アフィ
リエイト広告（成果報酬型広告）が
収入源となる
※ パーソナルデータ（personal data）：個人の識別性の有無にかかわらず、個人に関する情報全般

「フェイクニュース」と広告
• 2016年の米大統領選にロシアが介入
していたとされる「ロシアゲート疑
惑」について Google, Facebook,
Twitter の幹部が公聴会に招聘
• Twitter 社は、ロシア政府系メディアが米
大統領選期間中だけで274,000ドル（約
3000万円）の広告費を利用した可能性があ
ると証言
• 収益の柱が広告であるため、大きな
ビジネスリスクにも繋がる
• 2018年1月、Facebookがニュース
フィードの表示設定を変更し、企
業・メディアの投稿より友人・家族
の投稿の表示を増やすことを発表
• 「自主規制」という形で対策が進む

「フェイクニュース」の新しさ
• 捏造記事、プロパガンダ、偏向報道のような類似概念は従来からあるが…
• 「フェイクニュース」の機械的な量産で、ファクトチェックがいま以上に追いつ
かなくなり、人間の認知限界を越える結果、思想の自由市場が歪められてしまう
→ 量的な変化
https://youtu.be/ohmajJTcpNkhttps://youtu.be/MVBe6_o4cMI

「フェイクニュース」の新しさ
• 自分の好みの情報だけに泡のように取り囲まれる「フィルターバブル（filter
bubble）」を促進してしまう
• 利用者の行動履歴などからAIやアルゴリズムが個人の嗜好を推定し、情報を
選択的に提示することが進みすぎると、自分の好みの情報だけに泡のように
取り囲まれるようになる、との懸念
• 自分と異なる見解に触れる機会が減り、他者とのコミュニケーションが困難
になるといわれている
→ 「人格システムに対する信頼」「人格に対する信頼」との連関

「人格システムに対する信頼」と情報
• ビッグデータやパーソナルデータ利用の基本的サイクル
• データ収集：大量のデータを集積してデータベースをつくる
• データ分析：データを解析して「パターン」や「相関関係」を引き出してモ
デル化する
• データ利用：「パターン」や「相関関係」を新しいデータに適用し、例えば、
対象者の行動を予測したり、適性を評価したりする（＝プロファイリング）
• 「予測（prediction）」「個別化（personalization）」に価値が見出されている

プロファイリング
• 例えば、情報技術の活用により人事領域の業務改善を行う「HRテック」（Human
Resource Technology）
• 採用：AIを利用し、SNS上で公開された求職者に関する情報、交友関係、行
動履歴などを解析させ、確率論的な確からしさや相関関係に基づく採用を行
う
• 人事評価：深層学習によって勤怠や評価などの人事記録を分析・評価し、最
適な職種・職位等を自動判断する
• 課題
• プロファリングを行なっていることや、アルゴリズムの詳細を個人が把握で
きないことがある
• プロファリングが常に正しいとは限らない（しかし気づくことが難しい）
など

Cf. EU 一般データ保護規則（GDPR）22条
１. データ主体は、当該データ主体に関する法的効果をもたらすか又は当該データ主体に
同様の重大な影響をもたらすプロファイリングなどの自動化された取扱いのみに基づいた
決定に服しない権利を持つ。
２. 第１項は次に掲げるいずれかの決定には適用されない。
(a)データ主体とデータ管理者間の契約締結、又は履行に必要な決定。
(b)データ主体の権利及び自由並びに正当な利益を保護するための適切な対策が定め
られた管理者が従うＥＵ法又は加盟国の国内法によって認められた決定。
(c) データ主体の明示的な同意に基づく決定。
３. 第２項(a)号及び(c)号で定める状況に関して、データ管理者は、データ主体の権利及
び自由並びに正当な利益を保護するための適切な対策を実施し、少なくとも管理者側で人
を介在させる権利、当該データ主体の観点を表明する権利、及び決定に同意する権利を実
施するものとする。
４. 第２項で定める決定は、第９条第２項(a)号又は(g)号が適用されず、データ主体の権
利及び自由並びに正当な利益を保護するための適切な対策が機能していないならば、第９
条第１項で定める特別な種類の個人データに基づいてはならない。

プロファイリングと差別
• 精確なプロファリングが差別につながることの懸念
• 米国連邦取引委員会（FTC）「ビッグデータ―包摂の道具か、排除の道具
か？― （Big Data: A tool for inclusion or exclusion?）」（2016年1
月）
• ホワイトハウス「ビッグデータ―アルゴリズム・システム、機会、市民権に
関する報告書― （Big Data: A Report on Algorithmic Systems,
Opportunity, and Civil Rights）」（2016年5月）
• ドイツ連邦労働社会省「労働 4.0（Arbeiten 4.0）」（2016年11月）
• 「IEEE P7005：透明性ある雇用者のデータガバナンスに関する標準
（Standard for Transparent Employer Data Governance）」
• 例えば、FTCの報告書では、優良社員候補の判断を支援するためのAIの開発にお
いて、それまでの人事管理・評価の結果が用いられ、当該データに人種・性別・
学歴などのバイアス（bias）が潜在している場合、既存のバイアスが再生産され
てしまい、結果として差別が継承されてしまうおそれがあると指摘している

プロファイリングと監視
• 中国の芝麻信用（ジーマ・クレジット）
• ユーザーの同意のもと、免許証、Eメールアドレス、
不動産登記簿などの情報を取得し、AIなどで「スコ
ア」を算出
• 「身分特質」（年齢・学歴・職歴）、「履約能力」
（資産）、「信用歴史」（取引履行記録）、「人脈関
係」（交友関係や影響力）、「行為偏好」（ショッピ
ングや振り込みなどの特徴）の5項目
• 背景に、中国政府（国務院）が2014年に公表した「社会
信用システム建設計画綱要（2014～2020年）」
→ 監視可能性の透徹を通じた安心・信頼の再建というハイ
パーパノプティコン（超監視社会）

プロファイリングとバーチャル・スラム
• 「アルゴリズム構成や使用データが共通していれば、あちらの評価とこちらの評
価が連動し、あちらで排除された者がこちらでも排除されるという事態が起こり
うる」
• 「『おそろしい』のは、人事採用、融資、保険、教育といった、私たちの人生の
重要な場面で、このようなセグメントに基づく確率的な評価が決定的な意味をも
つこと、そして、私たちがその評価に反論できなくなること」
• 「AIに不適格の烙印を押されたことで、社会的に排除された者たちが、仮想空間
でスラムーーバーチャル・スラムーーを形成して、溜まり続ける」
• 山本龍彦『おそろしいビッグデータ超類型化AI社会のリスク』朝日新聞出
版（2017）

cf. ノンフィクション『逆転』事件
• 「ある者が刑事事件につき被疑者とされ、さらには被告人として公訴を提起されて判決
を受け、とりわけ有罪判決を受け、服役したという事実は、その者の名誉あるいは信用
に直接にかかわる事項であるから、その者は、みだりに右の前科等にかかわる事実を公
表されないことにつき、法的保護に値する利益を有するものというべきである」。「こ
の理は、右の前科等にかかわる事実の公表が公的機関によるものであっても、私人又は
私的団体によるものであっても変わるものではない。そして、その者が有罪判決を受け
た後あるいは服役を終えた後においては、一市民として社会に復帰することが期待され
るのであるから、その者は、前科等にかかわる事実の公表によって、新しく形成してい
る社会生活の平穏を害されその更生を妨げられない利益を有するというべきである」。
• 「本件事件及び本件裁判から本件著作が刊行されるまでに12年余の歳月を経過してい
るが、その間、被上告人が社会復帰に努め、新たな生活環境を形成していた事実に照ら
せば、被上告人は、その前科にかかわる事実を公表されないことにつき法的保護に値す
る利益を有していたことは明らかである」。「しかも、被上告人は、地元を離れて大都
会の中で無名の一市民として生活していたのであって、公的立場にある人物のようにそ
の社会的活動に対する批判ないし評価の一資料として前科にかかわる事実の公表を受忍
しなければならない場合ではない」。
• →「更生を妨げられない利益」（人生をやり直す自由？）
• 最小判平成6・2・8 / 民集48-2-148

cf. EU GDPR 17条
１. データ主体は、次の理由がある場合、遅滞なく管理者に対し個人データの削除を
求める権利を有し、管理者は遅滞なく個人データを削除する義務を負う。
(a)当該データが収集その他処理された目的との関係でもはや必要でなくなった
場合
(b)データ主体が第６条（１）(a)又は第９条（２）(a)に基づきなされた処理に
ついての同意を撤回した場合、及びその処理にその他の法的根拠がない場合
(c)データ主体が第２１条（１）に従って処理に異議を申し立てた場合で、その
処理に優越的な正当理由がない場合か、又は第２１条（２）に従って異議を申
し立てた場合
(d)個人データが違法に処理された場合
(e)管理者がEU法又は構成国法の法的義務を遵守するために個人データを削除
しなければならない場合
(f) 個人データが、第８条（１）にいう情報化社会サービスの提供に関連して
収集された場合

「人格に対する信頼」と情報
• 「自己は、意識の活動や記憶、あるいはナラティヴから構成される、複雑な情報
システムとして捉えられる」「ICTは、その情報のパターンに深く影響を与えうる
ために、自己に影響を与える強力な技術である」
• 情報圏（infosphere）に記録されるデータが、情報有機体（inforg）としての個
人を既定する
• ルチアーノ・フロリディ著、春木良且・犬束敦史監訳, 先端社会科学技術研
究所訳『第四の革命──情報圏（インフォスフィア）が現実をつくりかえる』
新曜社（2017）
※ 自己理解の「第1の革命」は、太陽を中心としたコペルニクスの宇宙論が宇宙における人間の中心性を失わせ
たこと。「第2の革命」は、ダーウィンの進化論が生物界における人間の中心性を失わせたこと。「第3の革
命」は、フロイトの無意識論が、意識世界における人間の中心性（「我思う、故に我あり」）を失わせたこと。
現在起こりつつある「第4の革命」は、チューリングのコンピュータ科学がインフォスフィアにおける人間の中
心性を失わせること。

自己管理の限界
• データ取得時の「同意」の透明性と、事後の情報訂正・オプトアウトの確保が重
要ではあるが…
• 誰もプライバシーポリシーを読まない（cf. 「ヘロデ条項」）
• 目先のメリットにつられやすい
• 長期的・累積的・総合的なリスクを軽視しがちである（個々のデータはよく
ても、それらが突合されれば…？）
• 利用するサービスや機器が膨大で重層化すれば、いずれ認知限界を迎える
• もはやパーソナルデータやプライバシーを自己管理することは限界？
• Solove, Daniel J. "Privacy self-management and the consent
dilemma." Harv. L. Rev. 126 (2012): 1880.
• 「ナッジ（Nudge）」

ナッジとプライバシーバイデザイン
• プライバシーバイデザイン（Privacy by design）
• 事後的な司法的救済によるプライバシー保護ではなく、プライバシー侵害が
起きる前にそれを予防することを指向
• エンジニアリングの過程全体にわたってプライバシーに配慮するもの
• 事業者や消費者など様々なステークホルダー間でデータ利用環境を構築して
いくためのコミュニケーション技法
• ナッジ（Nudge）
• 選択肢などを適切に配置することで、背中を軽く押すように、人々に「より
良い」選択を促すこと
→ しかし、良かれと思ってしたことでも、意思決定への介入ではないか、パターナ
リスティックで恣意的ではないか、などの批判がある

確率という名の牢獄/先回りされる個人
• 「確率という名の牢獄」
• データマイニングにより個人の判断・行動が予測され、意思決定のプロセス
や環境が操作されることで、個人の選択の機会が予め剥奪される
• ビクター・マイヤー＝ショーンベルガー＆ケネス・キクエ著、斎藤栄一郎訳
『ビッグデータの正体―情報の産業革命が世界のすべてを変える』講談社
（2013）
• 「先回りされる個人」
• これまでは、他者・社会・国家の反応を予期し、ときに萎縮する「先回りす
る個人」が問題になっていたが、ビッグデータに基づくAIのプロファイリン
グなどにより、個人が把捉され、本人の意思決定に先立つ形で、選択肢が提
示されたり、環境が操作されたりすることが問題になるのではないか
• 宍戸常寿「通信の秘密に関する覚書」、長谷部恭男ほか編『現代立憲主義の
諸相』有斐閣（2013）

Affective Computing
• 感情を計測・理解し、感情に働きかける技術群
• 感情のセンシング（人・場のセンシングによる感情・雰囲気の分析）だけで
なく
• 感情の活用・感情の喚起（気持ちの変化の先に行動変化を招く行動誘発技
術）を含む
→ 感情の喚起によって、「愛着」や「信頼」を醸成することもできる？
→ 認知や感情を扱う技術の適切な使い方を考えていく必要がある

SmartFace
リアルタイム画像処理技術を用いて、テレビ電話会議で相手の顔
が笑っているようにみせると、ブレストで出るアイデアが増える
（Increasing Creativity During Teleconferences with Facial
Appearance Change）

ルール形成に向けて
• 信頼とは、未来における他人の振る舞いによる利益を見越して、未来における他
人の振る舞い（裏切り）による害が生じうることを認識しつつも、現在において
決定を行なうこと
• 信頼は、一種のヒューリスティックな意思決定であり、その精度を向上させる仕
組みを法制度は担ってきた
• ところが、情報化によって、信頼の構造が変わりつつあり、また、信頼を「操
作」することが可能になっている
• 信頼のあり方が変わったなら、法制度も変わるべきかもしれない

ルール形成に向けて
• ルール形成には様々なアプローチがある
• 成文法・判例法
• 共同規制・自主規制
• 標準規格
• ナッジ、プライバシーバイデザイン
• ただ、そもそも信頼は社会的な複雑性を縮減するためにあったから、何のための
意思決定か、どのような社会が望ましいか（cf.ハイパーパノプティコン）などを
念頭においた上で、信頼を「デザイン」した方が良いだろう

Thank you for your attention.
Please contact us if you have any
questions.
Fumiko Kudo - Makaira KK
TEL: +81-3-6869-3483
Email: fumiko@makairaworld.com
5F Room A, Shimizu Bldg. 3-19 Hayabusa-Cho, Chiyoda-ku, Tokyo
102-0092, Japan

信頼・情報・ルール形成（Trust in Digital Life Japan - Working Group #1）

Recomendados

Recomendados

Más contenido relacionado

Similar a 信頼・情報・ルール形成（Trust in Digital Life Japan - Working Group #1）

Similar a 信頼・情報・ルール形成（Trust in Digital Life Japan - Working Group #1） (20)

Más de Fumiko Kudoh

Más de Fumiko Kudoh (13)

信頼・情報・ルール形成（Trust in Digital Life Japan - Working Group #1）

Notas del editor