立法・行政・司法におけるビックデータ・AI活用に関する可能性・ 課題（工藤郁子）
•
2 recomendaciones•704 vistas
2019年12月7-8日に上海財経大学で開催された東京大学大学院法学政治学研究科・北京大学法学院第5回交流研究会「中日における AI・ビックデータと公共政策に関する国際会議」の報告資料です。 関係者の皆様に深く感謝いたします。 当日は、指定討論者として、上海高等裁判所情報管理部の曹紅星部長からコメントいただきました。また、通訳として、華東師範大学法学院の段磊准教授にご支援いただきました。ありがとうございました。
Recomendados
Más contenido relacionado
Similar a 立法・行政・司法におけるビックデータ・AI活用に関する可能性・ 課題（工藤郁子）
Similar a 立法・行政・司法におけるビックデータ・AI活用に関する可能性・ 課題（工藤郁子） (20)
Más de Fumiko Kudoh
Más de Fumiko Kudoh (13)
立法・行政・司法におけるビックデータ・AI活用に関する可能性・ 課題（工藤郁子）
- 1. 東京大学未来ビジョン研究センター 客員研究員 PHP総研 主任研究員 工藤郁子 東京大学大学院法学政治学研究科・北京大学法 学院第5回交流研究会「中日における AI・ビックデ ータと公共政策に関する国際会議」（2019/12/08） 於 上海財経大学 行政・司法・立法における ビッグデータ・AI活用 に関する可能性と課題
- 3. • 行政・司法・立法におけるビッグデータ・AI活用について、日本のケー スやシナリオを用いて、その可能性と課題を検討することを目的とする • 技術的側面だけでなく、ビッグデータ・AIで代替・拡張できるとしてもそ れが望ましいかなど規範的側面を含む • これまで我々が行政・司法・立法に求めていたものと合致するか、AI に求めるものをこれまで人間が達成できていたのかなども論じたい はじめに
- 4. 現在・近い将来 （ケース） 遠い未来 （シナリオ） 行政 A 行政サービスの自動化・効率化 B 犯罪予測に基づく行政警察活動 C 「完全で自動的な執行」？ 司法 D 再犯予測等による意思決定支援 E 「AI裁判官」？ 立法 F 法制執務業務支援 G 政策立案支援 H 政策決定支援（「AI議員」？）
- 5. 現在・近い将来 （ケース） 遠い未来 （シナリオ） 行政 A 行政サービスの自動化・効率化 B 犯罪予測に基づく行政警察活動 C 「完全で自動的な執行」？ 司法 D 再犯予測等による意思決定支援 E 「AI裁判官」？ 立法 F 法制執務業務支援 G 政策立案支援 H 政策決定支援（「AI議員」？）
- 6. ケースA：行政サービスの自動化・効率化 例：保育所の入所選考業務の効率化 背景 • 日本の都市部では、保育所に入る競争が厳しい • 複数の条件（就労状況、家庭状況、希望施設、兄弟入園の希望等）を点数化し、最 適な割当てを公平に行う必要がある • 組合せ最適化問題（combinatorial optimization problem）として、AIが寄与する可能 性が高い 事例 • 2019年6〜9月に実証実験を行った東京都港区では、のべ約500時間の業務（15名 ×4日間）をシステムの利用で5分程度に短縮 • 希望の保育所に入所できなかった場合の理由説明を支援する機能を利用しつつ、よ り丁寧な説明などに職員の作業時間を振り向ける予定
- 8. ケースA：行政サービスの自動化・効率化 例：保育所の入所選考業務の効率化 分析・評価 • 自動化・効率化による行政リソースの適正配分という点で有意義で、住民のベネフィッ トにもつながる • 行政の裁量が小さい方が望ましい場面なので、恣意性の排除や羈束性の向上という 観点から、システムによる定型処理を評価できる • 理由説明の機能により、アルゴリズムの透明性や説明責任に一定の配慮がある 今後の課題 • 行政の利用するアルゴリズムの透明性・公平性などを調べる監査制度を構築すべきか • 完全自動処理にする場合は、EU 一般データ保護規則（General Data Protection Regulation, GDPR）22条1項にみられるような異議申立て手続きの整備などが必要
- 9. ケースB：犯罪予測に基づく行政警察活動 例：京都府警「予測型犯罪防御システム」 背景 • 経験豊富なシニア職員の技能をジュニア職員に伝承することと、業務の合理化・効率 化が、日本の警察機構の課題 • 2020年の東京オリンピック・パラリンピックもあり、事件事故の抑止に、AIやビッグデータ 分析を活用する施策に期待 • ビッグデータや各種センサーデータに基づいて犯罪の兆候を予測し、現場の警備を強 化することで未然防止を図る「予測警備（predictive policing）」に注目
- 10. ケースB：犯罪予測に基づく行政警察活動 例：京都府警「予測型犯罪防御システム」 事例 • 京都府警が2016年10月に「予測型犯罪防御システム」を導入し、経験が浅い警察 官でも、円滑な警備巡回を可能に • 使用するデータを限定し、あえて機械学習は利用しない（「ブラックボックス」回避） • 使用するデータは、罪種・日時・場所のみで、ホットスポット分析理論と、近接反 復危害理論を組み合わせて利用 • 「PredPol」：過去の犯罪情報に加え、街灯の数や飲食店の営業時間などの情 報をもとに、機械学習も用いて解析 • 予測罪種は、車上狙い、ひったくり、特定の性犯罪など街頭で発生する犯罪に限定 • 「PredPol」：空き巣などのほか強盗、強姦、暴行、殺人にも対象拡大 • コミュニティ・ポリシング（警察と地域社会の協力）での活用 • システムの解析結果を基に、具体的な犯罪発生箇所等の機微情報（sensitive data）を抽象化した巡回ルートを共有し、地元防犯ボランティアと協力
- 12. ケースB：犯罪予測に基づく行政警察活動 例：京都府警「予測型犯罪防御システム」 分析・評価 • 新人警察官や新しく配属されたため担当区域に慣れていない警察官の技能の底上 げという点で有意義 • 犯罪抑止効果の向上が見込める（ただし、評価指標等の開発が必要） • 利用するデータやアルゴリズムを限定することで、「ブラックボックス」問題を回避し、解釈 性や透明性に配慮 • コミュニティ・ポリシングの例では、個人の権利だけでなく、地域の利益にも配慮している 今後の課題 • アルゴリズムの監査制度（前述） • 機械学習を入れるなら、解釈性や透明性の担保が課題に • データ・バイアスやアルゴリズム・バイアスへの対応 • 例：ボストン市の「Street Bump」にみる過少代表による道路状況調査の地理 的偏向
- 13. シナリオC： 「完全で自動的な執行」？ 例：アーキテクチャによる法の機能代替 想定 • 政策目標を実現するために個人の行動をコントロールする手段としてみると、法とアー キテクチャは互換的 • ビッグデータ・AIの活用による行動予測の高度化とアーキテクチャによる制約で、政策 目標の完全自動執行が実現するのではないか？ 分析・評価・今後の課題 • 法哲学（法概念論や遵法責務論）や行政法学（共同規制）の観点から検討されてい る • 事前規制的な性質をもつアーキテクチャは、どこまでどのような理由で許される か？ • アーキテクチャの設計者に対する間接規制・共同規制として実装されるのであれ ば、行政法の問題として把握できるのではないか？
- 14. 小括 • 日本の行政におけるビッグデータ・AI活用は、民間に比べれば遅いが、後述する司法・ 立法と比べれば、比較的導入が進んでいる • 先行事例に学び、プライバシー・透明性・公平性などに一定の配慮をしている • 行政リソースの適正配分として有意義で、住民のベネフィットにもつながる可能性があ る • 裁量統制という観点からいえば、恣意性の排除や羈束性の向上に資するので、システ ム等による定型処理を評価できるだろう
- 15. 現在・近い将来 （ケース） 遠い未来 （シナリオ） 行政 A 行政サービスの自動化・効率化 B 犯罪予測に基づく行政警察活動 C 「完全で自動的な執行」？ 司法 D 再犯予測等による意思決定支援 E 「AI裁判官」？ 立法 F 法制執務業務支援 G 政策立案支援 H 政策決定支援（「AI議員」？）
- 16. 日本の司法は「IT化」の段階 • 司法におけるビッグデータ・AI利用は、各国で検討・導入が進んでいる • 中国の海南省高級人民法院における量刑規範化システム • しかし、日本の司法ではまだ「IT化」の段階 • 日本の裁判手続きは、依然として印刷した書面のやり取りを前提とし、IT活用の 遅れが指摘 • 2020年2月からは、一部の裁判所で、民事裁判の争点整理にクラウドサービス を活用できるようになる予定 • 2022年頃を目標に、法改正を行い、オンラインで口頭弁論を行ったり、訴状の 提出ができるようになる見込み • そこで以下では、米国の事例を紹介する
- 17. ケースD：再犯予測等による意思決定支援 例：再犯リスク予測プログラム「COMPAS」 事例 • 米国ノースポイント社（現エキバント社）が開発 • 対象者に約140項目を回答させ、過去の犯罪 データとの照合により、再犯リスクを10段階でス コアリング • 犯罪歴などの直接的な項目のほか、年齢、雇 用状況、ライフスタイル、教育レベル、地域との つながり、薬物使用、信条、家族の犯罪歴、薬 物使用歴なども質問 • 米国の一部地域で刑事手続（判決や保釈の 判断材料）として導入
- 18. ケースD：再犯予測等による意思決定支援 例：再犯リスク予測プログラム「COMPAS」 紛争 • プログラムが特定の人種を不利益に扱っており、適正手続保障（due process of law） に反するとして訴訟に • 調査報道によると、アングロサクソン系よりもアフリカ系を再犯リスクが高いと評価 していたが、アフリカ系の人たちが実際に再犯をした割合は半分以下 • 量刑判断に取って代わるものではなく、参考として利用するのであれば、デュープロセス 違反にならない、との判示 • システムのみに依拠して判断すべきでないという意味か？ • データを判事に提供する場合には、データにはバイアスがあることなどを明記すべき、と も指摘
- 20. ケースD：再犯予測等による意思決定支援 例：再犯リスク予測プログラム「COMPAS」 分析・評価 • 適正手続保障や平等のほか、透明性やアカウンタビリティも課題に • なお、欧州評議会の専門委員会が「司法システムのAI利用倫理憲章」を提示してお り、注目される • また、機械学習やデータマイニング関連の国際学会でも、公平性・説明責任・透明性 等を考慮した技術開発はホットトピックになっている 今後の課題 • 事実認定、法の適用判断、その他の活用場面（量刑・再犯予測、保釈・令状審査、 起訴猶予、捜査、取調べなど）に分けて論じるべきだろう
- 21. シナリオE：「AI裁判官」？ 例：法的判断や法的推論を行うシステム 想定事例 • 第2次AIブーム（1980 年代）以降、継続的に研究されてきた • 日本では「法律エキスパートシステム」 開発プロジェクトが有名 • アプローチはさまざま：制定法や判例に関する知識データベースを基に推論を行うシス テム、判例を機械学習の対象として「判決予測」を行うシステムなど
- 22. シナリオE：「AI裁判官」？ 例：法的判断や法的推論を行うシステム 分析・評価 • 「公平無私」？ • 裁判官（人間）よりもAIによる裁判の方が、「法の支配」の理念に沿う？ • 裁判官の偏見、過誤、ブレ、恣意性などを除去できる？ • 他方、批判的な見解も • 法的判断が被告人と同じ人間によって下されることは重要？ • 同じ主体同士による裁判のみが正統性を持つ？ 私見 • 日本では、すでに交通反則通告制度（道路交通法125条以下）、略式手続（刑事 訴訟法461条以下）などがあるため、制度化は許容できるだろう • なお、司法制度の外の、オンラインの紛争解決手段（Online Dispute Resolution）に おいてAI活用が実現するのではないかという見通しもある
- 23. 小括 • 日本の司法におけるビッグデータ・AI活用は進んでおらず、まだ「IT化」の段階 • 米国では、再犯リスク予測プログラムに関する訴訟も起きており、適正手続きや公平 性との関係で論じられている • 法的判断システムの導入可能性については、法学者の間では賛否があり、議論され ている
- 24. 現在・近い将来 （ケース） 遠い未来 （シナリオ） 行政 A 行政サービスの自動化・効率化 B 犯罪予測に基づく行政警察活動 C 「完全で自動的な執行」？ 司法 D 再犯予測等による意思決定支援 E 「AI裁判官」？ 立法 F 法制執務業務支援 G 政策立案支援 H 政策決定支援（「AI議員」？）
- 25. ケースF：法制執務業務支援 例： ｢e-LAWS｣ 事例 • 2016年10月から、法案等作成業務を支援する｢e-LAWS｣が運用開始 • 改正案に必要な単語などを電子システム上で入力すると、どの文言がどう改正される かを示す「改め文」が自動的に作成される 分析・評価 • 自動化・効率化による行政リソースの適正配分という点で有意義 ※ ほかに、政策形成過程のビッグデータ・AI利用として「PoliTech」が提唱されているが、 構想レベルにとどまる
- 27. シナリオG：政策立案支援 例：情報推薦システム、将来予測シナリオの作成支援システム 想定事例 • 情報推薦システム • AIで情報（各種の統計・資料や行政の業務データなど）を選別・集約し、参照す べき情報や検討すべき論点を推薦 • 将来予測シナリオの作成支援 • 立法事実には、過去・現在の事実（既存の事実）だけでなく、それを基礎とした 将来予測（未来の状態や帰結）も含まれる
- 28. シナリオG：政策立案支援 例：情報推薦システム、将来予測シナリオの作成支援システム 分析・評価 • 内閣（各省庁）・議員などの希少資源をより効率的に活用できる可能性 • （政策実施の場面と比べて）裁量が比較的大きいが、統制も求められている場面なの で、データに基づく判断の促進や判断過程の透明化に寄与するようなAI利用であれば、 評価されうる（cf. 統計法1条・公文書管理法4条1項） • 「証拠に基づく政策形成（Evidence-Based Policy Making, EBPM）」の潮流と呼応
- 29. シナリオG：政策立案支援 例：情報推薦システム、将来予測シナリオの作成支援システム 今後の検討課題 • データ・バイアスやアルゴリズム・バイアスへの対応（前述） • 教師データの作成＝政策評価の方法 • 過去の政策（「入力」）だけでなく政策評価（「正解データ」）があると、AIの予測 精度が向上するが、現状において政策評価や効果検証は不十分 • 行政活動の無謬性を志向し「減点主義」を基調としがちな公務員の多くにとって、 政策評価はキャリア形成上のリスクとして映る • 測定しやすい指標のみを業績として取り上げることで過剰適応が生じるおそれも • 政策立案の現場で受け入れられるAIの機能を吟味した上で、人事評価制度の 変更などと合わせて、漸進的に導入を進める必要があるだろう • そうすると、立案時の正当化（justification）というよりも、立案後の統制・検証の場面 での導入から着手する方が現実的か • 例：議会での質疑、会計検査、「行政事業レビュー」などでのAI活用
- 30. シナリオH：政策決定支援システムの利用 前提 • 政策立案の場面：ある政策課題Aについて手法 a1、a2、a3…などの選択肢がありうるとき、よりよ い選択をする • 政策決定の場面：Aとは別の政策課題B、C、 D…などと比較し優先順位をつける（例：50兆円 という予算を、高齢者医療、若年無業者の支援、 科学技術振興などにどう按分するか） • 比較不能な価値についての決断は（各府省や与 党内での調整など経て）議会で行われる policy issue A policy issue B a1, a2, a3... b1, b2, b3... policy decision scientific prediction is effective
- 31. シナリオH：政策決定支援システムの利用 例：世論分析による意思決定支援、議会におけるファシリテートAI、「AI議員」 想定事例 • マスメディアやインターネット上に散在する意見や行動履歴から推測される選好データ などを収集・分析し、世論をリアルタイムで提示 • 代表者間の熟議（deliberation）を促すようなファシリテート機能 分析・評価 • 代表制（日本国憲法43条1項）と抵触するおそれ • 議題設定（agenda-setting）の政治性と難しさ • アカウンタビリティの確保を促せるようなAI利用であれば、よりよき政策形成過程の実現 に資するかもしれない（cf. 日本国憲法66条3項にいう内閣の「責任」） • 熟議は、意思決定の方法というよりも、選好形成の方法（自己の主張を正当化 する「理由」を探求する過程） • 熟議を打ち切る制度が、投票による決定 • 熟議で形成された選好と理由を答えてもらえると、決定を検証できる
- 32. シナリオH：政策決定支援システムの利用 今後の検討課題 • 選挙の場面における法的課題の検討 • 民主主義以外の選択肢に関する分析 • 公共選択論や計量政治学などで指摘されているとおり、民主主義は他の選択 肢よりも優れた帰結をもたらすとは限らない • むしろ近年の認知に関する研究は、人間が種々の錯誤や自己欺瞞から逃れら れないことを明らかにしてきており、有権者が、無知で非合理的で周囲に流され て意思決定していることをデータで示す • 熟議や民主的プロセスから正当性や正統性（legitimacy）を調達するという規範 的価値を重視する立場を採用すれば、民主主義を擁護できるが… • 統治において、個人的・集団的な自己決定ひいては自由をどの程度重視すべ きかは、必ずしも自明ではない
- 33. • 「AIにより生じると予想された問題の原因のかなりの部分がそれを利 用する人間の側にある」 • テクノロジーとサイエンスの発展を踏まえ、我々人間はどのような存在 で、どうありたいか、また、制度はどうあるべきかという課題に取り組む 必要がある • 規範的に制度を構築する必要があることに目を向け、よりよい政策 形成のあり方を議論し法制度を検討していきたい おわりに
- 34. CREDITS: This presentation template was created by Slidesgo, including icons by Flaticon, and infographics & images by Freepik. THANKSDoes anyone have any questions? Please find me at fumiko.kudoh@gmail.com Please keep this slide for attribution.