立法、行政、司法领域中大数据・人工智能应用的可能性与课题
•
0 recomendaciones•317 vistas
这是日语版的翻译材料 日本語版はこちら： https://www.slideshare.net/fumiko_k/20191208-sgu-utpku 真心感谢能得到这样的机会 中日人工智能与大数据法治国际研讨会暨东京大学大学院法学政治学研究科・北京大学法学院 第5次交流研讨会 主办: 东京大学大学院法学政治学研究科、北京大学法学院 承办: 上海财经大学法学院 时间: 2019年12月8日（星期日） http://law.shufe.edu.cn/fa/da/c8097a129754/page.htm
Recomendados
Más contenido relacionado
Similar a 立法、行政、司法领域中大数据・人工智能应用的可能性与课题
Similar a 立法、行政、司法领域中大数据・人工智能应用的可能性与课题 (13)
Más de Fumiko Kudoh
Más de Fumiko Kudoh (14)
立法、行政、司法领域中大数据・人工智能应用的可能性与课题
- 3. • 本报告旨在基于日本的实践例和设想，就行政、司法、立法领域 中关于大数据及AI应用的可能性以及具体的课题内容，展开探讨。 • 本报告不仅仅是对技术层面进行探讨，也对即使用大数据、AI能 替代和扩张在运用环节，但其是否是被希望的等规范性层面也进 行考察。 • 迄今为止，我们对大数据和AI技术应用是否符合行政、司法、立 法领域中所要求的目标，以及我们期待的AI技术水平时至今日是 否已经达成要求等问题进行讨论。 导言
- 4. 当下与近期 （实例） 未来 （设想） 行政 A 行政服务的自动化、效率化 B 基于犯罪预测的警察工作 C “完全自动化执行”？ 司法 D 基于再犯预测等的意思决定支援 E “AI法官”？ 立法 F 法制执行工作的业务支援 G 政策立案支援 H 政策决定支援（“AI议员”？）
- 5. 当下与近期 （实例） 未来 （设想） 行政 A 行政服务的自动化、效率化 B 基于犯罪预测的警察工作 C “完全自动化执行”？ 司法 D 基于再犯预测等的意思决定支援 E “AI法官”？ 立法 F 法制执行工作的业务支援 G 政策立案支援 H 政策决定支援（“AI议员”？）
- 6. 事例A： 行政服务的自动化与效率化 例：托儿所入园选拔工作的高效化 背景 • 在日本城市区域，进托儿所的竞争十分激烈。 • 需要将多个条件（如就业状况，家庭状况，希望进入的托儿所，是否有兄弟 姐妹入园等）以计分的方式进行数据化，并在此基础上以公平的方式进行最 优化分配。 • 要解决组合最优化问题（combinatorial optimization problem)，AI贡献可 能性最高。 事例 • 于2019年6月至9月期间在东京都港区内展开的实证调查研究显示，原本需要 耗时500小时的业务（15名✖4天）通过应用该系统缩减到仅需5分钟。 • 在无法满足对方的入所需求而需要说明拒绝理由时，计划利用该系统的支援 机能为对方提供更详细的解释说明，并大大缩减工作人员的作业时间。
- 8. 事例A： 行政服务的自动化与效率化 例：托儿所入所选拔工作的高效化 分析与评价 • 业务的自动化与高效化给合理分配行政资源这点上是有意义的，同时也与当 地居民的福祉息息相关。 • 因限缩的行政裁量是备受期待的，所以从排除恣意性和加强约束性的观点出 发，能对依据系统所做的定性处理做出评价。 • 根据理由说明机能，要考虑到算法的透明性与说明责任等问题 今后的课题 • 是否应构建旨在调查行政领域采用的算法的透明性与公平性的监察制度？ • 若要完全自动化处理得以实现的话，有必要设立如《欧盟通用数据保护条例》 （General Data Protection Regulation, GDPR）第22条1项所规定的异议申请手 续等等？
- 9. 事例B： 基于犯罪预测的警察活动 例：京都府警察厅“预测型犯罪防御系统” 背景 • 将经验丰富的年长职员的技能传授给年轻职员，以及工作的合理化和高效化 是日本警察机关的课题。 • 于2020年在东京举办奥林匹克运动会・残疾人奥运会，灵活运用AI技术和大 数据分析之措施和策略来抑制犯罪与事故的发生是备受期待的。 • 基于大数据与各种传感数据来预测发生犯罪的前兆，通过加强现场警察的配 置，实现旨在防范于未然的“预测警备”，也备受关注。
- 10. 事例B： 基于犯罪预测的警察活动 例：京都府警察厅“预测型犯罪防御系统” 事例 • 京都府警于2016年10月导入“预测型犯罪防御系统”，通过应用该系统，即使警务经验 较少的警官也能够顺利展开警备巡逻工作。 • 限定使用的数据，反而就无须使用机器学习（避免“黑箱操作”）了。 • 使用的数据只在涉及犯罪种类、时期以及地点时，才将热点分析理论和邻近反复 危害理论结合起来使用。 • 「PredPol」：除既往的犯罪信息以外，还以街灯数量与餐饮店的营业时间等数据信 息为基础，使用机器学习进行解析。 • 犯罪种类的预测限定在机动车内犯罪、抢夺与特定性犯罪等在街头发生的犯罪 • 「PredPol」：除家中无人盗窃等犯罪行为外，预测对象范围扩大至抢劫、强奸、 暴行以及杀人等犯罪行为。 • 社区警备（即警察与地方社区的协同工作）的灵活运用 • 以系统解析结果为基础，共同拥有将具体犯罪发生地点等敏感信息（sensitive data）抽象化出来的巡逻路线、与本地的犯罪防止志愿工作人员协同工作
- 11. 国立国会图书馆“与人工智能·机器人和劳动·雇佣相关的视点：与科学技术相关的调查项目报告书”2018年度，第74-78页。 图1 系统画面（样本） 图2 面向地区的警察巡逻路线（样本） （注）颜色指示罪种， 其浓淡指示危险性 （出处）由京都府警察 本部刑事部刑事企划课 提供
- 12. 事例B： 基于犯罪预测的警察活动 例：京都府警察厅“预测型犯罪防御系统” 分析与评价 • 有助于提升新人警官与初到该负责区域的警官的技能水平，在提高技能这点上具有意义。 • 预期有效提升抑制犯罪的效果（但与此同时，有必要开发评价指标等） • 通过限定所利用的数据与算法，得以回避“黑箱操作”的问题，注重解释性和透明性。 • 在社区警备的例子中，重视的对象不仅有个人的权利，地区的利益也包括在内。 今后的课题 • 算法的监察制度（如前所述） • 边导入机器学习，边将解释性与透明性之担保成为需探讨的课题。 • 对数据偏见与算法偏见的对策 • 例如：波士顿市开发的“道路颠簸”（Street Bump）应用程序。其基于少数代表 例得出了道路状况调查结果中所显示的地理偏向。
- 13. 设想C： “完全自动化的执行”？ 例：计算机结构设计思想（Architecture)替代法律机能 设想 • 为了实现政策目标，将控制个人行动作为手段来看的话，法与计算机结构设 计思想是可以相互替换的关系。 • 因基于大数据与AI应用的行动预测高度化与计算机结构设计思想的制约性， 故政策目标的完全自动执行得以实现。 分析、评价与今后的课题 • 从法哲学（法概念论和遵法责务论）与行政法学（共同规制）的观点出发展 开探讨 • 具有事前规制性特征的计算机结构设计思想的许可范围及其许可理由。 • 若对计算机结构思想的设计者植入间接规制・共同规制的话，作为行政 法问题，是能将其掌握的。
- 14. 小结 • 日本行政领域中的大数据和AI应用，相比民间虽然较落后，但是相比起后面 将介绍的司法与立法领域来说，还是较为先行导入的。 • 学习先行事例，在某程度上注重隐私保护、透明性与公平性等。 • 作为合理分配行政资源这点上是有意义的，同时还与居民的福祉息息相关 • 从裁量统一管理的角度来看，因其帮助提升排除恣意性和加强约束性，故能 对系统所做的定性处理展开评价。
- 15. 当下与近期 （实例） 未来 （设想） 行政 A 行政服务的自动化、效率化 B 基于犯罪预测的警察工作 C “完全自动化执行”？ 司法 D 基于再犯预测等的意思决定支援 E “AI法官”？ 立法 F 法制执行的工作业务支援 G 政策立案支援 H 政策决定支援（“AI议员”？）
- 16. 日本的司法仍停留在“IT化”的阶段 • 就司法领域中大数据和AI应用在各国进行了相关的探讨和导入 • 中国海南省高级人民法院所开发的量刑规范化系统 • 但是，日本的司法仍停留在“IT化”的阶段 • 日本的裁判程序仍以纸质文件为媒介的前提下，其IT应用的落后饱受批 评。 • 自2020年2月起，计划在日本一部分的裁判所，对与民事裁判中的争点 整理相关的裁判文书管理，做到能灵活运用云服务。 • 计划以2022年为目标展开法律的修订工作，预计能实现网络法庭辩论以 及网络提交诉状等法律服务。 • 那么接下来将介绍美国的相关事例
- 17. 事例D： 基于再犯预测的意思决定支援 例：再犯风险预测程序“COMPAS” 事例 • 该程序由美国NorthPointe公司（现改名为Equivant公司）所开发。 • 对象者就140项问卷内容作答，在比对既往的犯罪数据之后，将再犯风险用 点数的方式分为十个等级。 • 除既往犯罪记录等直接事项之外，与对象者的年龄、就业状况、生活习惯状 况、教育程度、地区相关联，药物（毒品）使用、信条、家庭成员的犯罪记 录以及药物使用记录等信息也在问卷内容的范围之内。 • 在美国的部分地区，该程序作为刑事程序（判决和保释的判断材料）被导入。
- 18. 事例D： 基于再犯预测的意思决定支援 例：再犯风险的预测程序“COMPAS” 纠纷 • 因该程序给特定人群带来不利后果，故该使用违反正当程序原则（due process of law）。以此为理由，提起了诉讼。 • 据新闻媒体调查公布的结果，非洲系人群比安格鲁撒克逊系人群的再犯 风险更高，但非洲系人群的实际再犯率仅停留在半数以下的程度。 • 该诉讼的最后判决结论认为，若其不是取代量刑判断，仅作为参考而被使用 的话，则并不违反正当程序原则 • 是否可以将其解读为：不应该仅凭系统测定结果来判断当事人的再犯风 险？ • 也有人指出，若将该数据作为证据提交给法官的话，应当在数据等相关文书 上明确记载该数据存在偏见之说明。
- 20. 事例D： 基于再犯预测的意思决定支援 例：再犯风险的预测程序“COMPAS” 分析与评价 • 除正当程序原则的保护与平等之外，透明性与说明责任也是课题。 • 此外，欧洲评议会的专门委员会提出了“司法系统中AI运用的伦理宪章”这 一文件，现在备受关注。 • 以机器学习与数据挖掘为主题的国际学会中，如何实现保有公平性、说明责 任以及透明性的技术开发也成为热议的话题 今后的课题 • 应当对事实认定、法律的适用判断以及其他的灵活运用领域（如量刑、再犯 可能预测、保释、令状审查、免予起诉、搜查和调查等）作以区分进行分别 探讨。
- 21. 设想E： “AI 法官”？ 例：展开法律判断与法律推论的系统 设想事例 • 第二次AI热潮（1980年代）以来，研究仍在持续进行中。 • 在日本“法律专家系统”的程序开发广为人知。 • 其开发路径种类繁多：基于制定法和判例的相关知识数据展开推论工作的系 统；以及将判例作为机器学习的对象，展开“判决预测”的系统等等。
- 22. 设想E： “AI 法官”？ 例：展开法律判断与法律推论的系统 分析与评价 • “公平无私”？ • 相比起法官（人）AI所作出的裁判结果更接近于“法治”理念的实现？ • 真能避免法官的偏见、过失、偏颇抑或是恣意性吗？ • 此外，也存在反对的观点 • 法律判断应由与被告人同为人类的主体作出为重要？ • 只有同类主体（人）所作出的判决才具有正统性？ 个人见解 • 在日本，因已有交通违规通告制度（道路交通法125条以下），简易裁判程序（刑事诉 讼法461条以下）等制度，故在制度层面的导入应当是可能的 • 此外，除了司法制度领域，网络在线的纠纷解决领域中AI应用也存在很大的发展空间。
- 23. 小结 • 日本的司法领域中，大数据与AI应用仍处于发展阶段，也可说是处于“IT化” 的阶段。 • 在美国，关于再犯风险预测程序应用的诉讼被提起，以此为契机正当程序和 公平性的关系得以被探讨。 • 就法律判断系统导入的可能性，法学研究者之间意见未达成一致，讨论仍在 持续进行中。
- 24. 当下与近期 （实例） 未来 （设想） 行政 A 行政服务的自动化、效率化 B 基于犯罪预测的警察工作 C “完全自动化执行”？ 司法 D 基于再犯预测等的意思决定支援 E “AI法官”？ 立法 F 法制执行工作的业务支援 G 政策立案支援 H 政策决定支援（“AI议员”？）
- 25. 事例F： 法制执行工作的业务支援 例： “e-LAWS ” 事例 • 自2016年10月起，旨在支援法案制成等业务的“e-LAWS”系统正式投入使用。 • 只要将修正案中需要使用的词汇等输入电子系统之中，使用者对哪个用语应 如何修改的“修订文”告知便会在该系统中自动生成。 分析与评价 • 在实现自动化和高效化的行政资源分配方面具有意义 • 此外，虽然「PoliTech」提议将其作为政策制定过程中的大数据与Ai技术的 灵活运用导入运用，但该倡议仅停留在构思的阶段
- 26. https://www.tech-jpn.jp/wp-content/uploads/2018/03/pr09-11.pdf 法案制定·审查 成立·决定 公布·施行 法令数据的公开 基于新旧对 照表自动生 成修改意见 核对现行条文制成 新旧对照表 负责人确认 法令审查 • 修正意见制成的规 则习得耗时耗力 • 必须要有现行日本 法规（行政机关内 部也被称作为“黑 本”）的复印版 • 官报的原 稿主要为 纸质稿 官报公布 （修正意见） • 在此之前主管府省确 认过的法律数据未能 收录 • 因为仅提供只读模式 的网页，导致曾经的 修改等工作很困难 法令数据系统 提供公开数据 （提供更易加工的 XML形式） 平成29年早期 从法案制成到正式公布全过程的电子数据化 法案信息（新旧对照表·修正意见等） 法令数据库（主管府省所证实且认证过的正确法令数据的确定） 将电子原稿 交送印刷厂 注：“e-LAWS”是法制工作业务支援系统（e-Legislative Activity and Word Support System)的英文首字母简称
- 27. 设想G： 政策制定支援 例：信息推荐系统、未来预测之设想构建支援系统 设想事例 • 信息推荐系统 • 利用AI技术筛选和整合信息（如各种统计、资料以及行政业务数据 等），在此基础上推荐值得参考的信息或是需要探讨的论点。 • 未来预测之设想构建支援 • 立法事实不仅包含过去和现在的事实（既存事实），并以此为基础进行 的未来预测也包含在其中。
- 28. 设想G： 政策制定支援 例：信息推荐系统、未来预测之设想构建支援系统 分析与评价 • 高效利用内阁（各省厅）及议员等稀少资源的可能性。 • （相比较政策实施阶段而言）裁量范围虽然较大，但因其需要统一管理，所 以如果灵活运用对基于数据促进判断的形成以及在判断过程中透明化的实现 给予贡献的AI技术的话，其则能被评价。（参考统计法第1条，及公文书管 理法第4条第1项）。 • 基于证据的政策形成（ Evidence-Based Policy Making, EBPM）的潮流与呼应。
- 29. 设想G： 政策制定支援 例：信息推荐系统、未来预测之设想构建支援系统 今后的探讨课题 • 就数据偏见及算法偏见的对应（如前所述） • 教师数据的制作=政策评价的方法 • 如在既往政策（输入项）的基础之上，进而附加政策评价（正确数据）的话，能 够提升AI预测的准确性。但是就当下而言政策评价和其效果验证的研究并不充分。 • 对以百分百无过失的行政活动为志向，倾向于“减分主义”的大多数公务员来说， 政策评价作为个人职业发展道路上的风险而被反映。 • 通过仅对较容易测定的指标项作为业绩来例举，从而有可能产生“过度迎合”的 风险。 • 在仔细研究何种AI技术功能能被应用在政策制定环节中这一问题基础之上，进而 配合人事评价制度的改革等，循序渐进地导入AI技术的应用是十分有必要的。 • 如此一来，与其在政策制定时的正当化（justification）环节导入AI技术，不如在制 定后的统一管理及验证环节导入更为实际。 • 例如：议会的质询环节，会计审查以及“行政事业评价”等环节的AI应用
- 30. 设想H： 政策制定支援系统的利用 前提 • 制定政策的环节：就某一政策课题A， 可能存在a1、a2、a3…等多项选择时， 选择最优项。 • 决定政策的环节：A政策是在与B、C、 D…等政策选项比较的基础之上，成为 优先选项（例如：如何将50兆日元的 预算分配在高龄者医疗、青年无业者 支援以及科学技术振兴等不同领域）。 • 无法进行比较衡量的价值判断则交由 （经各府省与参政党内部的调整等） 议会做决断。 policy issue A policy issue B a1, a2, a3... b1, b2, b3... policy decision scientific prediction is effective
- 31. 设想H： 政策制定支援系统的利用 例：基于舆情分析的意思决定支援、议会中的建导AI（Facilitation AI)、“AI议员” 设想事例 • 收集与分析散落在大众媒体与互联网的意见言论及从活动记录推测出偏好数据，呈现时 下的大众舆情 • 促进代表人与代表人之间充分展开讨论（deliberation)的建导机能 分析与评价 • 与代表制（日本宪法43条1项）相抵触的风险 • 议题设定（agenda-setting)的政治性与困难性 • 如果是使用有助于确保说明责任履行的AI技术，也许有助于实现政策制定过程的优化 （日本国宪法66条3款规定的内阁【责任】） • 充分讨论与其说是意思决定的方法，毋宁说是形成偏好的路径（也即探求自我主 张正当化理由的过程） • 中止充分讨论制度须由投票决定 • 如能请其回答是经充分讨论而形成的偏好及理由时，就能验证决定。
- 32. 设想H： 政策制定支援系统的利用 今后的探讨课题 • 选举环节中有关法律课题的探讨 • 对民主主义以外的选择项之分析 • 正如公共选择理论和计量政治学等的相关研究中所指出，民主主义并不 必然是带来最优结果的选择项。 • 近年与认知相关的研究明确人类无法避免种种错误与自我欺瞒这一事 实，数据也显示选民会因知识不足与非理性的原因随大流做出意思决 定。 • 如果采用重视从充分探讨与民主性过程来实现正当性和正统性 （legitimacy)的规范性价值之观点的话，确实是一种对民主主义的拥 护… • 但是就统治而言，究竟应当在多大程度上重视个人的、集体的自我决定 及自由，这一点并不明确。
- 33. • “由AI技术所衍生和预想的问题发生的大部分原因归结于作为 使用者的‘人类’”。 • 立足于技术和科学的发展，有必要进一步探索我们作为人类 的本质、理想的存在方式以及相应的制度应当如何建立等课 题。 • 应当认识到有必要规范地构建制度这一课题，探讨更优政策 的制定方法，以及展开对法律制度的研究。 结语
- 34. CREDITS: This presentation template was created by Slidesgo, including icons by Flaticon, and infographics & images by Freepik. THANKSDoes anyone have any questions? Please find me at fumiko.kudoh@gmail.com Please keep this slide for attribution.