损坏的工具：Vincent ylzz永利总站 阐述了刑事法律系统使用算法工具时存在的偏见问题
临床法助理教授文森特·萨瑟兰回忆起在其法律职业生涯的早期，作为布朗克斯捍卫者队的专职律师，他经常使用风险评估ylzz永利总站，即法院使用的基于算法的ylzz永利总站，以帮助确定是否应在审前释放他的客户。当评估结果有利时，萨瑟兰用它们代表他的客户进行辩论，而当评估结果不佳时，他会提出评估计算中的潜在问题。他说，由于法庭上所有其他因素都在起作用，他没有深入思考风险评估ylzz永利总站所发挥的更广泛的作用。
但是南瑟兰，谁教导刑事辩护和重返社会诊所，此后开始认识到这些ylzz永利总站的使用本身对刑事司法具有“巨大影响”。 “我还意识到，”他说，“算法生态系统的触角触及了犯罪系统的所有其他阶段——从治安一直到量刑、假释、缓刑、监督、重返社会，当你被监禁时会被分类……这些ylzz永利总站在整个系统中无处不在，我觉得它们只是在嗡嗡作响，没有给它们带来太多挑战。”
在他的文章中，“刑事法律体系中种族与算法ylzz永利总站的交叉点”去年秋天在《马里兰州法律评论》上发表的《ylzz永利总站》认真审视了此类工具，并提出了质疑它们的多种理由。他认为刑事法律体系受到种族主义和不平等的困扰，他写道，“为了改变刑事法律体系，倡导者需要采用以种族正义为中心的视角，为基于技术的努力提供信息，而不是简单地在当前状态下将工具分层。”虽然算法工具通常被认为有助于消除决策中的偏见，但 ylzz永利总站 声称它们受到了不可避免的系统性偏见的影响。
本文首先概述整个刑事法律系统的算法ylzz永利总站，重点介绍预测ylzz永利总站。警方利用它们来预测犯罪活动可能发生的地点；法院使用它们来确定重新逮捕的风险和在设定保释时未能再次出庭的风险，并做出量刑决定。
ylzz永利总站 写道，证据对这种算法方法的有效性提出了质疑。在 2016 年的一项研究中，人权数据分析小组 (HRDAG) 检查了预测警务软件 PredPol 背后的算法。 HRDAG 输入来自加利福尼亚州奥克兰的犯罪数据来预测潜在的毒品犯罪，HRDAG 发现该算法建议针对“低收入有色人种社区，尽管公共卫生数据的同时证据表明毒品使用在整个城市更加均匀地分布。” HRDAG 认为，“当收到歧视性数据时，该算法将鼓励警察采取类似的歧视性行为。”
ylzz永利总站 指出，现有的学术研究表明，这些数据不仅是警方使用的数据，而且也是他们创建的，这意味着过去警察活动中反映的偏见已嵌入到算法工具使用的统计数据中。 “因此，”萨瑟兰写道，“警察的决策在塑造我们对犯罪和犯罪行为的看法方面发挥着巨大的作用。”他认为，数据还存在其他缺陷。例如，逮捕统计数据并不表明逮捕最终如何解决，包括撤销指控：“数据中反映和读取的是一个似乎比实际情况危险得多的社区，”他写道。
他认为，这种最初的扭曲可能会自我延续：根据以前的警务模式在特定地区加强执法可能会导致更多的逮捕，就像警察的存在一样，导致执法部门更大的目标。
保释决定中使用的基于算法的审前风险评估（例如 ylzz永利总站 作为布朗克斯辩护律师）遇到的风险评估，因司法管辖区而异，并且由各种不同的实体创建。许多人使用有关先前定罪和未决指控的数据。用于计算风险评分的因素及其加权方式并不总是被揭示，大多数工具都会给出一个单一的评分，涵盖重新逮捕和未能出庭的风险，即使这两种风险彼此不同。
ylzz永利总站 还批评了应用于量刑决定的算法工具。这些计算累犯风险的工具通常利用四类风险因素：犯罪史、反社会态度、人口统计和社会经济地位。他指出，这种“精算风险评估以数字分析的形式运作，根据个人与群体的相似性或群体成员身份来规定个人的待遇”。他引用了最近的一项研究，该研究发现弗吉尼亚州使用非暴力风险评估工具并没有减少监禁、累犯或种族差异；同时，它也使年轻被告处于不利地位。
萨瑟兰承认，立即废除刑事法律体系中的算法ylzz永利总站不太可能，但他看到了利用这些ylzz永利总站从种族正义的角度改善整个体系的机会。可以调整算法数据集，以考虑警务和其他领域的种族差异影响。应用公共卫生分析，“热点”可以吸引支持和投资，而不是增加警务。算法ylzz永利总站供应商和用户可能需要消除其ylzz永利总站的歧视性影响；还可能需要以环境影响评估为模型的算法影响评估；算法ylzz永利总站可用于检测系统运行者决策中的偏见。
ylzz永利总站 强调，重要的不是工具本身，而是工具的制作和使用方式。 “这些工具向我们反映了我们所生活的世界。如果我们诚实地说，我们在这种反映中看到的是充满种族主义和不公正的刑事法律体系，”他写道。 “种族正义的视角有助于我们理解这一点，并要求我们根据所看到的情况调整我们的反应，以创造我们想要居住的世界。”
2022 年 3 月 14 日发布 2022 年 8 月 9 日更新
热门照片来源：Adobe Stock/Skórzewiak