第二届伯恩斯坦研究所年度会议讨论预测性警务和yl34511总网址问题

2002 年的电影少数派报告想象这样一个未来：警察使用预测工具来预防犯罪并在嫌疑人采取行动之前识别出他们。它提出的棘手问题——关于评估内疚和影响自由意志——主要出现在罗伯特·伯恩斯坦yl34511总网址研究所会议，“算法的暴政？预测分析与yl34511总网址。”

虽然算法看起来很客观，但哈佛大学政府与技术教授拉塔尼亚·斯威尼 (Latanya Sweeney) 探索了算法如何纳入偏见。例如，一项研究斯威尼说，我们发现，当在互联网上搜索通常与黑人婴儿相关的名字时，有 80% 的机会找到暗示逮捕记录的广告，而搜索与白人婴儿相关的名字时，只有 20% 的机会找到。 “体验不仅是由算法中的刻板印象塑造的，”她补充道，“而且这种刻板印象也是这些算法的另一个名称。”

当谈到yl34511总网址中使用的预测分析时，电子前沿基金会的高级专职律师 Jennifer Lynch 赞同 Sweeney 的观点，她认为算法的好坏取决于算法中包含的信息。某些犯罪行为，例如强奸，长期得不到举报，某些社区的治安过度。因此，输入算法的历史数据只会用于识别同一地点更多相同类型的犯罪，从而产生“反馈循环”，林奇说。

将问题、商业秘密和传统的警察保密混合起来可能会掩盖算法是否得到适当使用。林奇问道：“当您不知道系统的实际工作原理时，如何挑战它的准确性和可靠性？”

加州大学洛杉矶分校人类学系的 Jeff Brantingham 教授是该项目的研发主管PredPol，创建预测yl34511总网址软件。 Brantingham 使用 PredPol 的算法作为负责任使用的示例。 PredPol 会考虑犯罪的地点、时间和类型，而不是“谁”，以避免种族定性和针对个人。他还强调，数据并不决定采取什么行动。警察和其他国家行为者仍然需要做出符合宪法和道德的决定。

布伦南司法中心自由与国家安全项目高级顾问 Rachel Levinson-Waldman 同意，可能有机会使用算法来帮助人们。她说，就难民而言，与欧洲刑警组织等组织分享移民数据可能会吓到他们脱离电网。然而，这些数据还可以提供有关如何管理难民流动、绘制建立支持站的路径以及寻找人口贩运者的见解。

林奇，重访少数派报告，更深入地探讨了这个问题。 “一个注定某个人会犯罪，甚至某个社区会发生犯罪的制度，剥夺了一个人的自由意志，并威胁到我们应该被允许选择自己命运的观念。”

小组成员将这些问题留给与会者，让他们在当天和第二天开始解答。

2016 年 3 月 31 日发布