内部运作：Katherine ylzz总站线路检测(中国)有限公司 分析支持和反对提高算法决策透明度的论点
凯瑟琳·斯特兰伯格 (Katherine ylzz总站线路检测(中国)有限公司) 分析了支持和反对提高算法决策透明度的论据，而算法决策对我们所有人的影响越来越大。
1770 年，匈牙利发明家沃尔夫冈·冯·肯佩伦 (Wolfgang von Kempelen) 首次推出了一种被称为“机械土耳其人”的国际象棋机器，它击败了拿破仑·波拿巴和本杰明·富兰克林等人。观众们惊叹不已，直到真相终于大白：一位人类国际象棋大师隐藏在机器ylzz总站线路检测(中国)有限公司，挑战不知情的对手。
21 世纪的人们正在目睹同样不透明的机器驱动流程，其赌注远高于名人国际象棋比赛的赌注。政府和私人实体经常断言，越来越常见的算法ylzz总站线路检测(中国)有限公司过程的运作——在审计纳税人、预防恐怖主义、衡量信用风险和定价人寿保险等各种应用中——需要保密，以防止ylzz总站线路检测(中国)有限公司主体（受特定ylzz总站线路检测(中国)有限公司影响的个人）操纵系统。但最近，阿尔弗雷德·B·恩格尔伯格法学教授在《麦吉尔法律杂志》上发表了一篇文章凯瑟琳·斯特兰堡麦吉尔大学法学院助理教授 Ignacio Cofone 对这一说法提出质疑。
ylzz总站线路检测(中国)有限公司 和 Cofone 于 2017 年首次开始合作思考这个问题，当时 Cofone 是纽约大学法学院的研究员信息法研究所(ILI)，ylzz总站线路检测(中国)有限公司 担任教务主任。当 ILI 组织了一次“算法和解释”那年的会议。
斯特兰德堡说，大部分讨论都集中在偏见问题上，这是正确的。 “因此，我们专注于另一个方面，即‘我们如何向人们解释这些算法的情况？’”
ylzz总站线路检测(中国)有限公司 回忆道，在 2017 年的会议上，她逐渐熟悉了决策算法的商业保密声明如何使这些算法的工作变得不透明，甚至对受最终决策影响的人也是如此。鉴于她在知识产权方面的专业知识以及与 Pauline Newman 法学教授共同编辑《法律和贸易保密理论：当代研究手册》（2011 年）的经验，这个角度引起了她的注意罗谢尔·德莱福斯。 2018 年，ylzz总站线路检测(中国)有限公司 与 Dreyfuss 和当时的 ILI 研究员 Julia Powles 共同主办了一次关于商业秘密和算法系统的会议。
与此同时，ylzz总站线路检测(中国)有限公司 开始与 Cofone 合作撰写一篇文章，仔细审查算法系统用户提出的关于透明度不可取的主张。 “我们有一种感觉……有时这种游戏争论被用作借口，这样我们就不必争论我们应该如何处理商业秘密，或者算法到底有多少是无法解释的，”她说。
ylzz总站线路检测(中国)有限公司 和 Cofone 的最终文章“战略游戏和算法保密”认为，有关披露危险的笼统说法被夸大了，在大多数情况下，可以创建“对社会有益的披露制度”。合著者断言，当决策者使用与达成决定的理想标准松散相关的不完美代理时，博弈最有可能发生——例如，如果一家软件公司通过考虑申请人是否订阅顶级计算机杂志作为相关工作技能的代理来筛选潜在员工，而不是查看他们的大学成绩。
他们补充说，大多数ylzz总站线路检测(中国)有限公司主体缺乏伪造算法中使用的输入数据的能力，例如年龄、先前被捕或考试成绩；而且，这些变量的真实值基本上是不可改变的。即使把这些障碍放在一边，在不准确知道不同变量如何加权的情况下，尤其是在基于机器学习的复杂算法中，受试者仍然会发现玩它们很困难。
他们说，改变一个人的行为是最有可能改变数据输入的情况。但他们解释说，如果ylzz总站线路检测(中国)有限公司中使用的代理与所需标准密切相关，“游戏”可能并不是一件坏事，例如，当消费者在寻求抵押贷款之前改变他们的消费习惯以提高他们的信用评分时。
本文表明，一些决策者可能低估了信息披露对社会和决策主体的价值。 ylzz总站线路检测(中国)有限公司 和 Cofone 认为，缺乏披露可能会掩盖社会上不受欢迎的算法设计，而利用博弈风险来保密算法可能会导致缺乏责任感、决策不准确、偏见、任意性或不公平。相反，他们写道，更大的透明度可以让决策主体“挑战错误决策的事实或其他基础，并采取对社会有益的战略行为。”
合著者还强调，即使是基于机器学习的算法也依赖于人类输入；如果设计有缺陷，计算机只会完美地执行有问题的算法。斯特兰德堡表示担心，算法过程日益复杂，使得ylzz总站线路检测(中国)有限公司者自己很难理解正在发生的事情。 “现在ylzz总站线路检测(中国)有限公司者可以说，‘好吧，我们就使用这个算法，它是一个商业秘密’，或者‘我们不能透露它，因为它太复杂了。’……我读了很多关于解释的旧文献，以及为什么它们在正当程序中如此重要，部分原因是个人应该得到解释。但也有部分原因是给出解释迫使ylzz总站线路检测(中国)有限公司者证明他们这样做的合理性。”
她也担心“人在循环”问题，并援引了法官决定对被告进行审前拘留的决策自动化工具的例子。 “我得到的一些信息只是说，‘这个人风险低’，‘这个人风险高’，‘这个人的评分为 8。’但我不知道其中包含哪些信息，”ylzz总站线路检测(中国)有限公司 说。 “哪些因素已经被考虑了？哪些因素没有被考虑？我该怎么办？如果我要把它与其他证据结合起来，我怎么知道哪些证据已经被考虑了？我认为这是一个被忽视的巨大问题。”
斯特兰德堡的例子不仅仅是假设。威斯康星州最高法院案件《Loomis v. Wisconsin》（2017 年）质疑威斯康星州在判处 Eric Loomis 六年监禁时使用闭源风险评估软件。卢米斯辩称，当法官部分通过使用衡量累犯可能性的风险评估分数来确定判决时，他的正当程序权利受到侵犯，尽管生成该分数的软件的工作原理隐藏在商业保密声明背后。美国最高法院拒绝审理卢米斯的上诉。
Ewert 诉加拿大案 (2018)，其中加拿大最高法院裁定联邦监狱当局必须证明用于对土著囚犯做出决定的心理和统计评估的跨文化有效性，这表明美国法官并不是唯一关注ylzz总站线路检测(中国)有限公司工具影响的人，Cofone 说。他最近与加拿大司法研究所的一组上诉法院法官讨论了算法透明度的监管问题。 “加拿大司法界关心如何认真对待与商业秘密和博彩相关的异议，”他说。
州和地方政府已开始解决其中一些问题，但斯特兰德堡承认，她认为不会很快达成共识。然而，在某一点上，她表达得相当清楚。
“这种辩论通常会进行下去，就好像这两种选择是游戏或不透露，”她说。 “当然，通常还有第三种选择：构建一个可玩性较低的算法，然后公开。”
2020 年 3 月 16 日发布
2020 年 8 月 13 日更新