莱克斯机械

纽约大学法学院教职员工和校友评估人工智能对yl34511线路中心和世界的影响。

迈克尔·奥雷撰写

OPENyl34511线路中心 的 DALL-E 插图

2022-23 学年，纽约大学法学院日历上只有两场活动的标题中提到了人工智能 (yl34511线路中心)。 2023-24 年，举办了 21 场活动。这些活动涉及广泛的主题，其中包括巴西的人工智能监管、人工智能如何塑造公司治理，以及它如何促进多样性、公平和包容性（例如，通过检测歧视和缩小薪酬差距）。

在纽约大学法学院，处理人工智能相关问题并不是什么新鲜事。 2013 年，小组成员在纽约大学组织的一次会议上探讨了与算法决策相关的问题信息法研究所(ILI)——根据 Alfred B. Engelberg 法学教授兼 ILI 主任的说法，这是法学院研究人工智能驱动计算的最早的例子之一凯瑟琳·斯特兰堡。 2018 年，在美国公民自由联盟博客上发表的一篇文章中，临床法副教授文森特·萨瑟兰讨论了刑事yl34511线路中心系统中的人工智能会加剧现有偏见的担忧。自 2021 年起，西格尔家族监管yl34511线路中心与政策教授凯瑟琳·夏基曾在联邦机构人工智能圆桌会议上任职，该圆桌会议由美国行政会议组建，旨在帮助各机构制定和改进使用 yl34511线路中心 工具的协议和实践。

但 ChatGPT 和其他快速发展的生成式 yl34511线路中心 平台（可以生成文本、图像和其他内容）的出现，引发了一系列关于 yl34511线路中心 对社会和法律的潜在影响的紧迫新问题。当 2022 年开始担任 1L 时，25 岁​​的 Youssef Aziz 对这项技术并没有特别的兴趣。 “但是后来，”他说，“ChatGPT 出现了，我就想‘等等，这实际上非常非常重要。’”在一家诊所担任 2L 时，他抓住了这个专注于人工智能的机会。 “现在它无处不在，”他说。

作为回应，纽约大学多个领域（刑事司法、国家安全、知识产权和侵权等）的教职人员正在从事人工智能相关事务的工作，包括奖学金、监管备案和政府机构报告。这些领域有一些共同的主题。一是人工智能既有希望，也有危险。沃尔特·E·迈耶法学教授指出，该系统可能会发现新的抗生素斯蒂芬·霍姆斯，也可用于制造没有防御能力的新型生物战病原体。

人工智能技术的发展速度以及学者或政策制定者跟上的难度。去年秋天，克里斯托弗·乔恩·斯普里格曼，Murray 和 Kathleen Bring 法学教授，向美国版权局提交了有关人工智能的评论。 “当你这样做时，你真的很紧张，”他说，“因为这是基于周四对技术的理解，你想知道到下周一，一些重要的事情是否会发生变化。”

1 月，在纽约大学关于人工智能在法律实践中的应用的法律论坛上，Latham & Watkins 合伙人 Ghyl34511线路中心th Mahmood '07（该公司人工智能工作组的成员）向观众介绍了一些基础知识。他说，人工智能“基本上是指任何允许计算机模仿人类智能的系统。”

他指出，1999 年首次击败人类国际象棋冠军的版本是所谓的专家系统，这意味着人类专家为其编写了与对手对抗时适用的规则。近二十年后，人工智能开始在围棋游戏中击败顶级人类棋手，围棋的可能结果比国际象棋多得多。为了确定其动作，该人工智能采用机器学习来开发自己的指导规则，以基于对大量数据（在本例中是以前玩过的围棋游戏）的分析为基础的统计模型。

许多学生最关心的是人工智能（尤其是作为生成人工智能核心的大型语言模型 (LLM)）可能在多大程度上接管目前由律师完成的工作。弗洛伦西亚·马洛塔-沃格勒 '01，Boxer Family 法学教授，正在她做了大量学术研究的领域开展一个项目——互联网隐私政策，该项目可能会揭示人工智能对yl34511线路中心实践的影响。在一份题为“法学硕士能否像律师一样阅读隐私政策”的工作论文中，Marotta-Wurgler 和她的前学生 David Stein '22 描述了他们与纽约大学法学院学生一起创建编码数据集来衡量法学硕士分析和解释消费者隐私政策的能力的初步结果。 （斯坦因于 2023-24 年在纽约大学法学院担任研究学者，现在是东北大学yl34511线路中心和计算机科学助理教授。）

Marotta-Wurgler 表示，人工智能可能非常擅长某些任务，例如识别合同是否具有集体诉讼豁免。但她指出，这为律师留下了足够的空间。 “很多yl34511线路中心文本、很多yl34511线路中心实践都存在于灰色地带，没有明确的答案。我认为yl34511线路中心中具有挑战性和有趣的部分存在于这些灰色地带，人工智能应该将其识别为灰色地带，但不一定能够解决，”她说。在三月份的“法学院学生人工智能简介”讨论会上，Stein 告诉与会者，“该机构的毕业生无需担心人工智能会抢走（他们的）工作。”

人工智能对yl34511线路中心实践和yl34511线路中心体系的渗透引发了其他问题。去年，yl34511线路中心赋权和司法独立诊所的学生由临床法教授授课玛格丽特·萨特思韦特 '99，准备了案例研究，说明世界各地法官和律师对人工智能工具的使用如何符合人权要求，使人们有权向有能力、独立和公正的法院提起诉讼。这是否包括由人类法官裁决案件的权利？阿齐兹和安德里亚·麦考利 25 岁研究了这个问题——阿齐兹说，这个问题非常新颖，他们可以寻找类比的少数领域之一就是自主武器。专家们借鉴为机器人制定的道德原则并着眼于国际人道法，表示这些武器应始终受到“有意义的人类控制”。阿齐兹和麦高利研究了在司法环境中应用类似标准是否有意义。萨特思韦特是联合国法官和律师独立性问题特别报告员，她计划将她诊所学生的工作纳入一份关于司法系统人工智能的报告中，该报告将于 2025 年提交给联合国。

法学院人权与全球正义yl34511线路中心(CHRGJ) 在 2023 年通过一系列有关该主题的文章更广泛地探讨了人工智能对人权的影响。在开篇文章中，临床法教授兼 CHRGJ 主席塞萨尔·罗德里格斯-加拉维托评论许多人对这项技术的矛盾心理。他写道，生成式人工智能“可能会增加网上的错误信息和谎言，但它也可能成为合法行使言论自由的强大工具；它可以保护或损害移民和难民的权利，具体取决于它是否被用来监控移民和难民或检测针对他们的虐待模式；它对传统上被边缘化的群体可能有用，但它也增加了对 LGBTQI+ 等社区的歧视风险，这些群体的流动身份不适合人工智能的算法框。”

法学院的其他人正在研究基于人工智能的技术在警务中的日益使用。在即将到来的弗吉尼亚yl34511线路中心评论文章，巴里·弗里德曼、Jacob D. Fuchsberg 法学教授、弗吉尼亚大学法学教授 Danielle Keats Citron 写道，执法机构正在获取美国人的“大量个人数据”，然后使用人工智能衍生工具“生动地描绘出我们是谁、我们做什么、我们去哪里、我们花了什么、我们与谁沟通等等。”弗里德曼和西特伦呼吁停止这种做法，“至少在基本法治要求得到满足之前。”

2023 年加州大学洛杉矶分校yl34511线路中心评论文章，Southerland 研究了各种依赖人工智能的警察监控技术，包括面部识别、枪击检测工具和车牌读取器。萨瑟兰讨论了社区可能用来抵制和废除此类技术使用的yl34511线路中心方法，他写道，这些技术“过多地用于针对经济上处于不利地位的有色人种社区，侵犯隐私，并且往往在保密的面纱下运作。”纽约大学法学院警务项目正在进行一项计划，弗里德曼是该项目的创始主任，该计划正在为警察使用人工智能制定监管结构。

很少有yl34511线路中心领域比版权更受生成式人工智能的直接影响。 ChatGPT、DALL-E、Synthesia 和 Boomy 等系统经过对从互联网上搜索到的大量文本和图像数据集进行训练，可以根据文本提示生成内容（包括报告、诗歌、图像、视频和音乐）。指控数据收集和生成的材料侵犯版权的诉讼引发了一些既新颖又熟悉的问题。 2019哥伦比亚yl34511线路中心评论文章由知识产权法 Walter J. Derenberg 教授合着珍妮·弗洛默和她以前的学生 Mala Chatterjee '18（现为哥伦比亚法学院副教授）预见到了人工智能引起人们关注的一个问题：机器是否具有根据版权法获得权利或承担责任所需的意志心理状态。 （文章认为，也许需要“有意识的精神状态”才能获得权利，但仅仅具有功能性就足以承担责任。）

最近，弗洛默加入了形而上学的顾问委员会，该公司与好莱坞的领军人物和实体合作生产她所谓的“道德深度伪造品”。弗洛默指出，这个角色“涉及对人工智能、版权和公开权的大量思考。”

人工智能是否会对版权的某些基础产生质疑？艾米丽·凯宾法学教授艾米·阿德勒长期以来一直质疑视觉艺术版权保护的必要性，她说，市场上的“真实性规范”已经对原创作品赋予了更高的价值。阿德勒在一份工作论文中写道，关于人工智能生成图像的版权问题的争论“开启了版权法中长期存在的前提，即我们可以在作者身份上将‘人’与‘机器’分开。”阿德勒说，这种区别“体现了一种越来越无关紧要和过时的创造力模式，这种模式自诞生以来就已经过时，现在已经站不住脚了。”在麻省理工学院出版社期刊的特刊中撰写灰色房间《超越版权的艺术》（阿德勒合编），临床法教授杰森·舒尔茨预测生成式人工智能提出的问题——什么是艺术？谁创造了它？——将导致“版权法的严重不稳定。”

斯普里格曼更担心相反的情况。 “我认为版权法破坏人工智能的可能性比人工智能破坏版权法的可能性要大得多，”他说。斯普里格曼认为，如果法院认定使用受版权保护的材料来训练人工智能系统构成侵权，人工智能的发展将受到抑制。在他看来，这种培训属于合理使用，正如他和另外两位法学教授去年在提交给美国版权局的评论中所指出的那样。主要原因是：使用培训内容并不是那种会引发yl34511线路中心保护的“表达性”使用。尽管许多人担心人工智能的快速发展超过了yl34511线路中心规则，但斯普里格曼实际上赞成滞后。 “我不确定yl34511线路中心是否绝对必要，”他说。 “最重要的是，yl34511线路中心在理解某物之前不要毁掉它。”

不乏反乌托邦场景，其中人工智能对人类的生活方式构成了生存威胁。爱德华·洛克，马丁·利普顿法学教授，指出该领域两个最大参与者 Openyl34511线路中心 和 Anthropic 的创始人“与该领域的许多人一样，认为虽然人工智能的潜在好处是巨大的，但人工智能很可能会导致人类灭绝。”两家公司都创建了独特的治理结构，旨在指导安全且造福于人类的人工智能的发展。去年春天，纽约大学法学院公司治理与财务(ICGF)（Rock 是其中的联合主任）与创建这些结构的硅谷律师事务所 Wilson Sonsini Goodrich & Rosati 共同主办了两次会议，讨论这些结构。

Rock 认为人工智能正在限制此类措施的能力。 “如果生成式人工智能灭绝的风险像一些人所说的那么高，那么很难看出任何标准或定制的公司治理结构足以控制这种风险，”罗克说。 “这不是公司治理的目的。”

斯蒂芬·霍姆斯在研究俄罗斯和乌克兰之间的战争时指出了一些具体且令人不安的风险。他说，对自主武器进行“有意义的人类控制”的想法（阿齐兹在研究人类法官的权利时就曾关注过这一点）正在迅速消失。霍姆斯指出，乌克兰人一直在有效地利用无人机，直到俄罗斯人弄清楚如何干扰无人机与其操作员之间的连接。他说，乌克兰人对此做出了回应，给予无人机完全自主权来识别并杀死或摧毁目标。这一前景令福尔摩斯感到担忧，他的学术研究主要集中在地缘政治冲突上。他说，美国是唯一一个承诺始终有人参与核武器部署的国家。 “那么，这对我们有什么帮助呢？”他问道。 “不是很多。”

人工智能对我们政治体系的影响已经被人们感受到。纽约大学法学院选举与政府项目高级主任劳伦斯·诺登 (Lawrence Norden) 回忆道，2020 年，当人们警告人工智能产生的欺骗和虚假信息可能威胁民主时，“这看起来确实像科幻小说中的未来”布伦南司法yl34511线路中心。但他表示，随后推出的生成式人工智能平台，包括那些能够创建深度伪造音频和视频的平台，让他思考，“嘿，也许未来就在这里。”

在 2024 年美国大选之前，Norden 和他的同事与选举官员（包括关键摇摆州亚利桑那州、密歇根州和宾夕法尼亚州）进行了桌面演习，让他们为人工智能威胁做好准备。他们的防御措施清单包括采用网络安全最佳实践和制定快速响应通信计划。

抛开人工智能引发的全球灾难的最坏情况不谈，当基于人工智能的系统在更日常的事故中伤害某人时，会发生什么？在美国yl34511线路中心研究所 (ALI) 2024 年春季通讯中的问答中，马克·盖斯特菲尔德，希拉·卢贝茨基·伯恩鲍姆 (Sheila Lubetsky Birnbaum) 民事诉讼教授指出，许多学者认为“人工智能决策的‘黑匣子’性质似乎使其几乎不可能证明普通疏忽[和]有缺陷的产品设计等问题。”

但盖斯特菲尔德不同意，并指出他为自动驾驶汽车 (AV) 提出的责任制度。他告诉 ALI，如果发生事故，其安全性能可以“在整个系统的基础上进行评估，因为实际上整个车队只有一名驾驶员（操作系统）”。他说，通过查看车队的碰撞统计数据来确定责任“不需要了解特定车辆在特定情况下发生碰撞的原因”。

Sharkey 同样认为，既定的产品责任框架（特别是医疗设备的产品责任框架）可以解决人工智能造成的潜在危害。在 2024 年春季论文中哥伦比亚科学技术yl34511线路中心评论，Sharkey 指出，近几十年来，美国食品和药物管理局 (FDA) 已批准了大约 700 种支持人工智能的医疗设备，其中一些设备可以根据数据输入进行“学习”和适应。 FDA 相应地调整了其监管流程，例如，将其设备监管范围扩大到医疗软件的监管。

重要的是，在 Sharkey 看来，侵权制度增强了 FDA 的上市前审查，允许在产品使用后识别有害产品并分配伤害成本。盖斯特菲尔德同样主张制定自动驾驶汽车监管计划，将机构监督与侵权制度责任结合起来。

正如许多人想知道是否有可能通过监管来管理人工智能的风险一样，斯特兰德堡有着长远的眼光。她指出，在引入电话和互联网之后，政策制定者采取了措施来解决这些技术引起的担忧，而现在，通过社交媒体，他们至少正在探索这样做。她说，这是一个积极的进展，关于人工智能监管的讨论已经开始。

“当事情非常新时，很难知道如何进行监管，”斯特兰德伯格承认。 “但我认为，我们不能完美地做到这一点并不意味着我们不应该这样做。我们必须尝试。”

校友观点

诺亚·怀斯伯格 '06

Zuva 联合创始人兼首席执行官，其人工智能平台帮助客户提取和使用合同中的信息；的合著者律师人工智能

“如果你想想现在的法律市场，你会发现它的特点实际上是稀缺。美国有一百万律师，但大多数人都没有得到代表，特别是穷人，所以你有机会诉诸司法危机。即使在中高端，我认为现在也有大量的法律工作[没有完成]，因为这不是一个用现行制度解决的经济问题。所以我我认为 [yl34511线路中心] 可以解决很多以前无法解决的问题。”

亚历克斯·埃利亚斯 '12

Qloo 联合创始人兼首席执行官，该公司使用人工智能驱动的平台向企业提供消费者口味数据和建议

“以与计算机相同的方式来思考人工智能从根本上来说是有缺陷的。前者更具概率性，而后者是确定性机器。向计算机提供 100 次输入总是会产生相同的结果。对人工智能做同样的事情可能会产生无数不同的输出。这就是人工智能如此有用的原因，但也是为什么它更难以监管。人工智能模型总是有一定程度的难以解释性 - 试图完全控制‘黑匣子’内发生的事情是徒劳的，监管机构应该关注‘黑匣子’内的内容以及输出的使用方式。”

ESOSA 奥洪巴 '23

Layman Ltd. 的创始人兼人工智能yl34511线路中心顾问，该公司利用人工智能帮助用户在民事法庭上代表自己

“我认为人工智能将取代律师的说法是错误的。相反，人工智能要求我们对yl34511线路中心的未来以及我们想要如何塑造yl34511线路中心进行更深入的思考。然而，权力越大，责任就越大：人工智能的自动决策会影响现实生活。如果我们不保持警惕，现有的偏见和成见将扭曲人工智能对yl34511线路中心的贡献，从而加深而不是打破分歧。问责的责任现在由我们共同承担所有这些，我们都有责任确保人工智能改善而不是破坏yl34511线路中心体系。”

詹妮弗·贝伦特 '00

Covenant Law 的首席执行官，其人工智能工具为投资者进行文件审查

“技术始终是一把双刃剑。一方面，文字处理程序使yl34511线路中心工作变得更加容易 - 起草和编辑文档所花费的时间比必须手写标记然后由秘书人员打字的时间少得多。另一方面，消除这些障碍使得修改文档、评论或编辑变得更加容易，而以前这是不值得的。我想知道这是否真的在某种程度上，复杂性不但没有降低，反而增加了——这使得谈判时间更长、压力更大，因为律师利用这项技术不是为了简化事情，而是为了争论细节。我对人工智能的一个担心是，如果应用不当，它可能会使这个问题变得更加复杂！”

Michael Orey 是纽约大学法学院公共事务总监。校友采访由助理院长兼首席通讯官 Shona Keogan 和前公共事务官 Emily Rosenthal 进行。

发布于 2024 年 9 月 10 日