最新消息显示，对在数百万美国人就业、住房和医疗决策中发挥隐性作用的人工智能进行监管，正面临来自各方的压力。

近日，科罗拉多州七项旨在防止人工智能在做出重大决策时出现歧视倾向的法案中，只有一项获得通过。这些重大决策包括谁被雇佣、住房或医疗保健费用等等。科罗拉多州州长贾里德·波利斯上周五签署了这项法案。

科罗拉多州的法案以及华盛顿、康涅狄格州等地的类似法案面临着来自多方面的反对，包括民权组织和科技行业。立法者对这一尚不太了解的技术持谨慎态度，州长们也担心这类法案会吓坏人工智能初创公司。

贾里德·波利斯“有保留地”签署了上述法案，并在一份声明中表示，他对抑制人工智能创新的法规持谨慎态度。该法案有两年的期限，在成为法律之前可以进行修改。

波利斯写道：“我鼓励（立法者）在其生效之前对此进行重大改进。”

科罗拉多州的七项提案非常复杂，但大体上是要求公司评估人工智能可能造成歧视的风险，并在使用人工智能帮助他们做出重大决策时告知客户。

这些法案与今年已进行辩论的400多项人工智能相关法案不太相同。400多项法案大多是针对人工智能的某些功能，例如在选举中使用深度造假或制作色情内容。

这七项法案的适用面更广，涉及主要行业，并针对“歧视”这一最难处理的问题。

美国国务院人工智能特使、曾领导Twitter人工智能道德团队的鲁曼·乔杜里表示：“我们实际上无法了解AI所使用的算法，无论AI是否有效，或者人类是否受到歧视。”

虽然反歧视法已经出台，但研究人工智能歧视的人表示，这是一个完全不同的问题，美国在监管方面已经落后了。

“计算机正在大规模地做出带有偏见的决定，”曾参与过针对波音和泰森食品等公司歧视行为集体诉讼的民权律师克里斯汀·韦伯说道。目前，韦伯正在进行美国首例针对人工智能歧视行为的集体诉讼和解协议。

“我应该说，旧的人工也不是完全没有偏见，”韦伯说：但“任何一个人一天只能看数量有限的简历。因此，一个人一天之内做出有偏见的决定毕竟数量有限，而计算机可以快速完成大量或许存在偏见的决定。”

当人们申请工作、公寓或住房贷款时，人工智能很有可能会评估接收到的申请，将其发送至队列、为其评分或将其筛选掉。根据美国平等就业机会委员会的数据，估计多达83%的雇主使用AI算法来辅助招聘。

但是，人工智能本身并不知道要在求职申请中寻找什么东西，它是根据过去的简历来进行训练的，而用于训练算法的历史数据可能会存在偏差。

例如，亚马逊开发了一种招聘算法，该算法基于过去简历进行训练：大部分求职者为男性。在评估新求职者时，它会降低带有“女性”字样的评级，因为这些简历没有出现在历史数据（即亚马逊学习过的简历）中。不过，该项目最终被搁置。

韦伯的集体诉讼称，对租赁申请进行评分的人工智能系统不成比例地为黑人或西班牙裔申请人打了较低的分数。一项研究发现，为评估医疗需求而构建的人工智能系统也忽略了黑人患者的特殊护理需求。

研究和诉讼让人们得以一窥人工智能系统的本质，但大多数算法在哪些领域进行应用仍处于未知状态。皮尤研究中心的民意调查显示，美国人大多不知道这些工具正在被使用，公司通常也不需要明确披露使用了人工智能。

“让我们能够看到谁在真正进行评估以及正在使用什么工具，这就是巨大的第一步，”韦伯说。 “如果我们无法获得一些基本信息，现有法律就不起作用。”

这就是科罗拉多州的法案以及加利福尼亚州另一项尚在讨论的法案的目的。

科罗拉多州的法案将要求使用人工智能帮助美国人做出重大决策的公司，每年评估他们的人工智能是否存在偏见；在公司内部实施监督计划；如果发现歧视，要告知州检察长；并在使用人工智能帮助他们做出决定时告知客户。

工会和学者担心，依赖公司自我监督意味着很难在人工智能系统造成损害之前主动解决歧视问题。公司则担心，在这个竞争异常激烈的新领域，强制提高透明度可能会泄露商业秘密，也可能造成潜在的诉讼风险。

虽然较大的人工智能公司或多或少地接受了这些提议，但科罗拉多州一些较小的人工智能公司表示，这些要求可能应该由大型人工智能公司来实现，但不能让新兴初创公司来完成。

Thumper.ai创始人Logan Cerkovnik在谈到人工智能领域时表示：“我们正处于一个全新的原始时代。在人工智能形成的过程中，如果制定过于严格的立法，迫使我们做出定义，并限制我们对技术的使用，那么这对创新来说将是有害的。”

主编精选，篇篇重磅，请点击订阅“邮件订阅”