虽然人工智能热潮在全球如火如荼，但却引发了法律界人士的焦虑。最新消息显示，美国全国各州都在争先恐后地推动立法，以遏制由AI产生的“深度伪造色情内容”激增。

近日，美国有800多名专家、名人、政治家和活动家签署了一封公开信， 要求对“对社会构成巨大威胁”的深度造假AI技术采取立法行动，立法者们压力不小。

另据软件行业组织BSA称，目前美国有40个州正在考虑推进407项与人工智能相关法案，其中近一半涉及“深度造假”问题。光是今年1月，全国就有50项新的相关法案被提起辩论。

其中，纽约遥遥领先，目前正在审议65项相关法案。紧随其后的是加州，有29项法案正在进行辩论。不过，阿拉巴马州和怀俄明州尚未考虑任何新的人工智能相关立法。

BSA负责政府关系的副总裁Craig Albright表示：“个人就可以操作的生成式人工智能工具爆炸式增长，使人工智能问题成为政府关注焦点。各州正试图加大对滥用人工智能的处罚力度。这些滥用包括制作和传播深度伪造色情内容，以及虚假的政治视频。”

针对“深度造假”的AI相关法案最有可能被通过。根据Axios的分析，去年提出的37项针对“深度造假”的具体法案，目前已有6项获得通过。

“深度造假”的色情内容是指用人工智能将色情图像或视频中的人物换上真人的头像，让人真假难辨。

加州大学伯克利分校人工智能研究员Andrew Critch表示，上述这封由专家和名人提出的公开信呼吁全面禁止“深度造假”技术，并称“深度造假”内容的扩散“对人类社会构成了巨大威胁，并且已经对个人和社区造成了越来越大的伤害” 。

随着人工智能技术的快速发展，近一年来，明星当“主角”的“深度造假”色情内容快速增加了一倍多。2022年至2023年间，虚假色情内容的数量增加了400%以上。

“霉霉”泰勒·斯威夫特的换头色情图片上个月在社交媒体上疯传，人们呼吁采取更严格的监管措施。其他的受害者包括明星娜塔莉·波特曼、艾玛·沃特森和斯嘉丽·约翰逊。

去年，新泽西州一名男生将其30多名女同学的图像通过人工智能生成色情内容，并在网上传播。

研究人员表示，“没有人是安全的”。

加利福尼亚州、马萨诸塞州、纽约州、新泽西州和华盛顿州正在考虑进行评估，以了解和限制某些类型人工智能的风险。

康涅狄格州在一月份通过了一项法案 ，要求对该州对人工智能的使用进行持续评估。

同样，德克萨斯州成立了人工智能咨询委员会，负责研究和监控该州机构开发、使用或采购的人工智能系统。

北达科他州和西弗吉尼亚州也设立了类似的委员会。

田纳西州的《确保相似语音和图像安全 (ELVIS) 法案》于1月份由该州众议院银行和消费者事务小组委员会一致投票通过。该法案可防止未经艺术家许可，在非他们创作的歌曲中使用他们的声音。

其他州已经制定了立法，禁止克隆名人的声音并在未经名人许可的情况下为产品做广告等行为。

同时，2024年的美国总统选举已经因“深度造假”和虚假政治宣传等问题饱受批评。

本月早些时候，几家主要科技公司签署了一项协议，采取“合理的预防措施”，防止人工智能工具被用来扰乱世界各地的民主选举。Adobe、亚马逊、谷歌、IBM、Meta、微软、OpenAI和TikTok的高管表示要采取预防措施。

然而，该协议在很大程度上是象征性的，并不承诺删除或禁止平台上的“深度造假”内容。

主编精选，篇篇重磅，请点击订阅“邮件订阅”