加州最新出台的法律可能会让发布或转发AI深度伪造视频的社交媒体用户陷入法律麻烦。

周四，加州州长加文·纽瑟姆表示，他于周二签署后立即生效的AB 2839 法案可能被用来控制埃隆·马斯克等人传播欺骗性内容。

纽瑟姆在推文中表示：“我刚刚签署了一项法案，将这种行为在加利福尼亚州定为非法。”他指的是马斯克今年早些时候转发的一段人工智能深度伪造视频，该视频让卡马拉·哈里斯看起来称自己为不称职的候选人，并称自己是多元化雇员（但事实并非如此）。

纽瑟姆在后来的推文中表示：“你不能再故意分发包含重大欺骗内容（包括深度伪造）的广告或其他选举信息。”

加州的新法律针对的是人工智能深度伪造作品的传播者，特别是明知内容是虚假的而有意传播的人。AB 2839的独特之处在于它不追究人工智能深度伪造作品的创造者或其出现的平台，而是追究那些恶意传播这些作品的人。任何在社交媒体上看到人工智能深度伪造作品的人现在都可以申请禁令，这意味着法官可以命令发帖人将其删除，或对发布者处以金钱赔偿。

这是2024年总统大选前美国出台的针对选举相关AI深度伪造的最严厉法律之一。

参与起草AB 2839法案的发起人——加州科技与民主倡议组织 (CITED) 表示，这项法律可能会影响任何社交媒体用户——不仅仅是马斯克——他们发布或转发带有恶意的与选举相关的人工智能深度伪造视频。“恶意”意味着发布者知道这是假的，会混淆选民。

“如果内容符合法案条款，AB 2839将追究内容创作者或传播者的责任，”CITED政策主管Leora Gershenzon表示：“这是实质上的欺骗性内容，明知是虚假内容却肆无忌惮地传播，很可能会影响选举。”

当被问及马斯克是否会因转发深度伪造视频而面临法律诉讼时，纽瑟姆并没有排除这种可能性。

“我认为马斯克先生错过了笑点，”纽瑟姆在周四的新闻发布会上表示：“恶搞在加州仍然盛行，但深度伪造和操纵选举——这伤害了民主。”

具体而言，新法律禁止在电视、广播、电话、短信或任何“通过互联网传播”的通信中发布与选举相关的人工智能深度伪造内容。该法案不仅限于其他法律所关注的政治竞选广告，还包括普通民众的帖子。AB 2839有一个限制窗口期——加州选举前120天和选举后60天——在此期间，对社交媒体上可以发布和不可以发布关于政治候选人的内容有更严格的规定。

“真正的目标其实既不是赔偿，也不是禁令救济，”Gershenzon说：“只是让人们从一开始就不这样做。这实际上是最好的结果……只是让这些深度伪造不会欺诈性地影响我们的选举。”

这项法律适用于加州和地方选举的候选人，以及将出现在加州选票上的联邦候选人，例如卡马拉·哈里斯和唐纳德·特朗普。如果人工智能深度伪造作品上有明显的免责声明，说明它已被数字修改，那么AB 2839就不适用。

马斯克已经在尝试测试执行加州这一新法。周二，马斯克转发了纽森在推文中提到的模仿卡马拉·哈里斯的深度伪造视频，在X上获得了超过 3100 万次展示。周三，马斯克还转发了模仿州长纽森的人工智能深度伪造视频，获得了超过700万次展示。

主编精选，篇篇重磅，请点击订阅“邮件订阅”