上周五晚间，埃隆·马斯克在X上转发了一则关于美国副总统卡马拉·哈里斯的深度伪造视频，此举可能违反X平台对合成和操纵媒体的政策。随后，马斯克再次转发该视频并称咨询过专家这是合法的。

该视频最初由X用户@MrReaganUSA 发布，他称该视频是对哈里斯首个竞选广告的“模仿”。

该视频片段似乎经过了数字修改，并且添加了听起来像哈里斯的画外音。

在视频中，经过编辑的画外音说道：“我之所以被选中，是因为我是多元化人才的终极体现。我既是女性，又是有色人种，所以如果你批评我说的任何话，你就是性别歧视者和种族主义者。”

这个画外音还称拜登老糊涂了，并说哈里斯和拜登是“深层政府”的傀儡。

在转发这段视频时，马斯克并未指出视频经过了剪辑，只是写道：“这太棒了”。目前，该视频的观看次数已超过1.28亿次。

有网友指出，这一视频可能违反了X关于合成和操纵媒体的政策，该政策规定：“您不得分享可能欺骗或混淆他人并导致伤害的合成、操纵或断章取义的素材（“误导性媒体”）。”

X表示，公司要想采取行动并删除或标记违反该政策的帖子，必须“包含经过重大和欺骗性更改的素材”、“以欺骗性方式或虚假内容分享的素材”，或可能引起“对公共问题的广泛混淆的素材”。

该公司表示，它将考虑多种因素，包括“是否有任何视觉或听觉信息（例如新的视频帧、配音音频或修改后的字幕）被添加、编辑或删除，从而从根本上改变素材的理解、含义或背景”。

两位专门研究人工智能生成媒体的专家这段视频中的音频部分，并证实其中大部分内容是使用人工智能技术生成的。

其中一位，加州大学伯克利分校的数字取证专家哈尼·法里德表示，该视频展示了生成式人工智能和深度伪造的威力。

“人工智能生成的声音非常好，”他说道：“尽管大多数人不会相信这是副总统哈里斯的声音，但当视频中的文字以她的声音表达时，其震撼力会更强。”

他说，向公众提供语音克隆工具和其他人工智能工具的生成人工智能公司应该做得更好，以确保他们的服务不会被以伤害人民或民主的方式使用。

公民权利倡导组织联合主席罗伯·魏斯曼不同意法里德的观点，他说，他认为很多人会被这段视频愚弄。

“我不认为这显然是个玩笑，”韦斯曼在接受采访时说：“我敢肯定，大多数人看到它时都不会认为这是个玩笑。质量不是很好，但已经足够好了。而且正是因为它符合围绕她流传的既有主题，大多数人才会相信这是真的。”

韦斯曼的组织一直倡导国会、联邦机构和各州对生成性人工智能进行监管，他表示这段视频是“我们一直警告的那种东西”。

值得注意的是，马斯克此举也引起了加州州长、民主党人加文·纽瑟姆的不满。他发贴称：“像在这样的所谓‘竞选广告’中做声音造假应该是非法的。我将在几周内签署一项法案，以确保这一点。”

马斯克迅速回应了加文·纽瑟姆，将@MrReaganUSA的原贴带视频又转发了一次，并且称：“我向世界著名权威人士Suggon Deeznutz教授核实，他说在美国‘戏仿’是合法的。”

所谓“戏仿”又称谐仿或谐拟，是在自己的作品中对其他作品进行借用，以达到调侃、嘲讽、游戏甚至致敬的目的，属二次创作的一种。

所谓Deepfakes（深度造假），是指使用人工智能将视频或音频片段中一个人的肖像或声音替换为另一个人的肖像或声音。

研究发现，音频深度造假相对容易制作，但很难被检测。

此前，许多政客和明星已成为该技术的受害者，显示了该技术在选举期间造成严重破坏的可能性。

去年，社交媒体上流传着一段视频，希拉里·克林顿似乎出人意料地支持佛罗里达州州长罗恩·德桑蒂斯。然而，据媒体报道，这段视频是由人工智能生成的。

拜登宣布退出2024年总统大选后，也成为了深度造假视频的受害者。

社交媒体上的一段视频显示，拜登痛斥批评者并咒骂他们。但据媒体报道，这段视频也是深度造假产生的。

主编精选，篇篇重磅，请点击订阅“邮件订阅”