埃隆·马斯克让卡玛拉·哈里斯的深度假广告走红，引发了一场关于模仿和言论自由的辩论

　　

　　

　　在2024年大选前夕，关于如何对待被操纵的媒体(通常被称为“深度造假”)的争论不断升级，卡玛拉·哈里斯(Kamala Harris)的假竞选广告使用了她的假声音，这成为了争论的导火索。

　　埃隆·马斯克(Elon Musk)在一篇帖子中转发了哈里斯的假音频，播放次数超过1.5亿次，其中包括对多样性、乔·拜登(Joe Biden)总统和边境政策的嘲讽，以及哈里斯真实露面的剪辑片段。

　　但对哈里斯的深度造假的反应有分歧，一些人说这是一种危险的被操纵媒体的例子，需要严格监管，另一些人说这是一个明显的恶搞例子，因此应该得到不同的对待。

　　“这是迄今为止传播的最著名的政治深度造假之一，它涉及一位主要的总统候选人，误导性的合成音频被该平台的所有者转发，”非营利消费者权益组织Public Citizen的联合总裁丽莎·吉尔伯特(Lisa Gilbert)告诉NBC新闻。“风险真的很高。”

　　哈里斯竞选团队的一名代表向NBC新闻证实，这段音频是假的，视频也不是真正的竞选广告。

　　“我们相信，美国人民想要副总统哈里斯所提供的真正的自由、机会和安全;而不是埃隆·马斯克和唐纳德·特朗普虚假的、被操纵的谎言，”这位竞选代表在一份声明中说。

　　其他深度伪造的视频和图像，其中许多是用生成式人工智能工具创建的，目标是纽约州民主党众议员亚历山大·奥卡西奥-科尔特斯(Alexandria Ocasio-Cortez)等政界人士。使用虚假的性暗示图片和色情视频，或者使用他们的肖像，包括前总统唐纳德·特朗普的肖像，来制作诈骗广告。

　　人工智能生成的图片也描绘了特朗普从警察那里逃跑并被逮捕的画面，并与有关他被捕的头条新闻一起使用。

　　但除了这些欺骗之外，其他深度造假似乎是，或被诬陷为，讽刺的政治表达，导致了不同的反应。

　　在拜登向全国发表演讲，讨论他不竞选连任的决定之前，一段描述他咒骂和侮辱同性恋者的深度假视频被发布在X上，该视频的观看量仍超过2000万，没有明确的标签表明它是假的。该视频包含PBS新闻标志和创作者水印。

　　美国公共广播公司发布了一份声明，驳斥了拜登的深度造假，写道:“我们不会容忍以任何可能误导观众的方式篡改新闻视频或音频。”

　　尽管拜登deepfake视频上没有标签，但许多回复表示，这显然是假的，并质疑是否需要标注它是人工智能生成的。

　　包括X在内的许多社交媒体平台都有禁止分享合成和操纵媒体以试图误导受众的政策。X上一些包含深度造假的帖子被该平台贴上了这样的标签，即使发帖者没有澄清这些帖子是被操纵的。

　　X也允许恶搞账户，只要他们“在账户名和个人介绍中区分自己”。该平台对构成恶搞的个别帖子没有具体规定。其他主要的社交媒体平台，比如Facebook和Instagram的母公司meta，有一项被操纵的媒体政策，不适用于讽刺和恶搞。在其操纵的媒体政策中，X不区分恶搞或非恶搞的帖子。

　　深度造假在很大程度上受到了关注和批评，因为它本质上具有误导性，而且经常被用来性骚扰或其他方面的骚扰。音频深度伪造被用来误导潜在选民，最引人注目的是，新罕布什尔州的一个自动电话使用深度伪造的拜登声音，告诉已登记的民主党人不要在州初选中投票。这通电话背后的政治顾问将面临刑事指控和600万美元的罚款。

　　哈里斯的假广告也引发了类似的抗议和批评，但视频的内容和背景与拜登的自动电话非常不同。

　　加州州长加文·纽森回应了马斯克分享视频的帖子，他说:“在这样的‘广告’中操纵声音应该是非法的”，并补充说，他计划签署一项州法案，禁止这种行为。据Public Citizen的追踪者称，多达18个州已经通过了关于选举中人工智能深度造假的规定，6个州正在等待立法。明尼苏达州民主党参议员艾米·克洛布查尔(Amy Klobuchar)也提出了联邦立法。密苏里州共和党参议员乔希·霍利(Josh Hawley)。

　　现有的各州关于人工智能深度造假影响选举的立法各不相同，德克萨斯州等一些州将其定为刑事犯罪，而犹他州等其他州则将其定为民事处罚。一些法律允许人工智能深度伪造选举材料，只要它们有明确的标签。有些法律对模仿有明确的例外规定，有些法律只适用于官方竞选或政治行动委员会的材料，有些法律只适用于选举后30天内。

　　在公开反对马斯克的帖子后，克洛布查尔表示，她正在参议院重新尝试推动联邦立法，类似地禁止“对联邦候选人进行欺骗性深度伪造”，并“要求对人工智能生成的政治广告做出免责声明”。

　　在对纽森的回应中，马斯克写道，“模仿在美国是合法的。”

　　X和马斯克都没有回应单独的置评请求。

　　言论自由和公民自由专家在接受NBC新闻采访时表示，该视频应被视为受保护的言论。

　　“这显然是讽刺或恶搞，”个人权利与表达基金会(Foundation for Individual Rights and expression)的公共倡导主任亚伦·特尔(Aaron Terr)说。“幽默、嘲讽和夸张长期以来一直是我们政治和文化中批评权力者和突出荒谬的有效工具，《第一修正案》承认这一点。”

　　哈里斯的假音频最初是由一位保守派内容创作者制作并发布在YouTube上的，并附上了“经过大量编辑或数字生成”的描述。制作这段视频的youtube用户也在X上明显地将其标记为恶搞，但马斯克的帖子没有任何迹象表明这段视频被篡改了。

　　网络安全研究实验室CTM Insights创始人卢?斯坦伯格表示:“问题在于，它是否违反了X自己的政策。”“对一些人来说，这些规定太软了。”

　　公众公民呼吁马斯克删除哈里斯的假音频，并请求联邦选举委员会对选举广告中生成人工智能深度造假的使用进行监管，但联邦选举委员会尚未就此做出决定。

　　电子前沿基金会(Electronic Frontier Foundation)的公民自由主任和高级律师大卫·格林(David Greene)表示，禁止传播欺骗性媒体的法律将“存在宪法问题”。

　　“你不愿意同意埃隆·马斯克的观点，但模仿是受保护的言论，”他说，并将这段视频与过去一周在网上传播的关于特朗普副总统候选人参议员JD万斯的骗局进行了比较。尽管音频深度造假越来越复杂，很容易欺骗听众，但格林说:“保护评论和模仿仍然很重要。”

　　他补充说:“仅仅因为存在第一修正案的障碍，并不意味着其他工具不可用，比如大声疾呼。”

　　除了使用假音频，马斯克分享的视频还利用了保守派关于哈里斯和民主党人的谈话要点，比如称她是有色人种女性，是“多元化雇员”，以及宣扬她是“深层政府傀儡”的阴谋论。

　　民主与技术中心(Center for Democracy and Technology)的研究主任达纳拉杰·塔库尔(Dhanaraj Thakur)说，他将把这段视频归类为虚假信息，“因为其中有欺骗的意图”。

　　“它融合了厌女症和种族主义的元素，”他说。“这与研究人员经常观察到的女性候选人在网上受到的待遇如出一辙。”

　　塔库尔在2022年撰写了一篇研究论文，该论文基于对2020年大选期间推文的分析，发现与其他候选人相比，美国有色人种女性政治候选人遭受的网络虐待、错误信息和虚假信息最为严重。

　　在过去的两周里，马斯克转而全力支持特朗普，反对哈里斯，利用他作为X公司首席执行官和该平台上粉丝最多的人的地位，推动有关2024年大选的煽动性言论。

　　吉尔伯特说:“如果这种帖子继续下去，他个人可能会对选举产生重大而严重的影响。”

　　虽然马斯克是X上最引人注目的人，但斯坦伯格指出，美国法律管辖范围之外的外国实体也能够在该平台上发布虚假信息和深度造假。

　　斯坦伯格说:“有很多人对制造偏见或制造混乱非常感兴趣。”“虽然这则广告可能是半开玩笑的，但我们正处于可能是我们第一次有大量人工智能生成的虚假信息的选举的开始。”