记者 | 安晶
编辑｜刘海川
2023年6月，支持美国共和党新星、佛罗里达州州长罗恩·德桑蒂斯的团队在X平台发布了一段与前总统唐纳德·特朗普有关的视频。当时德桑蒂斯刚宣布参加2024年美国大选，是特朗普在共和党内的最大竞争对手。
这段视频混剪了特朗普在参加真人秀时期的“你被炒了”片段，与特朗普任总统时对美国国家过敏症和传染病研究所所长安东尼·福奇的态度做对比。
新冠疫情刚开始时，福奇是白宫高级卫生顾问，他也成为反疫苗运动和右翼保守派的攻击对象。虽然与福奇不和，但特朗普多次接受媒体采访时均表示不会解雇福奇。
德桑蒂斯的团队在视频中使用了特朗普接受采访时的音频配以福奇的照片。视频中有一帧是特朗普与福奇的合影锦集，锦集中有三张照片显示特朗普拥抱福奇、亲吻福奇的额头，意图说明特朗普与保守派厌恶的福奇关系密切。
但法国媒体随后发现，特朗普与福奇拥抱的三张照片均为AI生成的假照片。类似的事情也出现在欧洲的选举中。
去年9月底，斯洛伐克举行国民议会选举。在投票开始前，Facebook上流出一段音频，音频中听上去是进步斯洛伐克党主席米哈尔·希梅奇卡的男子与一家主流报社的工作人员讨论如何用钱来买选票。
音频发布的时间正好是在投票前的48小时噤声期内，政客不得再就选举发声。在最终投票中，希梅奇卡所在的进步斯洛伐克党输给了左翼政党方向党。方向党反对向乌克兰提供军事援助，进步斯洛伐克党则是亲欧盟的自由派政党。
事后，Facebook上流出的音频被认定有AI生成的痕迹。而Facebook主要禁止发布深度伪造视频，并没有对音频做出相应要求。深度伪造是指利用深度学习算法来制作音频、视频、图像，呈现相关人员从未说过和做过的事，或者创造从未存在过的人。
2024年是大选之年，全球50多个国家将举行选举，参选人用AI深度伪造内容攻击政治对手、利益团体用伪造内容左右选民投票、信息真假难辨影响选民对选举的信任度成为各国的新担忧。
在AI立法上走在全球前列的欧盟再次出手，准备赶在6月的欧洲议会选举前对深度伪造进行管控。
当地时间3月14日，欧盟委员会正式向Bing、Google、Facebook、TikTok,、YouTube、X等8家平台发出通知，要求各平台说明其采取了哪些措施以降低与生成式AI有关的风险 。相关风险包括AI“幻觉”也就是AI制造虚假信息、深度伪造的病毒式传播以及能误导选民的自动化处理。
针对生成式AI对选举进程、传播非法信息、保护个人数据、保护未成年人等领域的影响，欧盟委员会还要求各平台提供内部资料，资料内容包括风险评估和应对措施。
委员会要求各平台在4月5日结束前提交与保护选举有关的资料，其余资料提交截止日为4月26日，不按时做出回应的平台可能遭到欧盟委员会罚款。
欧盟委员会此次发出的通知是基于已经生效的《数字服务法》。该法案涉及对数字平台的监管，并非专门针对AI。本周三，欧洲议会正式投票批准了欧盟的《人工智能法案》，该法案也是全球首部AI法。
欧盟的AI法案中有专门针对深度伪造的监管。法案第52条规定，如果AI系统生成或处理的图像、音频、视频内容构成深度伪造，则系统开发方应披露相关内容为AI生成或处理。只有在相关AI应用与调查刑事犯罪有关或者进行文艺创作时，开发方才无需严格披露。
该法条还对AI文本生成做出了规定。如果AI系统生成或处理的文本是为了让公众知晓与公共利益有关的信息，则开发方应披露相关文本为AI生成或处理。但如果AI生成的相关文本经过人类检查或编辑，并且有自然人或法人对内容发布承担编辑责任，则无需披露文本为AI生成。
虽然对深度伪造进行了约束，但欧盟的首部AI法案还在进行最后的法律术语检查，只有在欧盟官方公报上公布后20天才能正式生效。法案执行的时间则根据内容各有不同，部分内容为生效6个月后执行，部分为12个月。这也意味着，今年的欧洲议会选举前，欧盟的AI法将无法发挥作用。
在总统大选已经拉开帷幕的美国，今年以来AI深度伪造已多次搅局：新罕布什尔州初选前，AI伪造的约瑟夫·拜登音频通过电话呼吁选民不要参加初选投票，把选票留到11月的最终对决；AI伪造的照片显示特朗普曾搭乘杰弗里·爱泼斯坦的飞机前往“萝莉岛”，爱泼斯坦被控组织未成年少女从事性交易。
“萝莉岛”照片事件后，特朗普愤怒发声，警告AI将在未来成为一个大危险，呼吁制定“强有力的法律”监管AI。
但在美国联邦层面，距离出台全国实施的AI法还非常遥远。今年2月，也就是美国大选初选已经开始后，美国众议院才宣布成立跨党派工作组研究针对AI的立法。
对于大选中已经出现的深度伪造问题，目前美国的处理办法是由联邦通信委员会依照具体情况颁禁令。上月，美国联邦通信委员会宣布禁止用AI生成的声音拨打自动语音电话，明确该行为违反1991年的《电话消费者保护法》。
美国消费者权益组织Public Citizen去年向联邦通信委员会发起申诉，要求委员会修改规章，明确故意使用AI生成内容歪曲竞选候选人或政党立场的行为是违法行为。联邦通信委员会接收了申诉，但还没有做出决定。
相比联邦机构，美国各州对在州范围内制定AI法更为积极。
Public Citizen统计显示目前美国有43个州提出了70项法案限制AI在选举中的使用，这70项法案中有7项已生效。在密歇根州，去年11月生效的法案禁止个人在选举前90天内发布破坏候选人名誉、扭曲候选人立场、试图影响选民行为的AI生成深度伪造内容。
但这70项法案中有至少30项是今年才提出，从州议会讨论到正式投票还需经过漫长的过程。深度伪造在今年的美国大选已无法避免，未知数仅在于这些伪造内容将对选民产生多大影响。