人工智能创建的竞选广告加剧了美国对合成媒体的选举斗争

德克萨斯竞选活动测试引用与制造之间的界限

德克萨斯共和党参议院候选人肯·帕克顿(Ken Paxton)发布了使用人工智能创建的民主候选人詹姆斯·塔拉里科(James Talarico)的竞选广告,9月9日报道。 合成描述提供与Talarico相关的陈述,有时没有原始背景。 该广告是从竞选创新转向现实候选人在2026年中期竞赛期间的创造性人工智能的新具体例子。

即时问题不仅仅是观众是否相信模仿。 合成视频可能会在被识别后削弱信任,因为观众必须决定哪些部分是真实的、编辑的或完全产生的。 这种不确定性给了竞选活动一个工具,将对手的面孔和声音附上一个消息,同时保留可靠的声明,即基本的词语或主题是真实的。

规则很大程度上取决于选民居住的地方

Axios此前发现,各州对选举深缺采取了不平等的态度。 有些需要披露或限制在选举附近欺骗性合成媒体,而其他州则没有相似的基线。 法院的挑战也停止了某些国家法律,以言论自由为理由。 结果是视觉上类似的广告可能因管辖范围和分发时间而面临不同的法律待遇。

联邦政府没有为人工智能产生的政治广告设立全面的选举特定的披露标准。 六月白宫执行命令应对先进的人工智能创新、网络安全和国家安全风险,承认强大的系统引入新的安全考虑。 然而,它并没有提供一个统一的规则,要求政治竞选活动标记合成候选人描述。

信息风险超越一个误导性的片段

政治广告始终依赖于选择性编辑和情感框架。 生成人工智能降低了创造从未发生的可靠场景的成本,并使高容量生产更容易。 它还创造了研究人员称之为可靠性问题,反之亦然:当公众知道制造的说服力是广泛可用的时,真实的证据可以被视为人工。

接下来的进展包括平台标签、志愿竞选标准、根据现有国家法律的争议以及国会重新企图制定国家基础。 确认的事件是帕克顿在当前竞选广告中使用合成Talarico。 关于其可能的选举影响的声明仍然是分析,没有确定的事实。