华盛顿——计算机工程师和用户中政治科学家们多年来一直警告称,便宜,强大的人工智能工具将很快允许任何人创建假的图像、视频和音频是现实足以欺骗选民和可能影响选举。
没有更多的。
现在可以创建复杂的生成人工智能工具克隆人类的声音和超逼真图像、视频和音频在几秒钟内,成本相对较低。当绑在强大的社交媒体算法,这种假和数字内容可以蔓延和快速创建和目标高度特定的观众,可能采取行动肮脏伎俩新低。
2024年运动和选举的意义都是一样大麻烦:生成AI不仅可以迅速产生定向运动电子邮件、文本或视频,也可以用来误导选民,冒充候选人和破坏选举规模和速度没有见过。
“我们不准备这个,”警告A.J.纳什,副总裁ZeroFox智能网络安全公司。“对我来说,最大的飞跃是音频和视频功能,已经出现。当你可以做大规模,并分发它在社交平台上,好了,它会产生重大影响。”
人工智能专家可以很快飞快说出一些惊人的场景生成人工智能用于创建合成媒体为了迷惑选民,诽谤一个候选人,甚至煽动暴力。
这里有几个:自动电话消息,在候选人的声音,指示选民投票在错误的日期;录音的候选人应该承认犯罪或表达种族主义的观点;视频演讲或人面试他们从不给。假的图像设计看起来像当地新闻报道,他谎称候选人退出了比赛。
“如果Elon Musk亲自打电话给你,告诉你投票支持某一候选人?”Oren Etzioni说,人工智能研究所的首席执行官艾伦成立,去年辞职非营利AI2开始。“很多人会听。但这不是他。”
前总统唐纳德·特朗普,谁是运行在2024年与他的追随者在社交媒体分享AI-generated内容。CNN主持人安德森·库珀,特朗普的操纵视频在周五他的真实社交平台共享,这扭曲的库珀的反应CNN市政厅在过去的一周与特朗普使用一个AI voice-cloning工具创建的。
上个月公布的一项反乌托邦竞选广告共和党全国委员会提供了另一种的这个数字操纵未来。在线广告,之后总统拜登(Joe Biden)宣布了他的竞选连任始于一个奇怪的,稍微扭曲的形象拜登和文本“如果最弱的我们再次当选总统?”
一系列AI-generated图片:台湾受到攻击;在美国登上了店面的经济崩溃;士兵和装甲军用车辆巡逻当地街道纹身罪犯和一波又一波的移民创建的恐慌。
“AI-generated调查该国未来可能的如果乔•拜登(Joe Biden)在2024年的大选中,“读取广告从共和党全国委员会的描述。
AI的共和党全国委员会承认它的使用,但是其他人,包括邪恶的政治运动和外国对手,不会,佩特科维奇Stoyanov说,全球首席技术官Forcepoint,一家网络安全公司,位于得克萨斯州奥斯汀。Stoyanov预测组织寻求干涉美国民主将采用人工智能和合成媒体作为一种侵蚀信任。
“如果一个国际实体- cybercriminal或一个民族国家模仿别人。的影响是什么?我们有追索权吗?”Stoyanov说。“我们将看到更多的错误信息国际来源。”
AI-generated政治造谣已经已经上线之前,2024年的选举中,从一个修改了拜登的视频出现攻击变性人发表演讲儿童AI-generated图像在图书馆学习恶魔崇拜。
人工智能图像似乎表明,特朗普的面部照片也愚弄一些社交媒体用户即使前总统没有一个预定时和在曼哈顿刑事法庭提审伪造商业记录。其他AI-generated画面显示特朗普拒捕,尽管他们的创造者很快承认他们的起源。
立法,要求候选人竞选广告标签创建AI在众议院提出了众议员伊薇特克拉克。,世卫组织还支持立法,要求任何人创建合成图片添加水印说明事实。
一些州已经提供自己的建议为解决deepfakes的担忧。
克拉克说,她最担心的是,可以使用生成的人工智能在2024年大选前创建一个视频或音频,煽动暴力和相互变成美国人。
“重要的是我们跟上技术,”克拉克告诉美联社。“我们必须设置一些护栏。人可以欺骗,只需要一瞬间。人们忙着他们的生活,他们没有时间来检查每一条信息。人工智能被突破,在政治的季节,它可以极大地扰乱。”
本月早些时候,在华盛顿的政治顾问的贸易协会谴责deepfakes的使用在政治广告,称他们是“欺骗”和“在合法、道德活动。”
其他形式的人工智能多年来政治竞选的一个特征,使用数据和算法自动化任务,比如针对选民在社交媒体或追踪捐助者。竞选战略家和科技企业家希望最近的创新提供一些积极的在2024年。
首席执行官麦克内尔尼斯进步数码机构真实的,说他使用ChatGPT“每一天”,并鼓励他的员工使用它,也只要任何内容起草的工具是由人类的眼睛。
内尔尼斯的最新项目,与高地实验室合作,是一个人工智能工具称为卷纬机。会写,发送和评估的有效性筹款邮件,所有通常单调乏味的任务活动。
“我们的想法是每个民主党战略家,每个民主党候选人将副驾驶在他们的口袋,”他说。
斯文森从纽约报道。
美联社接收从几个私人基金会的支持,以增强其解释性报道选举和民主。看到更多关于AP的民主倡议在这里。美联社是这个内容全权负责。