日新说Copernicium

假照片,真伤害:AOC与打击人工智能色情的斗争

发表时间:2024-04-17 05:39

亚历山德里亚·奥卡西奥·科特兹(Alexandria Ocasio·Cortez)看到这张照片时,正在车里与她的工作人员讨论立法问题,并随手翻阅她的X提到。那是二月底,在华盛顿待了大半个星期后,她正期待着在一个工作活动结束后飞往奥兰多看望妈妈。但是,当她看到这张照片时,一切都烟消云散了:一张经过数字篡改的照片,照片上的人强迫她把嘴放在他们的生殖器上。她的肾上腺素飙升,第一个念头就是"我得把这个从屏幕上删掉"。她震惊地闭上了眼睛。

"这位女议员告诉我:"看到自己的影像,有人会认为这是真的,这让人感到震惊。这是她看到令人不安的深度伪造图像几天后的事情了,我们正在纽约皇后区一家复古风格的餐厅角落里等着我们的食物,这家餐厅就在她家附近。在整个谈话过程中,她表现得友好而生动,与我保持眼神交流,并热情地回答我的问题。不过,当她向我讲述这个故事时,她的语速放慢了,停顿的次数增多了,还摆弄起右手上精致的戒指。"她说:"作为身体性侵犯的幸存者,这增加了一种失调的程度。"它让我的创伤再次浮现,而我正在努力-在该死的会议中"。

暴力画面在奥卡西奥·科特兹的脑海中停留了一整天。

"有些画面不会离开一个人,它们无法离开一个人,"她说。"这不是一个精神力量或毅力的问题-这是关于神经科学和我们的生物学。"她告诉我,她读过一些科学报告,说明我们的大脑很难将手机上直观的图像与现实区分开来,即使我们知道它们是假的。"这并不像人们想象的那样。"它不仅对受害者有真实的影响""对看到它并消费它的人也有真实的影响"

"一旦你看过,你就已经看过了,"奥卡西奥·科特兹说。"它与身体强奸和性侵犯的意图完全相同,[这]是关于权力、支配和羞辱的。深度伪造绝对是将对他人的暴力羞辱数字化的一种方式。"

她还没有公开宣布,但她告诉我,她正在研究一项新的立法,以杜绝未经同意的、露骨的性爱假象。在我们共进午餐的过程中,她一直在说这件事-她可以做一些真实而具体的事情,让这种事情不再发生在其他人身上。

深度伪造色情只是人工智能让虐待变得更容易的一种方式,而且这种技术每天都在进步。从2018年AOC赢得初选的那一刻起,她就一直在处理伪造和篡改的图片,无论是通过使用Photoshop还是生成式人工智能。有照片显示她戴着纳粹党徽;有视频显示她的声音被克隆成她没说过的话。有人制作了一条假推特的图片,让人以为奥卡西奥·科特兹在抱怨她的鞋子在1月6日的暴动中被偷光了。几个月来,人们一直在问她鞋子丢了的事。除了这些例子,在网上,尤其是X上,还能找到无数她的假裸照或性爱图片。

奥卡西奥·科尔特斯是美国目前最引人注目的政客之一-她是一位年轻的拉丁裔女性,将在2024年竞选连任,这意味着她正处于一个令人不安、难以预测的公众人物时代的前线。根据网络安全公司DeepTrace Labs最近的一项研究,96%的deepfake视频都是未经同意的色情视频,其中所有视频的主角都是女性。联合国妇女署(U.N.Women)的一份报告称,面临多种形式歧视的女性,包括有色人种女性、LGBTQ+人群和残疾女性,遭受技术促成的性别暴力的风险更高。

根据独立研究员Genevieve Oh的分析,2023年分享的深度伪造滥用视频比历史上其他年份的总和还要多。过去,精通技术的专家需要花费数小时才能完成的Photoshop技术,现在只需一个应用程序,就能瞬间完成。一些deepfake网站甚至提供如何制作人工智能色情作品的教程。

如果我们不加以控制会发生什么?它会进一步模糊真实与虚假之间的界限-因为政治变得越来越两极分化。当选民无法分辨真假时会发生什么?其中的利害关系又是什么?随着总统大选的日益临近,民主本身也岌岌可危。而且,正如奥卡西奥·科尔特斯在我们的谈话中指出的,这不仅仅是想象中的形象。

"对我来说,重要的是人们要明白,这不仅仅是一种人际暴力,也不仅仅是对受害者造成的伤害。她放下勺子,身体前倾。她放下勺子,向前倾了倾身子:"因为这项技术有可能大规模地实现这一点-这关乎阶级征服。这是对整个民族的征服。然后,当你将其与堕胎相交织,当你将其与关于身体自主权的辩论相交织,当你能够以数字方式在数百万的规模上积极地征服社会中的所有女性时,这与剥夺她们的权利有着直接的联系"。

在我们谈话的这些时刻,她最有活力,因为她在强调这个问题对很多人来说是多么普遍。她听起来并不像一个排练过的政客在大放厥词。她听起来真正关心的是这项技术将如何影响人类,甚至是感到痛心。

亚历山德里亚·奥卡西奥·科特兹(Alexandria Ocasio·Cortez)正在共同领导一项名为"2024年人工智能法案"(DEFIANCE Act of 2024)的工作,以阻止人工智能的滥用。KENT NISHIMURA/《洛杉矶时报》/GETTY IMAGES

奥卡西奥·科特兹在与这场噩梦抗争的同时,也在经历着这场噩梦。她眼睁睁地看着自己的身体、声音以及自己的一切都被扭曲成恐怖片中的现实版本。这是一个深刻的个人问题,但如果她能找到解药,帮助结束这种形形色色的虐待形式,就能改变我们其他人体验世界的方式。

早在2010年代初,生成式人工智能还没有普及的时候,虐待问题专家就已经敲响了警钟,有人利用篡改后的图像在网上恐吓社区。尼格特·达德(Nighat Dad)是巴基斯坦的一名人权律师,她开通了一条求助热线,帮助那些被利用真实或篡改图片进行勒索的幸存者。在那里,后果是可怕的-达德说,有些情况导致了家庭成员的名誉杀人和自杀。

"爸爸说:"这个过程已经持续了一段时间,有色人种妇女、全球南部的女权主义者提出这个问题已经很久了,但没有人给予关注。

在美国,众议员伊薇特·克拉克(Yvette Clarke)多年来一直试图让国会采取行动。2017年,她开始注意到黑人女性在社交媒体上受到骚扰的频率有多高,不管她们是种族主义言论的目标,还是被篡改的攻击性图片。在互联网上,偏执往往更加公开,巨魔躲在屏幕后面会感到安全。

"克拉克说:"这才是真正触发我深入研究技术如何被用来破坏、干扰和伤害弱势群体的原因。

当时,有关深度伪造的技术仍在不断涌现,她希望在这些技术变得普遍之前,就建立起防范机制,并在危害发生之前抢占先机。

克拉克说:"这是一场艰苦的战斗。"她指出,国会中甚至没有多少人听说过这种技术,更不用说考虑对其进行监管了。除了克拉克之外,参议员本·萨斯(Ben Sasse,R·Neb.在众议院方面,2019年6月,国会首次就深度假新闻和虚假信息举行听证会,与克拉克的法案《深度假新闻责任法案》(DeepFakes Accountability Act)同时举行。该法案试图确立刑事处罚,并为深度造假受害者提供法律追索权。她于2023年9月再次提出该法案。

2023年5月,众议员乔·莫雷勒(Joe Morelle,民主党·纽约州)提出了《防止深度伪造亲密图像法案》(Preventing Deepfakes of Intimate Images Act),该法案将把分享未经同意的性暴露深度伪造图像定为刑事犯罪。与之前的"深度伪造"立法一样,该法案没有得到广泛支持。克拉克说,她认为国会需要一段时间才能理解这个问题的严重性和普遍性。

现在,人们终于开始关注各种人工智能滥用的危险。克拉克是国会黑人核心小组(Congressional Black Caucus)的副主席,该小组刚刚宣布推出人工智能政策系列,将通过种族视角来审视这类技术。该系列将解决人工智能系统中的算法偏见问题,并向公众宣传错误信息,尤其是针对黑人选民的虚假宣传。而克拉克是众议院新成立的两党人工智能特别工作组的成员之一,与奥卡西奥·科特兹和其他22名成员,外加众议院的两位领导人一起。

"感谢上帝,人们终于认识到公民权利正在受到侵犯,"克拉克说。"我们现在所做的工作不仅对这一代人有影响,不仅对现在有影响,而且对子孙后代也有影响。因此,我们必须迅速采取行动。

随着技术的飞速发展,滥用也随之而来。正如克拉克所指出的,这种危害不再仅仅集中在边缘化社区。它已经变得很普遍,影响到全国各地的青少年和大学生。任何在网上有照片的人都可能受到伤害。

2020年5月,泰勒(要求使用化名以避免进一步的虐待)刚刚大学毕业,正与男友在新英格兰隔离时,收到了一封奇怪的电子邮件,邮件的主题是:"以你的名义开设的假账户:"你名下的假账户"这封邮件是她以前的一个同学写的,开头写道:"听着,写这封邮件真的很奇怪,但我想你会想知道的"。

这位同学接着告诉泰勒他看到了一个假的Pornhub账号上面有她的名字和个人信息"他写道:"看起来他们使用了深度伪造技术,把你的脸放到了一些视频的顶部。

泰勒感到困惑,认为这一定是垃圾邮件。她在Facebook上给这位同学发了一条信息:"嘿,我只是想让你知道你的账户被黑了。不,他回复说,那是一封真实的电子邮件。

四年后,她回忆说,当时她甚至不知道什么是deepfake。她打开男友的电脑,进入同学发给她的Pornhub链接。当网站加载完毕后,她看到自己的脸在一个她从未拍过的性爱视频中盯着自己看。

"看到自己的脸......尤其是眼睛,感觉很不真实。"它们看起来有点死气沉沉......就像deepfake看起来很逼真,但又不太像-它看起来就像我,如果我是疏离的人的话"。

她注意到这个账户上发布了多个视频,照片来自她的Facebook和Instagram页面。而且这些视频已经有数千人观看。她看了评论,发现有些人认为这些视频是真的。更可怕的是,Pornhub的个人主页上列出了她所有真实的个人信息:她的全名、家乡、学校(Pornhub发言人表示,未经同意的深度伪造内容将被禁止在该网站上发布,该网站的团队会在发现这些内容后进行审查和删除)。

泰勒开始在网上深入调查,发现有多个假账户以她的名义在不同的网站上发布视频。

突然间,泰勒意识到为什么在过去几周里,她的所有社交媒体账户上的信息都在增加。她立刻感到非常担心自己的人身安全。

"泰勒说:"我不知道那个人是否就在我附近,[或者]他们是否还会对我做什么。"我不知道看到视频的人是否会试图找到我。当时我的身体非常脆弱。

她和男友给当地警方打了电话,但警方并没有提供太多帮助。泰勒与一名侦探玩起了电话捉迷藏,这名侦探告诉她:"我真的要检查一下这些资料。"这让她感到毛骨悚然。她说,最后,他告诉她,从技术上讲,这是合法的,不管是谁都有权这么做。

那是使用Covid的头几个月,患有焦虑症和强迫症的泰勒说,她本来就有一种普遍的忧虑和偏执感,但这次事件加剧了一切。她出门时很紧张,生怕陌生人从视频中认出她来。她一直在想生活中有谁看过这些视频。在即将开始读研究生的时候,她想知道未来的雇主是否会发现这些视频,她的职业生涯是否还没开始就已经结束了。

在随后的几个月里,泰勒发现她在学校认识的一个女孩也遇到了这种情况。通过交谈,她们找到了一个和她们都闹过别扭的男人-一个碰巧非常精通技术的男人。在继续调查的过程中,她们发现她们大学里有多名女生也遭到了类似的侵害,她们都与这个被称为迈克的男人有关。但州警方始终无法证明视频是他制作的。

泰勒是第一批说出自己人工智能虐待经历的人之一,她在2023年的纪录片《另一具躯体》中匿名分享了自己的故事。制片人成立了一个名为#MyImageMyChoice(我的形象我做主)的组织,以解决亲密形象虐待问题。今年3月,组织者共同主办了一次关于深度伪造虐待的虚拟峰会,法律专家、倡导者和演员索菲亚·布什等幸存者讲述了自己的故事。

泰勒说,在深度伪造事件发生后,她经常感觉自己的生活失去了控制。为此,她试图控制其他情况。她会反复嘟声确认车是否锁好,还经常害怕咖啡壶还开着,家里会着火。"她谈到自己的高度强迫症时说:"我至今仍在面对它。

泰勒说,迈克对神经网络和机器学习很感兴趣,因此她怀疑他可能是在有像现在这样的即时应用之前,就创造出了"深度伪造"。根据#MyImageMyChoice的数据,目前有超过290款深度伪造色情应用(也称为nudify应用),其中80%是在去年推出的。谷歌搜索为这些网站带来了68%的流量。

亚当·道奇(Adam Dodge)是数字安全教育组织EndTAB(结束技术导致的虐待)的创始人,他是泰勒在网络虐待倡导领域的联系人之一。道奇告诉我,人们往往忽视了这种技术性创伤所带来的极度无助和无力感,因为虐待让人感觉无法逃避。

例如,在报复性色情中,当某人的私密照片被伴侣泄露时,幸存者往往会承诺再也不拍这样的照片,以此来维护自己的控制权。而对于"深度伪造"(deepfake)来说,根本无法避免这种情况的发生,因为有人可以随时随地、大规模地展示这种虐待行为。

道奇希望重构话题;与其强调新技术能够创造出这些超逼真图像的现象,他希望将焦点转移到这是如何创造出前所未有的大量性暴力受害者的。他认为,越多的人了解到这是一种虐待形式,而不是一个无伤大雅的玩笑,就越有助于预防。

他提到了最近新泽西州学校发生的一起事件,有人用人工智能生成了女同学的裸照。"他们几乎没有任何技术专长,就能在手机上如此迅速地制作出这些图片,并在学校里大规模地实施性暴力和性虐待,这实在令人担忧。"

鲁曼·乔杜里(RUMMAN CHOWDHURY)对网络骚扰的恐怖并不陌生;她曾是X公司人工智能伦理部门的负责人,当时公司还叫Twitter,埃隆·马斯克(Elon Musk)还没有裁掉她的部门。她深知控制骚扰活动有多么困难,也深知边缘化群体在这些平台上往往成为不成比例的攻击目标。最近,她与研究助理丹娅·拉克希米(Dhanya Lakshmi)共同为联合国教科文组织发表了一篇论文,探讨了生成式人工智能将如何加剧业内所称的技术助长的性别暴力。

"乔杜里目前在美国国务院工作,担任美国人工智能科学特使,负责将政策制定者、社区组织者和行业联系起来,以开发负责任的人工智能。

乔杜里列举了人们可以利用技术帮助他们开展大规模骚扰活动的方法。他们可以让生成式人工智能不仅编写负面信息,还可以将其翻译成不同的语言、方言或俚语。他们可以利用这些信息创建虚假的角色,这样一个人就可以针对某个政客说她不合格或丑陋,但看起来却像是有10个人在说这些话。乔杜里和拉克希米在研究中就使用了这种方法,他们要求程序把一位女性打扮成圣战士兵,把另一位女性的衬衫换成"蓝色生命重要"的字样。他们不需要欺骗或入侵模型就能生成这些图像。

这不仅是生成的问题,也是放大的问题,即使人们并不想这么残忍。乔杜里在X公司工作时经常看到这种情况-人们转发假照片或视频,却不知道这不是真的。

"人们总是在不经意间放大误导性信息,"乔杜里说。"这是一个非常大的问题,也是最难解决的问题之一,因为这些人并没有恶意。他们看到了一些看起来很逼真的东西。

她说,她认为很多人已经学会不相信他们在互联网上读到的一切,但他们对视频和音频却没有同样的心理防备。我们倾向于相信这些东西是真的,因为过去很难伪造它们。乔杜里说,她不知道我们是否都能更好地识别虚假内容,或者我们是否会停止相信我们在网上看到的一切。

"乔杜里告诉我:"我最担心的问题之一是,我们将进入一个后真相世界,在这个世界里,你在网上看到的任何东西都不可信,因为所有的东西都可以以非常、非常逼真但又虚假的方式生成。

这是一个人类的问题,需要人类来解决。正如乔杜里所指出的,这不是一个容易解决的问题,但这并不意味着我们不应该尝试去解决。她提出了一种多管齐下的方法。社交媒体公司可以追踪个人账户,看他们是否与其他人合作,或者同一IP地址是否有多个账户。他们可以调整算法,让人们看到什么。人们可以通过谈论媒体素养来动员自己的社区。立法者可以制定保护措施和法规,并找到不只是让幸存者承担责任的保护措施。生成式人工智能开发者和为其提供平台的技术公司可以在行动上更加透明,在向公众发布产品时更加谨慎。(X公司没有回应置评请求)。

专门研究言论自由和网络骚扰问题的法律学者玛丽·安妮·弗兰克斯(Mary Anne Franks)说,制定禁止有害和虚假信息的法律而不侵犯第一修正案是完全可能的。"她说:"戏仿和讽刺清楚地表明了所呈现的信息是虚假的-嘲弄某人和假扮某人之间有着明确的界限。

"她补充说:"虽然最高法院认为某些虚假言论可能受到保护,但它从未认为第一修正案规定了故意发表造成实际伤害的虚假言论的权利。

弗兰克斯希望看到有关深度伪造人工智能色情内容的立法既包括刑事部分,也包括民事部分,因为她说,人们更害怕坐牢,而不是害怕因为如此抽象和被误解的东西而被起诉。

"弗兰克斯说:"虽然美国确实存在对多种行为定罪过重的问题,但在过度针对妇女和女孩的虐待行为方面,我们的问题恰恰相反。

网络虐待不成比例地针对边缘化群体,但也经常影响到公共场所的女性,如记者或政治家。处于这些身份交叉点的女性尤其容易受到伤害。

众议员李夏美(Summer Lee,民主党-Pa.

"李说:"我们很多人都有这样一种恐惧,害怕没有任何机制来保护我们。她说,她已经看到了这样一个世界:黑人和其他边缘化人群在虚假信息宣传之后对制度产生了怀疑:她说:"这让选民和本来要竞选(公职)的人担心,这个系统本身是不可信的。当我想到即将参选的女性,尤其是黑人和棕色人种女性时,我们必须考虑到我们的形象将以何种方式被利用和滥用。这是女性,尤其是有色人种女性一直担心的问题,她们会考虑是否要冒险竞选国会议员。

"当你站出来竞选公职时,你会在一定程度上失去对自己的控制,但在这个时代,失去对自己形象和人格的控制又有了新的含义。这项技术可以利用和滥用的方式,可以传播的方式,不仅可以毁掉名誉,还可以毁掉生命。"

在熟食店,奥卡西奥·科尔特斯也告诉了我类似的事情。我们在谈论这种滥用对受害者造成的伤害有多大。"她说:"孩子们会因此而自杀。"人们会因此自杀"。

我问奥卡西奥·科特兹,她会对受到人工智能虐待的少女说些什么。"首先,我认为让她知道这一点很重要,我想告诉她的是,社会让你失望了,"她说。"有人这样对你,这是不对的,但社会辜负了你。人们不应该拥有这样做的工具。

"奥卡西奥·科特兹说:"我的当务之急是确保她不会将其内化,确保犯罪不彻底。我问她个人是如何处理这件事的?

她说:"我认为这不是一个打开或关闭的开关,"她补充说,经常有年轻女性问她,为什么她说出来这么容易。"她告诉我:"并不容易。她再次放慢语速,谨慎地选择用词。"我认为这是一种修养,一种练习。就像'我今天的表现会有多好?'因为有的时候我很糟糕,有的时候我确实把它内化了,有的时候我没有说出来,因为事情已经影响到我了。"

奥卡西奥·科特兹说,她的很多政治主张都是出于一种不想让其他人经历她或其他人所经历的事情的想法。"她说:"我的很多工作都与打破链条、打破循环有关,对我来说,这是一个非常、非常、非常重要的打破循环的工作。

我们谈到了泰勒·斯威夫特(Taylor Swift)一月份在网上疯传的露骨AI照片-她还记得自己听到这些照片时的惊恐。事情发生时,她已经在为深度伪造人工智能立法做准备了,但她说斯威夫特事件帮助加快了两党两院立法的时间表。参议员迪克·德宾(Dick Durbin)和林赛·格雷厄姆(Lindsey Graham)领导参议院版本的法案,而奥卡西奥·科特兹(Ocasio·Cortez)领导众议院版本的法案。该法案被称为《2024年扰乱露骨伪造图像和未经同意的编辑(DEFIANCE)法案》(Disrupt Explicit Forged Images and Non·Consensual Edits(DEFIANCE)Act of 2024)。该法案修改了《暴力侵害妇女法》,使人们可以起诉那些制作、传播或接收深度伪造色情图片的人,如果他们"知道或轻率地无视"受害者不同意这些图像。

该法案将"数字赝品"定义为"通过使用软件、机器学习、人工智能或任何其他计算机生成或技术手段制作的、以假乱真的图像"。任何描绘受害者"裸体或从事露骨性行为或性场景"的数字伪造品都符合条件。如果该法案在众议院和参议院获得通过,它将成为第一部保护深度伪造受害者的联邦法律。

该法案得到了参众两院的支持,并汇集了一些不太可能的合作伙伴。例如,过去曾与奥卡西奥·科特兹公开不和的众议员南希·梅斯(Nancy Mace)就是《DEFIANCE法案》的共同提案人。

梅斯的发言人说:"国会正带头发起这项亟需的倡议,以解决我们打击数字剥削的法律框架中存在的漏洞,"梅斯最近提出了自己的法案,将"深度伪造色情"(deepfake porn)定为刑事犯罪。梅斯的发言人说:"我们正在共同打击这股令人不寒而栗的虐待妇女的新浪潮,并正视令人震惊的假冒儿童色情制品的增加。我们的目标是将犯罪者绳之以法,确保所有个人在数字领域的安全保障。

德宾告诉我,他认为通过《DEFIANCE》成为法律的关键在于两党的大力支持。

"我真的相信,来自两个政党和每一个政治派别的政治家们都开始意识到这是一个真正的危险,"他说,并补充说,有奥卡西奥·科尔特斯作为《DEFIANCE法案》的合作伙伴是非常重要的。

"德宾说:"她亲身经历了这些,我感到很难过。"但这无疑让她在谈论这个问题时更具可信度。"

午餐时,我问奥卡西奥·科特兹,她是否认为自己是国会中最年轻的女性议员-而且还是一名有色人种女性-这与她成为此类骚扰的避雷针有关。

"她毫不犹豫地说:"当然。我问她为什么认为人们经常把目标对准担任领导职务的女性。

"他们想给我们上一课,因为我们在那里,因为我们的存在:这不是你该来的地方,因为你在这里,所以我们要惩罚你,"她说。

我们谈到了人们对公众人物的迷恋,无论是艺术家、有影响力的人物还是政治家。

"奥卡西奥·科特兹说:"自从智能手机出现以来,人们越来越依赖于互联网作为人类经验的代表。"因此,如果这成为人们接触世界的主要媒介,至少在这个国家是这样,那么操纵它就成了操纵现实。"

为现实而战有时会让人觉得徒劳无功。面对人工智能的前沿,我们很难不感到一股恐惧的暗流。我们是否正在进入一个"后真相"的世界,在这个世界里,事实难以捉摸,社会最边缘化的群体只会受到进一步的虐待?或者说,我们是否还有时间走向一个更美好、更公平的未来?

"奥卡西奥·科特兹低声说:"过去,我也曾有过这样的时刻,'我不知道自己是否能挺过去'。"在那些时刻,我有时会想,'是啊,这就是重点。'这的确是重点。我是当选国会议员中最年轻的女性,一个二十多岁的女性花了200多年的时间才当选国会议员,而这个国家是由25岁的帅哥建立的!人们认为这是他妈的巧合吗?"

她又回到了生动的状态,并将其与她的工作完美地联系在一起:"这是一种设计,甚至人工智能也代表着-不是一般意义上的人工智能,而是这种人工智能的使用-设计的自动化。这是一个社会的自动化,在这个社会中,整个国家可以由25岁的男性建立,但29岁的女性却需要200多年才能当选为国会议员。一旦她当选,他们就会想尽一切办法让她离开"。


网站文章皆来自网络个人作者,不代表网站观点,本网站仅供交流学习。