霉霉AI色情照在网上疯传,惊动白宫,催促立法阻止造黄谣

话说,自从马斯克入驻推特(现改名X)平台之后,包括IBM、苹果和迪士尼在内,许多大型企业都宣布不继续在X上投放广告,这也让X上的广告生态急速恶化。

人们戏称,现在的X上只剩下两种推广,一种是虚拟货币交易,另一种是包括AI换脸、AI脱衣等功能的成人软件。

Low得不行……

20231120_400405969_3x2.jpg

(示意图)

这些改变也反应到了X的内容上。

上周三,几张AI绘制的泰勒·斯威夫特(Taylor Swift)的露骨假照片在X上疯传。

GEq8yoRbsAAKNfl.jpg

(泰勒·斯威夫特的露骨贴文)

这些AI伪造的照片大多都是以橄榄球场为主题,每张伪造照片中,霉霉浑身被涂红。

照片的来源尚不清楚,但根据照片中的水印来看,这些照片应该来自一个存在多年的成人网站,该网站专门发布这些Deepfake(深度伪造)技术制作的假冒名人裸照。

240125-taylor-swift-deepfakes-jg.jpg

(泰勒·斯威夫特)

这几张伪造照片发布后,立刻引起了全网轰动。在发布照片的账户被封之前,这些照片被观看了超过4500万次。

泰勒·斯威夫特在Google平台上的搜索量大增。

根据统计,在与泰勒·斯威夫特相关的搜索中,AI、Deepfake等词条的搜索数据飙升,“NSFW(不适合上班时间浏览)”的搜索量更是上升了2700%,

简单来说,这几张照片让全世界疯狂……

微信截图_20240127214535.jpg

(图片来自Google)

包括《时代》杂志和《纽约时报》在内,多家权威媒体第一时间对这件事进行了报道。

微信截图_20240127214414.jpg

(《时代》)

微信截图_20240127214422.jpg

(《纽约时报》)

甚至连白宫都被惊动了。

白宫新闻秘书在星期五告诉媒体,他们对泰勒·斯威夫特在网上发生的事感到震惊,国会应该采取行动。

微信截图_20240127214946.jpg

(相关报道)

在造成如此大的轰动之后,X平台也发表了声明,

表示平台正在“积极删除”这些图像,并将对参与传播这些图像的账户采取“适当的行动。”

但泰勒·斯威夫特的粉丝群体,Swifties表示,X平台根本就是不作为,这些照片之所以能被删除,靠得全是粉丝们的努力!

原来在“Taylor Swift AI”这个标签在X上爆发后,粉丝开始在这个话题里发布大量关于她的正面帖子洗版:

讨厌泰勒·斯威夫特的男人绝对是垃圾。

他们无法忍受一个坚强、成功的女人。

所有发布这些图片的人都应该被夹了。

微信截图_20240127202507.jpg

(图片来自X)

其中一位网友向媒体分享了证据,正是通过她们的举报,才让两个分享照片的账户被平台封禁。

微信截图_20240127202729.jpg

(图片来自X)

如今事情终于渐渐停息,在X平台上,也再搜不到相关的照片了。

但在另一方面,泰勒·斯威夫特也并非2024年,第一个遭遇这种事件的明星了。

再早几天,17岁的新晋漫威演员索契尔·戈麦斯(Xochitl Gomez)也公开表示,她在X上发现了自己的伪造露骨照片,她向X平台举报后,照片却并没有被删除。

xochitl-gomez-marvel-doctor-stra.jpg

(索契尔·戈麦斯)

这两个人的遭遇也让很多女性感到异常的愤怒,甚至感同身受。

根据2023年发布的Deepfakes现状报告显示,

自2019年以来,在AI技术的推动下,被篡改的照片数量增加了550%,这些照片中的绝大多数都是色情内容,女性更是占此类内容目标的99%。

在这样的网络氛围下,美国政府却始终没有出台一项合理的法律进行监管。

2023年,美国民主党议员莫雷尔提出了拟议的《防止亲密图像深度伪造法案》,该法案规定未经同意分享深度伪造色情内容为非法行为。

他表示,这些图像和视频可能造成不可挽回的情感、经济和声誉伤害——不幸的是,女性受到的影响尤其严重。

共和党议员也少见地同意了这些看法,并表示如今AI技术的发展确实已经超过了人类的掌控。

微信截图_20240127203848.jpg

(美国议员转发了泰勒·斯威夫特的新闻)

其实相比这些明星来说,更需要这些法律的,是每一个普通的女性。大多数的人没有数百万粉丝,当她们遭遇这些情况时,不会有那么多人保护她们,为她们举报、辩护。

在这种情况下,政府和平台都有责任尽快推出有效的管理办法,尤其是平台,更应该发挥其监管功能,别让这个“X”真的沦为一个色情符号了……