打开APP
未登录
开通VIP,畅享免费电子书等14项超值服
开通VIP
首页
好书
留言交流
下载APP
联系客服
陈根:已超10万受害者,AI脱衣有多危险?
陈根谈科技
>《待分类》
2020.11.02
关注
文
/
陈根
2019
年
6
月,一款名为
DeepNude
的应用在海内外爆红。
令其爆红的原因只有一个
——
只要给
出
一张女性照片,
DeepNude
借助神经网络技术,
就
可以自动
“
脱掉
”
女性身上的衣服,显示出裸体。
对于神经网络技术的
理解门槛虽高,但应用却
并
不费力,因为对于使用者来说,无需任何技术知识,一键即可获取。
一时间,
大量色情图片
在网络泛滥,很快,
DeepNude
级
在舆论批评声中
下架
了。
在人们对
DeepNude
一键
“脱衣”的震撼还未完全淡去时,
这款色情的软件再次出现在了即时消息应用程序
——Telegram
中
。
而这次关于
DeepNude
的发现,影响更甚,危害也更大。
这项
关于
DeepNude
的
调查来自美国阿姆斯特丹的网络安全公司
Sensity
,这家公司专注于所谓的
“
视觉威胁情报
”
,尤其是那些深度造假视频的传播。
据
Sensity
报告显示,目前
DeepNude
已经产生了
68
万
以上
女性的假裸照,在
TeleGram
平台已经公开发布了约
104,852
张色情图片,其中
70%
的照片来自社交媒体或私人渠道
,而
这一数据还不包括私下分享传播的图片。
更重要的是,这些图片
70%
全部来自社交网络中的真实女性,甚至包括未成年人。
这意味着
,日常在
Facebook
、微博等社交媒体中分享的自拍照,很可能会被人用来生成
“裸照”
。
DeepNude
成熟背后的技术背景
DeepNude
的
成熟,离不开一个名为
DeepFakes
的软件被匿名开源发布。
2017
年,
ID
为
“
deep
F
ake
s
”
发布了通过机器学习来更换视频人脸的
AI
算法。
DeepFakes
是
“
deep machine learming
”
(深度机器学习)和
“
F
ake photos
”
(假照片)的
组合
,是依托大数据和人工智能深度学习机制,基于数据算法和人脸数据库对既有视频或图片中的人物面部图像进行替换的技术工具。在开源代码库平台
CitHub
上,
De
e
pFakes
被描述为
“
一种利用深度学习技术来识别和交换图片、视频中人物脸部图像的工具
”
。
只要有足够的图片视频素材,有一定的硬件支持,
DeepFakes
就可以搭建算法匹配模型进行换脸视频的制作
。具体原理思路为:对于每张脸,都训练一套编码器和相应的解码神经网络。编码时,使用的是第一个人的图片。而解码时,却是使用第二个人的解码器。
而其中主要包含
数据预处理
、
图片融合
、
图像预处理、网络模型、图像融合
等技术。
此外,
利用
AI
制作换脸视频除了要借助已开源的
DeepFakes
技术,还需要两个竞争
AI
系统的参与,一个是生成模型,另一个是判别模型
。生成模型和判别模型的结合被称为
CAN
(
CenerativeAderaril Netwoks
,生成对抗网络技术,简称
“
GAN
”
,是深度学习原理中重要的监督学习模型),也是
AI
换脸最底层的逻辑。
GAN
是
AI
机器学习中较成熟的理论,在最开始的技术中,
DepFakes
正是借助生成对抗网络,通过上万张照片来替换视频每秒钟存在的
30
个画面,最终通过
GPU
(
CaphiesPoesing Unit
,图形处理器,简称
“
GPU
”
)训练完成
“
移花接木
”
,仅凭一张照片便可实现面部替换和视频生成。
但
当时该技术的使用门槛还比较高,需要编译代码等操作
。然而,当
DeepFakes
技术的
持有人在网络论坛中直接开源了该技术的算法代码并在
GitHub
上建立了开源项目
时
,一切都不一样了。
DeepFakes
技术变得唾手可得,
后来的
AI
换脸
App
和
DeepNude
出现正是基于这一技术,
不同的是,
对比
DeepFakes
需要大量的技术专业知识、庞大的数据集以及昂贵的
GPU
,
DeepNude
更容易使用,也更容易访问
。
时下的
DeepNude
操作
已
非常简单,只需要一张照片,上传至软件后,几秒就可以自动生成裸照,不需要任何技术知识或者专门的硬件支持。
DeepNude
令人悚然的盈利背后
尽管
DeepNude
可供
所有人免费使用
,但
它也有
其
盈利模式,未付费用户获得的裸照后会打上水印标签或者只有局部裸露,用户支付
1.28
美元才可以获得无水印图片,但使用权限仅限七天
100
张。用户也可以通过介绍他人使用这项服务来赚钱。
此外,
DeepNude
还在
VK
网站上发布了广告,据
统计
,在该网站上目前已经有了
380
页的搜索量。这种病毒式的扩张方式,让
DeepNude
的会员迅速增长。
根
据
Sensity
的报告,
DeepNude
在去年
6
月
就已
上线,上线两个月用户几乎过万,到今年
6
月,已经有了
4.5
万用户。截至
7
月底,
Telegram
平台七个主要频道均在使用
DeepNude
软件。
DeepNude
的使用者还在
telegram
上成立了社区。
而
目前这个社区已有成员
多达
101,080
人
,其中
70%
居住在俄罗斯或东欧。
低门槛的使用和低廉的价格带来了可观的收益和病毒式的扩张,而背后的代价却令人警惕和感到悚然
。
技术的社会属性是技术社会风险形成的根源。
技术应用是一面镜子,映射出人类文明的发展水平
,而
DeepNude
的走红则
在狂欢中直逼道德底线
。
其恶劣的一键
“脱衣”实际上打开了女性被攻击的可能性,其
应用程序和易访问性
更意味着
女性在网上面临的更大的网络骚扰
或危险
题
,这将对社会造成巨大影响。
一方面,
DeepNude
的一键
“脱衣”势必会对被换脸者的声誉造成影响。
除了对肖像权名誉权的侵犯,不法分子往往会利用该技术制作带有特定人脸的不雅视频进行敲诈勒索牟利
。
比如,前几年合成艳照敲诈勒索官员的案例,不法分子为非法牟利,从网上搜索社会成功、知名人士的头像合成不雅照片,利用他们惧怕丑闻、顾及名誉的心理特点进行敲诈勒索。
互联网时代,不雅视频或不雅图片这类信息的传播很难得到控制,给相关当事人带来的负面影响也是深远持久的
。
另一方面,通过
DeepNude
,
任何用户使用任何照片都可以生成裸照
,而这将大大增加制作、传播、贩卖淫秽物品牟利犯罪可能性
。
Deepfake
伪造色情视频已经屡见不鲜,主要以为名人为目标。
其也由最初的色情视频制作,到后来的全民娱乐、恶搞,发展到今天已经走向了制作、传播淫秽物品牟利的黑色产业。
但根据一项民意调查显示,大多数用户对
“
现实生活中认识的女性
”
更感兴趣,占比达到了
63%
。
DeepNude
恰好提供了这样的支持,从
TeleGram
平台的公开数据来看,许多照片中的女性都是普通上班族、大学生,而且这些照片都是来自
TikTok
、
Instagram
、
Facebook
等平台的自拍照。
这为色情的传播带来了新的兴奋点和吸引力,满足了相关人群猎奇、好奇等多重心理需求,容易产生一定的受众群体和市场。但这种以非法牟利为目的制作色情视图并上传到互联网甚至出售的行为,已经构成制作、传播、贩卖淫秽物品牟利罪,不仅有悖社会道德和公序良俗,更是对互联网健康环境和良好秩序的挑战。
技术与与伦理的巨大鸿沟
对于女性强有力的攻击是第一步,然后呢?
新兴技术拓展了新的领域与空间,伦理规范等却还停留在过去。
DeepNude
只是人工智能矩阵的一个产品之一,而其本质上是一种伪造手段,除了娱乐或私欲外,其社会的危害程度不容小觑,滥用风险涉及方方面面,
“深度伪造”的算法技术与与伦理之间的巨大鸿沟造成了社会频发的争议,让人谨之慎之。
人类的面部与身份特征都被数字化,算法将人的身份拆解,传统意义上的身份特质分解并与他人的身份特质再组合重构,
人工智能再造的虚拟形象以拟制主体身份展现在真实的人类面前,在伦理上必然造成社会的恐慌与伦理重构
。
人的体貌特征融合后不再具体的某个人典型的身份,跨越了国界种族的限制,失去了辨识度,一方面容易造成社会角色混乱与身份特征混淆。另一方面,自然人的身份被商品化也并非当下社会伦理所能接受,在相关人员不知情情况下,复制、改造他人的面孔,甚至恶意融合不雅内容以谋求金钱利益,构成对他人尊严的损害,被解构整合身份特征的人沦为被消费的商品。
此外,现阶段深度伪造的生成物所依托的技术手段足以达到以假乱真的程度,
“眼见为实”不再适用,人类难以在日常的社会生活中区分数字面孔与自然人,虚假内容轻易取得信任,真伪之辨难上加难,合理的猜测与过度猜忌的界限更加难以平衡,这必然对社会造成更大的信赖难题。
真伪界限被数字化操纵,娱乐的趣味性与真相的真实性在混淆视听的人工智能生成物问世后更加模糊
。
“娱乐至死”的扭曲价值冲击着当下伦理观,进而引发一场社会信任危机。
最后,宗教信仰、种族国籍、国际政治领域所涉及的问题具有敏感性,更加需要真实报道与平等人权的保护,肆意更换外貌特征与伪造具有特殊意义的视频在这些领域的滥用,在社会稳定上的破坏力可能直接引发难以控制的后果。
《如何输掉信息战》一书的作者尼娜
·扬科维茨(
Nina Jankowicz
)就指出,
DeepNude
对世界各地的女性都有巨大的影响,尤其是在俄罗斯这样的社会保守国家。如果一张令人信服但却是假的裸照公之于众,受害者可能面临失去工作和生计的风险。有些人可能面临伴侣暴力。
同时,利用伪造技术生成政治领袖发表不当言论的音视频,不符宗教信仰的行为,威胁国际关系的各种材料,将会大幅度增加社会关系复杂性,不利于社会稳定局面与国家长治久安。
尽管
对于
“深度伪造”技术的
检测方式越来越多,准确度越来越高,
但事实上,
制造虚假视频
或图像
的趋势依然没有得到很好的抑制
。究其原因,其一可能是
AI
生成虚假内容越来越方便,如
DeepNude
,只需要一张照片,人人都可以上手。而其二,如
Sensity
公司负责人所说,
DeepNude
目前还处于法律的灰色地带。
而人工智能
“脱衣”只是数字科技所引发的科技伦理问题之一,
随着人工智能类人机器人的出现,人类的两性关系与婚姻伦理将受到根本性的冲击、挑战与改变。可以说这个时代是最美好的时代,也是最具有挑战性的时代,我们的道德、价值、伦理因为科技的发展在经受着不断的挑战与冲击。
技术的伤害从来不在于技术本身,而只在于使用技术的人,
对技术知识的封堵和审查,
既
无法阻止
其
扩散和传播
也不利于社会的进步,最后,所有的争论都回到了人类本身,只有人心向善,才能科技至善。
本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请
点击举报
。
打开APP,阅读全文并永久保存
查看更多类似文章
猜你喜欢
类似文章
【热】
打开小程序,算一算2024你的财运
AI伦理背后的两张脸孔:天使或是恶魔?
当年轻人开始谈论AI伦理
微信紧急封杀、工信部约谈,你的隐私正在被它觊觎!
换脸算什么?现在AI都能一键“脱衣”了
“一键脱衣”死灰复燃,国内存在多款类似软件,AI作恶谁来监管?
“换脸”又来袭,这次能活多久?
更多类似文章 >>
生活服务
热点新闻
留言交流
回顶部
联系我们
分享
收藏
点击这里,查看已保存的文章
导长图
关注
一键复制
下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!
联系客服
微信登录中...
请勿关闭此页面
先别划走!
送你5元优惠券,购买VIP限时立减!
5
元
优惠券
优惠券还有
10:00
过期
马上使用
×