ZAO火爆却注定短命背后：换脸攻击一直都存在?(2)

“AI换脸”已形成黑色产业链

有网友表示，ZAO这次之所以引起如此大的关注，是因为以往的换脸视频，对技术有着比较高的门槛要求，而ZAO一下子把门槛降到了最低，普通手机用户都可以玩了。

其实，这背后还有一个难以否认的事实是——目前，“AI换脸”已经形成一个非法牟利的地下黑色产业链。

此前新京报就有报道称，互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的不雅视频，在百度贴吧、闲鱼等主要网络平台均有出售。

有的商家不仅提供成品的视频，还接受买家的订制，只要买家提供20张照片，就可以制作出任何人的“小电影”。还有的商家“授人以渔”，售卖教学视频供人学习，出示学生证还能打七折。

而据“智东西”此前报道，目前AI换脸黑产已经形成了完整的产业链，从下游成品情色视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务。

根据锌刻度最新了解的情况来看，这种情况并未得到好转。比如，在浏览器搜索“换脸教程”，有多个教程详述制作细节，足够教会用户如何使用“换脸”技术；在淘宝、咸鱼等平台搜索“换脸”，大部分商家显示可售卖成品照片及提供定制服务，部分商家还售卖软件和教程；至于在deepfake吧里，则可以找到明显带着暗示性字眼的资源帖。

ZAO火爆却注定短命背后：换脸攻击一直都存在？图三

换头换脸成本不高

这些不法商家之所以如此明目张胆，与早前监管的缺失不无关系。值得庆幸的是，相关监管部门已经注意到了“AI换脸”技术带来的危害性。

今年4月，民法典人格权编草案和物权编草案的二审稿新增了这样一条规定：任何组织或者个人，不得以利用信息技术手段伪造的方式侵害他人的肖像权。

国家网信办会同有关部门在5月底发布的《数据安全管理办法（征求意见稿）》中也提到，“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明"合成"字样；不得以谋取利益或损害他人利益为目的自动合成信息。”

但由于人工智能技术所具有的高度的不确定性、创新性和复杂性，面对千变万化的应用场景，目前想要所有乱象得到根治也绝非易事。

毕竟技术本无罪，全看使用技术的人想拿它做什么。目前来看，更重要的是相关AI企业应该坚守自身底线。著名学者吴伯凡就认为，科技本身是不能向善的，应该是让科技向善，人在使用技术的时候一定要有初心，让科技向善。“之前的技术没有自主性和主动权，比如火、核能都不能自主做事，但人工智能是有自我学习能力的，是非常特殊的，就一定要解决向善的问题。”

<上一页12

Fakeapp 2.2.0 官方免费版

• 软件性质：国外软件
• 授权方式：免费版
• 软件语言：英文
• 软件大小：1 KB
• 下载次数：895 次
• 更新时间：2019/9/14 13:24:28
• 运行平台：WinAll...
• 软件描述：Fakeapp是一款国外有趣的换脸软件，它的作用是将视频里面的人脸换成别的样子，... [立即下载]