| 推荐阅读频道
【摘要】人工智能迅速发展， AI视频换脸技术风靡一时，面对产生的一系列的连锁反应，不免让人心存疑虑。本文从AI技术视频换脸软件的源起，探讨当下国内APP的应用现象，分析在人工智能大环境下，AI技术换脸应用对个人和社会的影响，以及公众应该如何面对。
【关键词】AI技术 视频换脸 人工智能 深度伪造 【中图分类号】 F23 【文献标识码】A
近期，名为AI技术换脸(“ZAO”)的视频合成APP应用被人们所注意，随之被一些领域滥用，引发人们的担忧。一直以来人们津津乐道的人工智能技术，这次怎么成为了众矢之的？
AI技术换脸视频的源起
2017年底，国外一位网友创造了AI换脸算法（Deepfake），并公开在帖子中详细介绍AI换脸视频的生成方法。短短30天，就有1.5万用户在社交媒体上阅读了这条消息，并根据教程生成出大量换脸视频。
“Deepfake”是一项基于AI的假视频生成方法，是人工智能大家族里的一个分支。实际上，“Deepfake”并不是一种单纯的技术和容易上手操作的软件，它是多种技术的组合形式，以特定人脸为目标来源，输入之后软件进行图像处理，原来的人脸被另一个人脸所替代。换脸分为五个步骤：视频转换图片、提取脸部、训练模型、人脸替换、合成视频。经过适当的后期处理，生成的视频可以达到较高的真实度。
给无法分辨虚假的网络带来又一次冲击
基于机器自动处理的免费软件，让用户在视频中进行人脸替换变得容易，观看者几乎发现不了操作痕迹，这就是所谓的“Deepfake”视频。之后更出现了“FakeApp”“DeepFaceLab”等制作技术更逼真的软件工具。
由于互联网中存在的大量照片和素材，明星和政治家首当其冲成为第一批深度伪造的素材。奥巴马、特朗普、斯佳丽·约翰、盖儿·加朵、艾玛·沃森特等都成为制作素材。AI技术通过机器学习素材原脸的面部动态、说话时的嘴唇形状和视线聚焦角度等，实现人脸的更换。
2019年6月，社交媒体Facebook首席执行官Mark Zuckerbegn的一段被换脸的视频出现在网上，在合成的视频里，Zuckerberg的声音听起来像机器人。在此之前，有一段美国众议院院长Nancy Pelosi被篡改的视频，视频中Nancy Pelosi形似酒醉，声音奇怪，视频速度放慢了75%。在人工智能技术越来越完善的情况下，公众无法判断什么是真相。在极端情况下，一个伪装的换脸假视频可能会损害新闻媒体的可信度，甚至导致社会动荡，影响公共安全。
在过去一年里，女明星斯佳丽·约翰的脸已经被嫁接到数十个色情视频里，播放量最高超过150万次。在类似事件中，受害者远远不止明星，普通女性也可能某天会发现自己的脸出现在视频中。对于明星而言，毕竟公众都知道影片是假的。但如果是普通人，真假就难以辨别了。因此，影像资料保护变得尤为重要。
需要引起重视的是，制造换脸软件的人一直在不断地研究新技术，这个趋势更加让人担忧。前几年，大家还在说“无图无真相”，现在即使“有视频也无真相”。AI换脸软件给本来无法分辨虚假的网络带来了又一次冲击。
仅需一张照片，出演天下好戏
“仅需一张照片，出演天下好戏”——这句话是“ZAO”在苹果手机客户商店的下载介绍说明。在计算机技术日益成熟的情况下，换脸软件可以用网络上便利的资源包以及操作程序来完成。2019年8月，微博上的APP软件“ZAO”让用户体验换脸，很快火了起来。换脸短视频分辨率要求不高，用户只要使用手机输入图片，便可以得到一段30秒的短视频，这项操作大大降低了换脸技术的门槛。
对于普通大众而言，在社交媒体上看到周围的人都在玩，对专业技术畏难的心理会逐渐瓦解，简单的体验程序，新奇好玩有代入感，都在一个小小的短视频传播中得以实现。对于市场而言，换脸APP在社交网络中火爆传播，对市场甚至整个产业，都可能是一次新趋势的狂欢。
从《速度与激情7》中已逝演员保罗·沃克的音容笑貌重现出现，到动漫人物形象洛天依的跨年演唱，再到《射雕英雄传》中演员杨幂和朱茵角色的更换，电视剧《都挺好》里吴彦祖的脸替换倪大红，换脸技术很快深入大众生活，引发公众的点击狂潮。
假象成为独立的拟象
当AI收集的人脸数据库足够丰富时，伴随着人工智能技术的发展，无论是AI人脸成像，还是AI空间场景建立，“深度造假”伪装成“真实存在”的技术，会让大家丧失对真实还是虚拟世界的判断能力。
“你要的样子我都有”，AI换脸技术APP将用户上传的照片投放到社交媒体平台上，实现用户和明星以视频方式“换脸”。针对这项创意，用户也表达出了担忧：通过眨眼识别、点头、面容疲惫的方式采集用户面貌，像极了很多支付平台用人脸识别的付款方式。在当下的付款方式中，输入支付密码和指纹已经不是唯一途径，更多平台可以“刷脸”支付，人脸已经成为付款途径之一。动态的人脸验证，会给用户带来隐私、肖像权等方面的安全隐患。因为网络平台上的视频有可能是深度伪造。
随着人工智能的不断强化，人们很难通过技术手段判断人的面容是否被替换过，所以该技术在带给人们新鲜感的同时，也一直存在争议。显而易见，AI技术换脸APP存在不少缺陷。由于操作相对简便，容易被心存不良的人违法使用，制作各种触碰法律、伦理、道德边界，甚至引发政治冲突的事件。
一夜之间爆红的换脸软件，一键操作视频的输入输出，恐惧也随之出现，就像ZAO在签订用户协议时，在“必要授权”栏中要求有实际权力人及肖像权人的同意和授权。在大数据时代，数据获取边界模糊，这种广泛收集数据的方式，势必会形成对个人隐私安全的威胁。
除此之外，由于视频记录了物体动态的变化，人们往往认为视频是可靠真实的媒体来源，比图片的可信度更高。AI技术换脸APP的出现，损害了信息的真实性。伪造视频是AI技术精心设计的一种假象，人脸成为符号，被替换、合成、滥用、恶搞，而普通大众却无法预知未来将会发生的伤害。
机器可以替代人类完成很多事情，但机器是纯粹沉默的理性操作，人类必须承担自己的责任。在工业化和数字化的今天，无数文本和形象作为视频中传播的构成元素，本身携带了太多的信息。AI技术换脸后的新视频，由视频产生过程中的各个事件组成，这些事件相互之间发生牵连和影响，使视频组成了一个相互联系的体系，其中各个事件所生成的结果都具有特殊性。
AI换脸APP在视频生成过程中，新的信息在不断构建记录，并延续着过去的状态，衍生出新的内容。这个新视频可能由整个事件构成，也可能由事件中的一些片段组成。在人工智能的大环境下，我们担心的是未来的发展，因为我们所见到的视频未必是真实的。人工智能带来科技的力量，但也带来可怕之处——可以伪造真相，这是我们必须要高度警惕的。
（作者单位：上海大学）
参考文献
[1]智东西.美国刮起“反AI换脸”热潮，创企各出奇招，联合对抗deepfakes [EB/OL].https：//t.cj.sina.com.cn/articles/view/5213469505/136bf3b4102700gron，2019.
[2]岛子.后现代艺术系谱[M].重庆：重庆出版社，2007.
责编/邓应华
来源：《中国报业》杂志2019年11月（下）P60-61
京公网安备 11010502035903号