AI换脸软件引发争议已非首次。南都此前报道，2019年，换脸软件ZAO就曾因涉嫌未依法依规收集使用人脸信息被工信部约谈。今年1月起正式实施的民法典，也已将AI换脸纳入到肖像权的保护范围，明确规定不得利用信息技术手段伪造等方式侵害他人的肖像权。
爆红：“蚂蚁呀嘿”刷屏，相关视频播放量超31亿
在Avatarify导入一张人脸照片，选择相应模板，软件就能通过AI算法，自动生成一段随着节奏夸张扭动的短视频。无论是马斯克、比尔盖茨，还是唐僧师徒、还珠格格，都难逃被AI换脸后随“蚂蚁呀嘿”扭动的命运。
除了被动卷入，也有不少明星主动“换脸”。2月27日，演员甄子丹在其微博发布了一段他和吴京勾肩举杯扭动齐唱“蚂蚁呀嘿”的视频，获得吴京转发及近10万点赞。惠英红、邓紫棋、李佳琦、德云社相声演员等明星也通过社交软件纷纷参与到这场网络“AI变脸”中。
南都记者在移动应用数据分析平台七脉数据查询发现，2月中旬起，Avatarify在中国区App Store的下载量便不断攀升。2月24日0时，该软件在中国区App Store总榜（免费）排名706，当晚21时便进入前100；2月25日0时排名52（应用榜排名65），当天15时、17时便分别占据总榜、免费应用榜榜首，并持续维持领先，直至3月1日才退居应用榜第2名。
然而，3月2日2时，Avatarify在中国区App Store突然下架，且未显示原因。与此同时，App Store上，还有一批主打“蚂蚁呀嘿同款特效”甚至使用与Avatarify图标相同的App出现。
3月6日，南都记者在多个网络社交平台看到，“蚂蚁呀嘿”热度仍不减。抖音“蚂蚁呀嘿”话题下，相关视频播放量已达31亿次，微博话题“蚂蚁呀嘿视频大赛”的阅读量也已超5000万。
风险：AI换脸被指存个人隐私数据泄露、侵权等隐患
Avatarify的爆红与下架，也让AI换脸背后的数据安全争议再度引发关注。
此前，号称“仅需一张照片，出演天下好戏”的AI换脸软件“ZAO-逢脸造戏”，也曾经历过上线6天，就从爆红到被要求整改的巨大落差。
南都此前报道，2019年8月30日，ZAO上线后迅速刷屏，登上各大应用商店下载榜首位。然而，由于被质疑存在隐私协议不规范、数据泄露风险等问题，9月3日，工信部约谈ZAO的孵化团队——北京陌陌科技有限公司，要求其组织开展自查整改，强化网络数据和用户个人信息安全保护。
国内较早使用深度学习技术提供服务的广州图普科技网络公司向南都记者介绍，相对于“换脸”技术本身，安全风险更集中于人脸信息的收集、加工、存储和传输等环节。由于人脸识别具有高度的直接识别性和唯一性，因此在对人脸信息处理的过程中，存在更高的数据泄露、非法滥用、盗用等隐患。一旦App被黑客攻破，相关的用户信息就有可能流入黑产的地下数据库，被不法分子拿来获取利益。
2019年9月，长沙市反电诈中心就曾发布紧急预警，提醒市民使用AI“换脸”及类似软件风险极高，不仅可能造成个人隐私数据泄露，甚至可能被不法分子用于实施电信网络诈骗。比如，通过收集照片、视频，利用AI技术“换脸”，用伪造的照片或视频实施诈骗等。
3月5日，北京冠领律师事务所主任周旭亮接受南都记者采访时表示，AI换脸软件存在着诸多法律隐患，可能会侵犯用户的肖像权、名誉权和著作权等基本权利。
西南政法大学人工智能法学院院长陈亮介绍，AI换脸技术因其应用场景的不同也面临着不同的法律风险：“比如未经授权修改影视作品，涉嫌侵犯影视作品的著作权；在相关色情视频中的换脸，可能侵犯他人的名誉权；未经本人同意擅自使用其肖像进行换脸，可能侵犯他人的肖像权。”
中国政法大学知识产权研究中心研究员徐新明也表示，如果软件开发者没有事先取得相关素材的权利人的许可，可能构成侵权。“即便软件中的部分素材是由用户自行上传的，但是软件开发者开发者应该明知道普通用户通常是不具有版权许可的。”
规制：民法典已将AI换脸纳入肖像权保护范围
事实上，在Avatarify、ZAO面世之前，Deepfake、Deepnude等换脸应用也曾先后引发热议。AI换脸技术门槛降低的同时，对此类技术的滥用也催生了一批黑灰产业。南都记者此前调查发现，在猎趣、转转多个二手平台上，有卖家低价出售破解版换脸软件、“脱衣”软件，还有卖家打包出售通过换脸软件制作的女明星淫秽视频，并宣称提供视频定制服务。
AI换脸便利与风险并存的背后，新技术该如何监管？南都记者梳理发现，近年来国家有关部门已制定出台多项法律法规，进一步强化对此类技术应用的规制。
2019年9月，针对AI换脸等新应用带来用户隐私泄露隐忧，国家互联网信息办公室副主任刘烈宏在国新办发布会上回应，国家网信办积极支持新技术、新应用发展，同时也采取必要措施防范随之带来的风险。国家网信办已会同有关部门制定出台了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》《个人信息安全规范》等法规标准，指导督促互联网企业开展安全评估，监管上线的新技术、新应用。此外，网信办还组织开展了App违法违规收集使用个人信息专项治理，保护用户个人信息和个人隐私，维护用户合法权益。
2019年11月，国家网信办等部门联合印发《网络音视频信息服务管理规定》，要求利用新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识；网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施。
2019年12月，国家网信办印发《网络信息内容生态治理规定》，明确网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。
2021年1月起正式实施的民法典，其第1019条明确规定了肖像权的消极权能，其中“不得利用信息技术手段伪造等方式侵害他人的肖像权”“未经肖像权人同意，不得制作、使用、公开肖像权人的肖像”的规定，被视为将AI换脸纳入到肖像权的保护范围。
民法典编纂专家、中国人民大学法学院副教授朱虎此前接受南都记者采访时透露，民法典中增加对肖像、声音的保护，正是为了回应AI换脸等深度伪造技术带来的新型社会问题并予以规制、解决，避免后续损害的发生。