图片来源：摄图网

上传一张照片，经过AI技术算法合成，立即秒变一张你想要的人脸……这样的事听起来是不是很有趣？但有趣的同时，AI换脸也带来不少问题：

不法分子借此制作虚假视频诈骗钱财、利用换脸方式侵害他人肖像、伪造人脸识别认证从事非法活动等。专家表示，人工智能新技术给社会生活带来方便的同时，也给人们隐私保护、财产及人身安全等都敲响了警钟。

前不久，河北省高阳县网警破获一起制作、贩卖、传播淫秽物品牟利案。犯罪嫌疑人李豪通过QQ群自学AI换脸技术，用明星图片制作淫秽视频在网上以每10分钟300元的价格售卖，严重侵犯了当事人的肖像权和名誉权。

李豪还根据买家特殊需求，提供“私人定制”，由买家提供素人照片资料，李豪再将照片加工制作成淫秽视频或图片卖给买家。经调查，李豪通过制作、贩卖淫秽物品非法获利近3万元。

李豪被检察机关以涉嫌制作、复制、出版、贩卖、传播淫秽物品牟利罪提起公诉。目前，案件尚未宣判。

专家指出，随着人工智能的发展，AI换脸门槛逐渐降低，普通人也能方便地制作换脸视频，满足了人们猎奇、美颜、社交等各种需求。但是，当这项技术被用于诈骗、色情、盗窃、恶搞、非法逐利等方面时，其不良效应也引发了社会的关注和担忧——放任自流，任其异化，可能成为侵害他人合法权益和危害社会公共安全的工具。

面对网络新风险，需要行业自律与司法规制相结合加以遏制。不管是经营者还是使用者，都要秉持科技向善的原则，不能利用这项技术从事违法犯罪行为。

低门槛低成本AI换脸被滥用

AI换脸是人工智能新技术，能把一张脸换成另一张脸，且表情自然，效果逼真，通常只需一张照片即可在特定的软件上完成替换，准确度几乎乱真。当然，也有些技术差的、粗制滥造的“AI脸”是“肉眼可见”的假，只能骗骗低端需求。

“网上经常能看到一些明星、网红被换脸的视频，弄成什么样的都有。不论什么类型的作品，制作人都能够通过AI换脸技术将他想要看到的形象替换上去。”北京某影视公司动画技师杨先生告诉《方圆》记者，因为制作门槛和成本越来越低，AI换脸现在有被滥用的趋势。

杨先生说，有的网站还出现了心怀不轨的人将一线女明星的形象安在了不堪入目的画面上，这对被害人女明星来说影响是很大的。大家都相信眼见为实，人们看到视频上不堪的画面时，难免都会对女明星产生一些不好的印象。

杨先生说，AI换脸技术发明之初本来是用于视频剪辑以及模拟智能学习领域，但现在越来越被滥用和不受控制。有人曾作过多次试探，发现将静态照片通过AI换脸软件生成动态视频后，在乘坐地铁进行刷脸支付进出站时可秒过。不仅如此，在刷脸认证小区门禁时也可直接上“视频”通行。

一名业内人士告诉《方圆》记者，由于线上线下都有换脸需求，目前在一些电商平台已悄然形成一个黑灰产业链：有提供软件及技术的，有提供视频和照片定制的，也有售卖成品视频类的，“不过都比较隐蔽，大多数都进行了伪装，不会明目张胆地跟人交易，但懂行的人知道他们是干什么的”。

经人指点，《方圆》记者在某宝网上搜索“AI换脸”“deepfake”（深度伪造）等关键词，出现了不少换脸软件售卖信息，包括“商业背书视频”“明星偶像互动视频”“恶搞视频”等，有的还专门标出了“动作逼真清晰”等字样，还有的能提供换脸视频制作服务等。一个某宝ID为“专业定制换脸视频”的卖家表示，可以代为制作换脸视频，3分钟以内价格为300元。

《方圆》记者还在某二手交易平台上以3元的价格购买了一款名为“fakeApp”（一键换脸）的换脸软件，根据教程，导入提供的视频素材，只需要按“提取”和“合成”键等，就可以将视频素材中的人脸进行互换，几乎看不出痕迹。

“这项技术的传播就像打开了潘多拉的魔盒，相比于正向应用，人们更担心它会被用在灰色领域，成为违法犯罪的帮凶。”腾讯公司技术专家蒋增增介绍，在金融领域的一些安防场景、网点的柜面都有应用人脸识别技术。线上银行的远程开户，P2P借贷也有人脸识别核验的功能。这些刷脸支付的方式在方便生活的同时，也存在个人信息被盗用进而影响资金安全的隐患。

业内人士表示，一旦不法分子利用人工智能技术将他人照片进行活化，就可以做出模拟真人的点头、摇头、眨眼、说话等行为，极易被用作办理网贷、盗窃或实施精准诈骗。

背后暗藏不少法律风险和侵权纠纷

图片来源：摄图网

不少案例表明，深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响了传播秩序和社会秩序，损害了大众合法权益。

同时，由于有了换脸、变声工具，社交媒介上，用户可以任意更改性别、国籍、外貌，仿真度极高、欺骗性极强，后果往往也比较严重。

在中国政法大学传播法研究中心副主任朱巍看来，AI换脸很大程度上会造成核心个人信息的泄露，会侵犯个人隐私。

“AI换脸需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频，需要进行验证确认所使用的照片的确是用户本人才行，而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等各种指示动作。在这个过程中，换脸软件实际上已经搜集了用户的面部识别信息并加以保存，因此，换脸的过程实际上存在严重的核心个人信息泄露风险。”朱巍说。

有多年互联网案件审判工作经验的北京互联网法院法官鲁宁表示，擅自使用他人肖像制作换脸视频，可能会涉嫌构成多种民事侵权行为，如侵犯他人的肖像权、名誉权等。

鲁宁说，在换脸App中，有人将自己的脸换成明星的脸，将明星的脸换成自己的脸，或者将甲明星的脸换成乙明星的脸。如果换脸后仍然保留了明星的主要面部特征，公众据此可以直接辨认出明星的身份，那么用户的这种行为就有可能侵犯明星的肖像权。

“如果再将明星的脸换到不雅视频中，或者换脸后对明星进行恶意丑化，导致公众误以为该明星拍摄了不雅视频，或者做了一些有违道德标准甚至违法违纪的行为，对明星产生负面评价或评价降低，那么这种换脸行为就可能侵害明星的名誉权。”鲁宁说。

“无论是换脸App的经营者还是普通网友，凡未经影视剧著作权人的授权和许可，擅自将换脸后的影视片段通过网络提供给公众，使公众可以在其个人选定的时间和地点进行在线播放甚至下载等，都可能涉嫌侵害影视剧著作权人的信息网络传播权。同时，如果换脸后对原影视剧片段的主旨进行了歪曲篡改，最常见的形式就是恶搞，还有可能侵害影视剧著作权人的保护作品完整权等。”鲁宁表示。

还有法律人士认为，AI换脸还可能会给信息的真实性带来挑战，给科技伦理、人身及财产安全等带来危害。“如果使用AI换脸技术公然侮辱他人或从事网络盗窃、网络诈骗等违法活动，还可能涉嫌刑事犯罪。”

东南大学网络空间安全学院副教授宋宇波以AI换脸可能给公民人身及财产安全造成潜在危害举例说，如果单纯是为了消遣搞笑而制作换脸视频，本身并没有太多的问题，但如果这一技术被不法分子利用，则会产生极大危害。

宋宇波认为，将名人或明星的脸移植到一些他们本不该出现的场景中，很有可能造成负面影响。而对于普通人来说，目前许多金融场所都依赖于视频线上识别进行身份核实，如果不法分子运用深度合成中的表情操纵方法生成伪视频，则很可能造成个人金钱损失。

多位法律人士表示，AI换脸技术的滥用，在现实生活中引发了很多侵权纠纷。北京互联网法院曾披露过一组数据：2018年9月至2020年8月，该院共受理利用网络侵害人格权纠纷案6284件，其中涉网络侵害肖像权纠纷的案件就有4109件，占到人格权纠纷案的65.4%，居于首位。

对此，吉林大学法学院教授侯学宾等专业人士表示，AI换脸已让网络侵权变得更加容易，法律规制的效果也变得难以实现。

“AI换脸不只停留于搞怪开玩笑，而且更多地被用到色情行业。在当前的AI换脸技术之前，就有人利用相关技术将各种明星的头像置换到各种色情视频获取暴利，现在的换脸技术只是让这种做法变得更为便捷。”侯学宾说，尽管依据现有法律可以对此进行规制，维护被害人的权益，但是网络的特性让这种照片或视频很难被完全消除，被侵权者只能默默忍受由此带来的伤害。

若使用必须获得单独授权

的确，技术的发展让AI换脸变简单了，下载相关的App就能实现一键换脸。闲暇无聊之时，下个换脸软件消遣一番，也不失为一种娱乐方式。不过，在法律人士看来，虽然AI换脸的门槛和成本变低了，换脸操作好像无时不在无处不在，但也并不是说想换就换，无所顾忌。在换脸这场“狂欢”里，仍然需要合理的边界和尺度。

中国互联网协会法工委副秘书长、中消协律师胡钢表示，AI换脸本身是一项中性技术，提供的只是一种解决问题的方式。

网友通过某种方式创作一些内容并完成有关表演，是法律规定公民所享有的权利。但任何一项言论或行为自由，都要和相关义务、责任进行匹配，可以有自由，但自由的边界是不得侵犯其他个人或组织的利益，也不能损害公共利益，对此必须有清晰的法律界限。

一些研究人员也表示，不同的人使用AI换脸技术，可能出于不同目的或动机，虽然采用同样的技术，但所产生的社会效果和法律效果并不相同。

AI换脸技术的开发者和经营者在授权他人使用相关产品时，一定要明白科技伦理的概念，考虑这项技术在法律上、伦理上是否可能被滥用，在开放过程中应当采取更加合法合规的措施和方式，以及注意后期的预防措施等。

“比如，产品所展现的图像本身或声音本身，开发运营者是否强调了这是经过AI技术处理的内容，是否标注了仅用于表演、娱乐字样等。这种重要的提示完全可以嵌入到相关开发技术运营单位的经营流程之中，如果能牢牢守住这一点，就能避免一些法律风险，如果守不住，就可能引来一些麻烦。”专家说。

2022年12月，杭州互联网法院审理过一起因AI换脸App利用深度合成算法侵害他人肖像权案件，最终判决App开发者赔礼道歉并赔偿损失共5000元。

原告楼晓云是一名古风模特，2022年3月，其在某短视频平台发布过一段古风汉服短视频。被告上海某公司是一款AI换脸App的运营主体。该App宣传“仅需一张照片，立即变成视频主角”“只需一张自拍，马上改头换面”。用户通过支付68元至198元不等的会员费，即可使用全部“换脸”视频模板。

原告楼晓云发现，被告上海某公司运营的AI换脸App中有她拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸，除五官发生实质性变化外，其余内容都与原视频保持一致。软件生成换脸后的古风造型视频，用户可以将其保存并分享到其他平台。

楼晓云认为，上海该公司的行为侵害其肖像权，请求法院判令该公司承担停止侵权、赔礼道歉并赔偿损失的责任。

法院审理认为，民法典明确将“不得利用信息技术手段伪造等方式侵害他人的肖像权”作为侵害肖像权的一种典型形态予以规制。在这起案件中，楼晓云对案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权。被告上海某公司未经楼晓云同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为已侵害楼晓云肖像权，依法应认定为构成对楼晓云肖像权的侵害。

法官表示，自然人的肖像权具有绝对性、专属性、排他性，人脸信息属于个人信息保护法予以特殊保护的生物识别信息，面部形象的主人有权拒绝将其面部移转至他人面部形象或身体形象中。因此，深度合成服务提供者提供人脸等生物识别信息编辑功能的，必须具有特定的目的和充分的必要性，采取严格保护措施，并取得被编辑的个人信息主体的单独授权才行。

没有获得授权就是侵权。法院据此作出判决后，被告上海某公司没有上诉，目前判决已经生效。

专家指出，使用个人信息要获得个人信息主体单独授权，是法律对公民肖像权的有力保护。民法典、网络安全法、个人信息保护法以及《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》等法律法规，对生物识别、生成合成类内容等提出了不同程度的规制要求。

于2023年1月10日施行的《互联网信息服务深度合成管理规定》又进一步明确，提供深度合成服务，应当进行显著标识。若提供人脸、人声等生物识别信息的显著编辑功能，还需取得个人信息主体的单独同意。“这是必要的信息告知，可以大大减少误会和误判的可能，避免公众混淆或者误认，对于严格区分玩笑与欺骗很有意义。”专家说。

普通人更要防止“被偷脸”

图片来源：摄图网

实际上，防止随意AI换脸不光是技术开发者和经营者的基本责任，也是每个人都要有的一种自我保护意识。

北京一位律师说，生活中我们遇到的一些AI换脸情况，主要是网红和明星居多，因为她（他）们社会关注度高，容易吸引眼球，大家就以为AI换脸好像是网红和明星的事，和普通人关系不大。实际上这是一种错觉，AI换脸不是网红、明星的专利，它离我们每个人其实很近，有时就在身边。

北京某安防公司一位专家说，从技术上看，现在的技术采集人脸信息非常简单，只要有摄像头就可以不间断采集。很多人都有这种感受，收集并使用人脸数据的工具和场景，正变得越来越多：

拥有相册读取权限的App、提供人脸解锁功能的手机厂商、进行身份验证和面部检测的各种金融类App，甚至是办公楼里的刷脸出入系统，以及无处不在的安防摄像头等。

这位专家说，除了少数采集者有采集明示或获得用户同意外，大量场景下的人脸信息采集，悄无声息。部分商城会运用人脸识别技术，收集顾客的行为和购买手段。一些高校运用人脸识别技术收集学生的抬头率、微表情、上课的姿态。另外，基于人脸图像分析的换脸、美妆、性格判断、健康状态预测等应用也很常见。

“这些静悄悄的收集方式，具有无意识性与非接触性，可以远距离发挥作用，并能长时间大规模地积累数据而不被用户察觉，具有很强的侵入性。”一位法律人士告诉《方圆》记者，近年来发生的一些AI换脸案件或纠纷，相关采集机构或人员就是这样收集人脸数据进而转卖进行牟利的。

2021年4月，安徽合肥警方打掉一个网络犯罪团伙，侦查人员从犯罪嫌疑人电脑里发现了10G多公民人脸数据，分门别类存放在不同电子文件夹中，而人脸数据中的当事人对此毫不知情。

法律人士提醒，防偷脸、防换脸不光是明星网红的事，普通人更要增强这方面的意识，看护好自己的人脸信息。

“作为普通个人，应当保护好自己的生物信息，避免使用收集指纹、人脸识别等生物信息的公共设施设备。对于居民小区、写字楼、经营场所强制要求业主或进出人员使用人脸、指纹识别通行，而未给予其他选择的，可向相关单位的监管部门反映和举报。”四川发现律师事务所律师黄鸿彬说。

黄鸿彬建议，个人在使用手机App或登录网站时，应仔细阅读相关的告知书和风险提示，如发现有泄露个人信息风险时应停止使用或者使用其他替代方式登录。“试用任何一款新型软件一定要认真阅读用户协议，多留个心眼。”他提醒居民，如果发现自己的人脸信息被盗用，可通过提起民事诉讼要求盗用人停止侵权、赔礼道歉并赔偿损失。如果发现盗用人可能存在大量收集个人信息的情况或者利用人脸信息实施其他犯罪时，可在第一时间向公安机关报案。

一些专业人士也建议，为防范被偷脸情况发生，有几件事尽量不要做——一是不要在网上乱发带有自己指纹信息的照片。不要在不可信的设备上录入自己的指纹。用完指纹锁或者手机后，把传感器表面上擦一下，通过这个动作可把指纹图像完全模糊化，让其失去提取的价值。

二是对于一些要求上传手持身份证照片或视频的服务，应保持警惕。

三是不下载、不使用来历不明的应用程序。避免使用陌生的无安全防护的Wi-Fi。

四是使用虹膜验证身份的敏感人群，不要随意上传照片到网络，也不要轻易接受他人拍摄照片的要求。

“家中有老人的，要做好宣传防范工作。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认一下，不要贸然转账。尤其是对于不明平台发来的广告、中奖、交友等链接提高警惕，不要随意填写个人信息，上传照片，以免被骗子‘精准围猎’。”专家说，生物信息是个人信息安全的最后一道防线，一定要守护好。即便有识别技术，也应保持警惕心理，不以此技害人，也不被此技所害。

拧紧安全阀需要法律和技术双管齐下

专家指出，深度伪造技术的滥用，确实给人们生活和社会稳定带来诸多问题和挑战，而且随着仿真精度的提升，这种问题还有愈演愈烈的趋势。但技术毕竟是中立的，也是不可遏制的潮流，大众对此无须谈之色变，而更应审视技术背后的责任和意图以及如何管控。

几位技术研究人员告诉《方圆》记者，既然AI时代已经到来，那大家应该做好积极应对，保证新技术被正当使用，不能放任自流，任其异化，成为侵害他人合法权益和危害社会公共安全的工具。

“重要的是拧紧‘安全阀’，这就需要法律和技术双管齐下——在法律层面，AI作恶必须有‘紧箍咒’管它；在技术层面，‘魔高一尺’还要有‘道高一丈’进行抗衡。”

《方圆》记者看到，针对近年来AI换脸乱象不断的情况，国家网信办、各地网警、检察机关、审判机关等相关部门协调配合，加大对涉及AI换脸违规违法现象的整治打击力度，办理了不少民事和刑事案件，出台了多项政策法规加强治理，效果非常明显。比如，检察公益诉讼在涉人脸识别公民个人信息保护中已经发挥了积极作用。

目前，我国刑法、民法典，以及国家有关部门出台的《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等多部法律法规及政策规定，均涉及深度合成应用的规范、侵权责任等内容。

尤其是《互联网信息服务深度合成管理规定》，对深度合成内容的用途、标记、使用范围以及滥用处罚作出具体规定，并对作为深度合成服务提供者的平台方进行审核、评估、监管等都提出了明确的要求。

“现在能想象到的AI换脸技术运用场景，都没有逸出现行法律法规及行业规定约束范围，一些机构和人员一旦涉及违法，都能找到相应领域的法律和制度规范予以打击。所以，大众对AI换脸技术不用过于担心，只要增强防范意识就好。”一位律师说。

不过，在一些专业人士看来，目前对于深度合成服务与应用方面的规范还需进一步细化和明确，要从法律和技术方面加以约束。

浙江垦丁律师事务所元宇宙法律研究部成员程念认为，深度合成技术相关的一些概念界定、平台责任边界等问题的确定，在法律上面临挑战，需要加以明晰。

专业人员说，网络平台应强化内容审核，强制要求使用深度合成技术的内容信息必须提供显著标识功能，对发布者故意将合成内容伪造成真实信息等问题，第一时间封停账号，并向监管部门报告。

北京京师律师事务所律师王琮玮认为，对于利用AI技术进行的犯罪行为，《互联网信息服务深度合成管理规定》所规范的只是提供符合市场需求的应用技术，而对于这一技术被滥用甚至从事违法犯罪行为并不能起到限制或禁止作用，当AI技术的使用上升到刑事法律层面，还需要刑法来调整。

北京瑞莱智慧科技有限公司专家唐家渝认为，在AI技术合规性方面，目前还缺乏一套科学严谨的标准机制。未来应引导学术界、产业界不断加强技术研究，利用技术创新、技术对抗等方式，持续提升和迭代深度合成检测能力，并扩展深度合成溯源、深度合成鉴定等方面的研究。

专家表示，深度伪造技术正在不断演进，AI换脸泄露个人隐私给人们造成的困扰是互联网技术发展过程中不可回避的问题。对于网络新风险的防控治理，腾讯安全专家石追认为，数据安全风险源复杂且动态，需要App开发者、应用分发商、操作系统、终端厂商、SDK和API等多环节多场景多主体共力协同，行业自律与司法实践相结合，才能发挥成效。

“尤其是行业和监管部门应当加快技术升级，研发相应的‘反换脸’检测技术，加快建立人工智能算法的安全评估制度，解决相关技术滥用问题。监管部门对于违法侵权视频，要重点关注和监测，对可能造成恶劣社会影响、危害国家安全和社会公共利益的换脸视频，要严格监管，对违法侵权行为重拳出击。”中国传媒大学教授王四新说。

（文中涉案人员均为化名。本文有删减，更多内容请关注《方圆》4月上期）

本文杂志原标题：《AI换脸，不能想换就换 》

本文为《方圆》杂志原创稿件，转载时请在醒目位置标明作者，并注明来源：方圆（ID:fangyuanmagazine）。

编辑丨肖玲燕 王丽设计丨刘岩

记者丨郭洪平

点击图片

购买《方圆》杂志

好看的人都点了在看