新京报7月18日报导AI（人工智能）换脸的飓风，正为网络安全带来应战。
新京报记者近来查询发现，跟着AI技能走红以及门槛下降，售卖明星换脸的淫秽视频现已成为一门地下生意。百度贴吧中部分标榜“换脸＋女明星名字”的发帖者，售卖经过AI换脸技能组成的视频，价格可4元一部，也可158元打包购买700部视频。而多位闻名女明星频被提及。
此外，新京报记者注意到，闲鱼上还有卖家供给“定制换脸”服务。买家供给明星或私家相片，卖家即可将淫秽视频中的主角“偷梁换柱”。定制换脸视频1分钟20元－50元不等。
对此，联合国网络安全与网络违法问题高级顾问吴沈括对新京报记者标明，售卖AI换脸淫秽视频，自身现已是传达淫秽物品牟利罪，一起也侵略了肖像权。而买家购买之后加以传达或许以传达牟利，则或许构成违法。
售卖
女星频被“换脸”，35部视频打包69元
记者查找发现，“换脸”、“Deepfake”以及“FakeApp”贴吧等都存在售卖AI换脸淫秽视频的帖子。发帖者多为无头像、简略英文字母称号的用户，并且发帖用词隐晦，包含“国内外81部，诚信榜首”。
记者联系到一位名为阿长（化名）的卖家，其随后发来“80部明星组成视频列表”的压缩包，包含多部淫秽视频的列表截图，文件名上标示出多位群众熟知的女明星。
“（购买）低于15部算4元一部，超越15部算3元一部，80部全买只需68元。”阿长标明，视频文件将经过QQ文件发送，支撑、付出宝、QQ红包等付出方法。记者4元随机购买了一个标题为某闻名女明星的视频。视频中女主角脸部悉数替换成了该女明星，虽然换脸作用粗糙，但仍能一眼辨认出来。
随后，阿长附赠了相关视频的编排版别，包含多个淫秽视频的部分特点，其间女主角的脸全被替换成了这一女星。
另一位发帖的卖家林祥（化名）则是向记者发送了网盘链接，网盘中除了视频目录、截图、试看视频等文件，还包含一个独自被命名为某闻名女明星目录的文件。
“打包价158元，700部视频，买打包送截图。”林祥供给的压缩文件显现，多位女明星被换脸成主角的频率最高。
“有30分钟、40分钟的，也有5分钟的，有像的也有不像的，所以单买价格不或许相同。”林祥称，单个视频依据时长和制造作用定价。
而上述某闻名女明星目录文件中包含35部视频，打包价69元，单卖约5-10元一部。时长10分钟以上的视频为每部20－28元。
记者问询阿长，其他售卖相关视频的卖家是否也是他时，他随即否定并拿出更新目录。“他必定没这些，我这会更新”。他告知记者，这些视频并非自己制造，均来自国内某网络渠道，充值会员能够下载，然后再分销。
不过，记者经过检索并未发现这类国内网络渠道。
定制
供给相片或视频可偷梁换柱，“相片越多越像”
除了百度贴吧，二手搁置渠道闲鱼相同存在相关售卖信息。记者在闲鱼上查找“AI换脸”看到，“AI换脸 明星最全精品”、“AI换脸，合集，都懂！”等信息，实则在售卖“嫁接”了女明星脸部的淫秽视频。
记者别离与4位卖家进行了交流，其一般会供给标有女明星名字的目录截图，并以100部打包的方法售卖，价格从10元－38元不等。卖家子君（化名）告知记者，在他打包售卖的淫秽视频中，闻名女人明星被歹意“嫁接”的最多。
此外，记者检索闲鱼发现，部分卖家还供给“定制换脸”服务，买家供给明星或私家相片，卖家可将相片中的脸“嫁接”到包含淫秽视频在内的任何视频之中，制造周期为1-2天，报价1分钟20元－50元不等。
卖家高尔（化名）标明，视频资料和相片需求买家供给。“相片要多点，旁边面等各个视点，至少需求供给二十张以上。相片越多越像，没相片发视频也行”。
另一卖家要求，假如是“换脸”淫秽视频，3分钟起做。该卖家的定制价为一分钟50元、二分钟95元、三分钟135元，也就是说，买家至少要花费135元才干定制换脸淫秽视频。
记者近来在闲鱼渠道查找“AI换脸”显现9个产品售出，包含“换脸软件”、“定制换脸”和“换脸教育”，有部分卖家在产品信息中注明，“本店仅担任服务装备环境和教授基础知识，不帮助操作，请各位自觉遵守当地法令，不然后果自负”。
记者查询过程中注意到，闲鱼渠道已将部分淫秽视频售卖链接删去。
此外，记者在鼗宝查找“AI换脸”，20多家店肆有相关售卖信息。记者随机问询7家店肆，其间4家店肆供给定制服务，但有卖家清晰标明“不做黄、不办证”。该卖家还向记者默许曾有人要求他制售假证。
教育
卖家称398元包教会，学生打七折
记者在检查上述视频时注意到，部分视频有“组成联盟”的字样及其QQ号水印。记者经过这一QQ号联系到昵称为“明星组成＋教育＋代做视频”的卖家，其称不只售卖明星换脸视频和定制换脸服务，还供给教育服务。
“买教育送全套视频，600多部。”该卖家标明，他供给AI换脸视频的制造教育服务，价格398元，包教会并附赠淫秽视频600多部。“咱们用的云电脑，做出来作用是Deepfake的几十倍。”该卖家告知记者，“买云电脑送FakeApp和DeepNude。”
卖家供给的教育特点显现，用户依据指引，完结“链接到云硬盘、提取脸部数据、练习模型、换脸输出视频”四个过程就能完成AI换脸视频的制造。
“感谢你们的信赖，（学员）昨天下午刚学的，不到3个小时全会，只需想学我都会不遗余力的教你们。”该卖家的朋友圈显现，已有多位学员学习了相关AI换脸技能。
记者翻阅卖家朋友圈看到，“AI智能暑假期间一切学生凭学生证一概7折，一学就会，不费力。”而卖家供给的截图显现已有学生供给学生证信息，并购买了该教育服务。
依据《纽约时报》报导，Deepfake指的是用人工智能软件制造的虚伪视频，由FakeApp程序创立而成，FakeApp则可完成AI换脸。而DeepNude可经过人工智能将相片中穿戴衣服的人物完成“一键脱衣”的作用。
“跟着科技的开展，群众一定会面对这样的问题，DeepNude生成的相片并不是自己，而是PS后作用。”网络安全专家张百川在承受新京报记者采访时标明，现在网络上已存在部分人士开端研讨相似的算法。
一起，针对网络安全，吴沈括指出，《网络安全法》确立了网络产品和服务的安全可控准则，将别人肖像用于制造淫秽视频或许运用网络技能“作恶”，是对别人合法权益的损害。
争议
换脸视频网络扎栈，个人难防中招
其实，AI换脸技能，现已在各个范畴沿袭良久。而运用最广泛的范畴就是电影。据新京报此前报导，中国科学院计算技能研讨生张杰解说称，“这个技能简略可理解为，经过学习的方法让一个神经网络把李四歪曲过的人脸还原成实在的人脸。”该神经网络在学习后，具有了将恣意的人脸，还原成“李四”人脸的才能。
早在今年年初，一段经过AI技能将《射雕英雄传》中朱茵脸部替换成杨幂的视频在网络引起热议。记者查找发现，视频网站哔哩哔哩（B站）上存在很多AI换脸视频，且人气较高。其间，一个将蔡徐坤脸部替换成前网络游戏主播卢本伟的视频，播放量到达253.1万。不少网友在相关视频谈论区留言称“毫无违和感”、“好笑哈哈哈”。
阿乐（化名）告知者，出于猎奇和文娱心态，自己喜爱在哔哩哔哩观看AI换脸视频。“把外国人的脸换在古装人物身上，很别致。”但也有网友在相关谈论区称“AI换脸（或许用于）敲诈勒索色情诽谤，技能无罪，公然仍是人本恶”。
律师、星文娱法创始人李振武曾对新京报记者标明，视频制造者未经朱茵和杨幂答应，私行运用其肖像，虽其抗辩未有盈利行为，但在互联网语境里，流量变现以及粉丝倍增，都很难解说为非盈利行为，因而，此举或许涉嫌侵略肖像权。
有观念以为，AI换脸技能门槛正在不断下降。对此，张百川称：“放在曾经的话，技能难度非常大，现已有人开端研讨这种算法了，假如算法揭露，这种趋势将很难抵御”。
张百川告知记者，普通人或许不太简单学会AI换脸技能，但有人或许运用此项技能制成有相似功用的软件，那么普通人只需在APP上传相片即可。针对个人怎么防备，张百川标明：“很难，假如你有相片在互联网上，就会有（被运用）的危险”。
记者注意到，Deepfake和DeepNude在国外已引起热议，据《纽约时报》报导，跟着越来越多的人运用FakeApp制造名人的色情视频，FakeApp正在引起惊惧。《卫报》称此类软件为“对未来可怕的一瞥”，显现了对人工智能未来或许形成的道德问题的忧虑。
当地时间7月2日，美国弗吉尼亚州现已过一条有关色情禁令的法令修正案，成为美国第一批制止传达计算机生成的色情特点的区域之一。依据修正案，未经答应传达或出售以任何方法创造的或人处于裸体或脱衣状况的视频或静止图像都是违法的，包含虚伪创造的视频或静止图像。
在我国，依据《刑法》第三百六十三条规则，以牟利为意图，制造、仿制、出书、贩卖、传达淫秽物品的，处三年以下有期徒刑、拘役或许控制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或许无期徒刑，并处罚金或许没收产业。
联合国网络安全与网络违法问题高级顾问吴沈括标明，就中国法令来讲，售卖AI换脸淫秽视频，自身现已是传达淫秽物品牟利罪，一起在民事侵权范畴，未经答应，将别人的肖像用于投机的，也侵略了肖像权。
针对AI换脸淫秽视频的购买者，吴沈括告知记者，现在关于购买淫秽物品没有设置法令责任，首要会集在传达淫秽物品和传达淫秽物品牟利两种不合法方法。买家在购买AI换脸淫秽视频之后，加以传达或许以传达牟利，则或许构成违法乃至违法。
张百川以为，技能自身没有问题，是有人运用技能作恶，群众需在日常日子中，重视个人隐私维护。“例如即时通讯软件，有人用它作业，有人用它欺诈。”
新京报见习记者 程子姣 记者 陈维城?修改?王进雨?校正?薛京宁
