被下架的AI软件现身电商平台!还有人出售女星换
时间:2019-12-21 19:49

  如果不是有人联系告知,Rose可能永远不会知道,一年前她在社交账号上发布的生活照片,被人改成了照片,如今正在网站流传。

  一套人工智能算法,数十张正常的生活照,二者结合,就能凭空生成一个女性的照片,甚至把她的脸移花接木到视频身上。类似的事情正在中国发生,多位知名女明星也中招,成为卖家的牟利工具。

  今年6月下旬,一款名为“DeepNude”的AI软件现身网络。它以人工智能算法为基础,可以识别并“删去”照片中人物的衣服,从而把正常照片转为“裸照”。据外媒测试,原始照片的清晰度越高、女性裸露的肌肤越多,转换出的“裸照”就越逼真。

  由于伪造女性裸照极具争议,DeepNude火了不到一个星期便被开发者下架。6月27日,开发者在推特发布声明称,“从未想到该软件会得到病毒式”。他承认,尽管软件生成裸照后会打上“伪造”等遮挡水印,人们软件的可能性还是很大。“这个世界还没有做好接受DeepNude的准备。”开发者说。

  开发者还表示,肯定会有DeepNude的部分副本在网上流传,如果有人从其他地方下载、分享这些副本,将违反DeepNude官网的使用条款——如今,这一判断成为了现实。对于盗版者而言,“违反使用条款”的丝毫没有力。

  南都记者检索发现,DeepNude官网关闭后,各种版本的软件先是在开源社区GitHub上流传。7月10日,GitHub全面封禁了类似项目的代码库。但DeepNude依然流入中国,并在各种社区和云盘内悄然扩散,甚至有电商平家打出“DeepNude破解版”“无水印”的名号售卖该软件牟利。

  在某电商平台,“DeepNude破解版”“无水印版”的售价在3.99元到10元不等。但根据该电商平台社区规则,用户不得发布低俗信息,也不得发布他人商标权、著作权、专利权的信息。按这些规则判断,DeepNude无疑属于违规交易物品。

  值得注意的是,部分卖家明显在用话术规避平台监管。一位卖家在商品介绍中提示,“直接拍,拍完私聊秒发货”。另一位卖家则声称“被禁言了”,在商品介绍中留下了微信号,要求买家加其微信号完成购买。还有的卖家将头像设置为二维码,提示买家通过“扫一扫”跳转进入其他平台的链接购买。

  京都律师事务所律师金杰指出,使用软件把他人照片转为裸照,属于违法侵权行为。“利用软件将他人照片转为裸照扩散,既严重侵害他人肖像权,也严重侵害他人的名誉权,让误认为是他人春光泄露,或者有其他不良行为、不良癖好,严重损害了他人的人格,也降低了他人的社会评价,是法律所严格的。”金杰说。

  出售软件是否构成违法?金杰认为,要具体情况具体分析。如果是仅限个人使用并不扩散,不会对他人造成损害,则不构成侵权。如果是出于恶意或者专门出售给某者些个人或组织,用于非法目的,则应该认定为违法或违规。

  南都记者调查发现,与DeepNude相比,另一种使用了类似算法的人工智能技术,Deepkes,在黑灰产中更受欢迎。不同于前者只能生成裸照,Deepkes主打“视频换脸”。此前火爆网络的“朱茵变杨幂”视频,便应用了相关技术。

  自2017年开始,就有基于Deepkes的换脸视频在美国网站流传。渐渐地,包括“神奇女侠”扮演者盖尔·加朵、在《复仇者联盟》饰演“寡姐”的斯嘉丽·约翰逊、《冰与火之歌》中的“Arya”麦茜·威廉姆斯在内,诸多高人气女演员接连“”,被合成到了视频中。尽管有网站宣布“”,但此类视频仍然在网上层出不穷。

  如今,这一风气也传到国内。南都记者在电商平台发现,一些商家以“动作”“敏捷换脸”“成品”等隐晦关键词叫卖Deepkes技术制作的视频,但视频中的女主角却变成了中国知名女星,涵盖一众80后到90后影视“大小花”。

  这些视频合集的售价从18.8元到199元不等。有卖家在商品介绍中写道,视频使用了深度学习技术,“误差在0.01甚至0.005”,共有 280个“精品资源”,总大小在40G左右。该卖家同时贴出的截图显示,有买家评论“做的没破绽”。南都记者注意到,为绕过平台监管,部分卖家会在发布一段时间后删除商品,并通过头像留下购买提示。

  除了电商平台,Deepkes也在外国的网站上大行其道。某知名网站2018年便宣布发布Deepkes制作的视频,但至今仍有用户上传涉及中国女明星的换脸视频,并在标题中公然打出“人工智能换脸”“AI合成”等关键词。这些换脸视频均有数十万浏览量,有的甚至超过百万。

  莫少平律师事务所律师莫少平说,商家在网上兜售换脸视频,肯定属于违法行为。根据情节不同,轻则违反《治安管理处罚条例》,重则《刑法》,构成犯罪。

  按照《治安管理处罚条例》,制作、复制、出售、出租或者淫书、淫画、或者其他物品的,处十五日以下。《刑法》中则了“制作、复制、出版、贩卖、物品牟利罪”与“物品罪”,对构成犯罪的追究刑事责任。

  而从民事层面看,未经当事人同意,以营利为目的使用的肖像,则有肖像权之嫌。虚假的视频,也可能构成名誉侵权。

  谈到暗中广泛流传的明星换脸视频,京都律师事务所律师金杰说,这些视频一旦流传出去,既是对女明星的人格,也严重损害了她们的名誉。对这类视频的扩散,应当引起重视。

  种种新政表明,监管层已注意到以Deepkes为代表的恶意的人工智能应用。今年4月提交十三届全国常委会第十次会议审议的民人格权分编拟,任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。

  5月底,国家网信办会同有关部门发布《数据安全管理办法(征求意见稿)》,其中要求,“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明合成字样;不得以谋取利益或损害他人利益为目的自动合成信息”。

  不过,这些尚未正式出台的法律法规,还无法有效 DeepNude、Deepkes及伪造裸照、视频的。

  有技术人员告诉南都记者,从实践来看,用Deepkes制作逼真度较高的换脸视频,至少需要千余张的照片。但是,目前已经出现了一些新的技术方法,即便只有一张照片,也可以制作出换脸视频。

  这意味着,不仅是女明星,任何曾在社交上公开过生活照片的女性,都可能成为恶意应用的者。

  正如前文所说的新加坡女孩Rose,她的伪造裸照在网站流传,本人却毫不知情。据新加坡the Star Online 报道,过去几周内,有数个像Rose一样的者出现。有人盗取了她们的社交照片,通过DeepNude后发上网站。并且,这些照片还在被不停地重新编辑,变得越来越多。

  如果不是被联系到,Rose可能还。“这非常令人恶心!太不尊重人了,也太了。如果有人对他们的母亲,姐妹,妻子或女朋友做这样的事呢?”Rose地说。

  美国民间组织Revenge Porn的创始人兼首席执行官Katelyn Bowden曾作出鲜明,认为DeepNude 这样的技术不应该向。“现在任何人,甚至在根本没有拍过裸照的情况下,都可能发现自己成了报复的者。”她对表示。

  “是的,这不是你真正的,但别人会以为他们看到了你的。一个Deepkes的者曾告诉我,她觉得有上千人看到了她的,她的身体好像不再是自己的了。”马里兰大学院教授Danielle Citron在接受外媒采访时说。

  全球执法者设法应对的同时,技术人员也在寻求破解之道。今年 6月初,有企业在 DEF CON CHINA 1.0大会上展示了“打假”,研究人员用深度神经网络来训练识别算法,识别伪造视频的准确率超过了90%。6月底,大学伯克利分校和南大学的研究者也发布了一项进展,据称“打假”正确率达到了92%。

  技术似乎总是比伦理跑得快。在法律和技术都还无法有效伪造裸照和视频的情况下,女性不得不更加保守和谨慎地对待社交网络。