据黄昂瑾记者报道,许多互联网用户对于“AI换脸”并不陌生。只需上传照片,就能在线体验百变换装、性别转换,乃至预测和伴侣未来孩子的长相。分享这类“换脸”后的图片或视频,已成为亲友间的一种线上社交娱乐。
然而,记者发现在娱乐领域之外,“AI换脸”也存在许多问题。一些用户反映,一些“AI换脸”App需要付费才能使用,而且付费高昂;此外,还有消费者在投诉平台上表示,他们在某个App上购买了全年会员,却发现一键换脸的模板不见了。
“AI换脸”App开发者因侵犯他人肖像权而被判罚,由于其使用的视频模板涉嫌侵权。
据行业内部人士透露,“AI换脸”所指的深度合成技术已经从工业领域转移到了消费市场,这使得其应用范围更加广泛且复杂,而相关问题也变得更为棘手。值得注意的是,若这种技术得不到谨慎使用,有可能侵犯社会交往的信任基础,对公众的名誉权、荣誉权产生负面影响,从而扰乱传播秩序和社会秩序。
用户抱怨价格高,
App开发者表示,人工智能算法和团队的成本很高,因此免费提供这样的服务是不现实的。
记者最近调查发现,利用深度合成技术开发的“AI换脸”应用程序广泛流行在各种应用软件、短视频平台和社交媒体平台上。
广州的用户小瑄告诉央广网记者:“大家基本都是抱着娱乐心态。”她曾在某短视频平台上看到一个特效,可以预测未来宝宝的长相,偶尔会和好朋友分享。她说:“预测朋友们未来宝宝的长相,平台官方特效是免费的,当时非常受欢迎,经常看到,我也试着玩了玩。”
最近发布的《互联网信息服务深度合成管理规定》对“AI换脸”技术进行了定义。根据规定,深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。其中包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
(图源自CFP)
记者在应用商店和社交媒体平台上了解到了多款提供“AI换脸”服务的App,这些App的用户评论褒贬不一。
有一款被记者随机搜索到的名为“脸猫”的App,安装次数超过300万,综合评分为2.6分。一些用户对这款App给予了正面评价,称其为“非常棒的软件,能够展现出不同风格的我”、“拥有许多漂亮的模板”。然而,也有一些用户对其表示“吐槽”,指出“还要充会员,不仅要充会员,而且最低要30,最高要200多,我建议不要弄了”、“需要花钱,都不是免费的,而且不真实,一看就是批图的,糊弄小孩……”。
名为“优颜”的App声称拥有“AI换脸视频”功能,可以替换各种热门人脸。在华为应用商店中,该App的评分为1.8分,安装次数为20万次。
在优颜App评论区,有很多用户对其收费和定价表示不满,认为每个模板都需要付费,没有免费体验的选项,价格很高,甚至没有按照承诺的限免活动。因此,他们不建议下载这个App,并表示不会再次使用。
优颜App的开发者在评论区回复说:“优颜提供大量免费视频以及免费的换脸游戏。然而,让整个应用程序都免费是不现实的,因为AI算法成本十分昂贵,我们的工程团队也需要持续的投入。”
需要特别指出的是,用户不仅对收费行为表示不满,而且在优颜App的评论区中还有人称:“所有视频都不是原创视频,全是换脸后盗用的视频。”
汉服模特视频被用作“AI换脸”App的模板,
App开发者因侵犯他人肖像权而被判罚。
目前尚不清楚优颜App使用的视频模板是否存在盗用行为,但是已经有“AI换脸”App侵权的案例先例。
近日,杭州互联网法院审理了一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件,最终判决App开发者赔礼道歉并赔偿损失共5000元。
根据“杭州互联网法院”微信公众号的内容显示,原告楼某某是一名国内汉服模特。今年3月,她在某短视频平台发布了一段视频,视频中她面部化着清晰的古风妆容,身着汉服露出半身,视频包含多段不同造型的画面。被告上海某公司(以下简称“A公司”)是一款“AI换脸”App的运营主体,其宣称“仅需一张照片,立即变成视频主角”,用户支付68元至198元不等的会员费,即可使用全部“换脸”视频模板。
原告楼某某发现,被告A公司运营的“AI换脸”App中含有楼某某拍摄的古风造型视频模板。该App允许用户上传个人照片,将视频模板中的人脸替换成用户上传的人脸,除五官变化外,其余内容与原视频相同。软件生成换脸后的古风造型视频,用户可保存并分享至其他平台。楼某某主张A公司侵犯了其肖像权,并要求法院判令A公司停止侵权行为,并赔礼道歉并赔偿损失。
杭州互联网法院指出,民法典明确规定了一种侵害肖像权的典型形态,即“不得利用信息技术手段伪造等方式侵害他人的肖像权”。其中的“利用信息技术手段伪造”是指利用信息技术手段编造或者捏造他人肖像,以假乱真,从而达到利用不存在的事物来谋取非法利益的目的。
根据杭州互联网法院审理的案件认定,楼某某在案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权。在未经允许的情况下,他人不得擅自使用其肖像。对于古风妆容并着汉服出镜的视频,即使换脸后的视频仅留存身体形象,但从未被修改的相应场景和细节,仍能够被普通人轻易识别出对应主体为楼某某。因此,该视频在上传至App作为模板供他人使用时,未经楼某某的许可,构成侵犯其肖像权的行为。
A公司未经楼某某同意,擅自使用技术手段提取古风肖像视频,并上传至其运营的换脸App,已侵犯了楼某某的肖像权。此外,用户还多次使用和收藏了涉案视频模板,可以推断A公司使用了深度合成技术,将其他用户的人脸替换到视频中的身体形象上,制作了逼真且流畅的伪造肖像视频,用户可以随意下载、保存和发布,这是不当的使用。
从上述事实看来,被告A公司未经楼某某的同意,利用深度合成技术制作了伪造视频,这明显构成对楼某某肖像权的侵害,根据法律应予以认定。
中国互联网协会法工委副秘书长胡钢在接受央广网记者采访时提到,以上述案件为例,原告发布的视频包括妆容、衣着、动作和背景设计等,这些都构成一个音像艺术作品,受《著作权法》保护。如果被告A公司未经原告允许,将原告发布的视频作为App的模板发布,可能构成对原告著作权的侵犯。
三个部门发布了一项针对深度合成管理的规定,
专家指出,对深度合成技术应用进行标识是非常重要的。
国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》(以下简称《规定》),规定将于2023年1月10日正式实施。
《规定》明确了深度合成服务提供者落实信息安全主体责任的相关要求、深度合成服务提供者和技术支持者的数据和技术管理规范,以及对深度合成服务提供者的标识要求等。
《规定》中明确规定,深度合成服务提供者和技术支持者在提供人脸、人声等生物识别信息编辑功能时,应当在使用者上线时提醒其依法告知被编辑的个人,并取得其单独同意。
《规定》表示,深度合成服务提供者在提供人脸生成、替换、操控以及改变个人身份特征的编辑服务时,如果可能造成公众混淆或误认,应在生成或编辑的信息内容的合理位置进行显著标识,并向公众提示深度合成情况。
胡钢告诉记者:“对于《规定》中关于标识的要求,举个简单的例子来说,假设有个长得很普通的人使用了‘AI换脸’App得到了一张经过美化处理的照片,其中包括了自己的容貌、体态、穿着,甚至背景都经过修改。如果这个人只是将照片保存在自己手机里,对社会和他人并没有造成影响,但如果他选择将这张照片发布出来,可能会导致混淆或误认。在这种情况下,《规定》就要求深度合成服务提供者和进行显著标识,说明这张照片是经过深度合成技术编辑而成。”
胡钢指出,这项规定实际上是在从后端往前端进行监管,重点是确保用户在发布和传播过程中有相应的标识,以防止用户误解或混淆,维护传播秩序。他表示可以将其理解为透明度监管原则,对于平台或开发者来说,这是透明度合规的重要性,并且能够保障消费者的知情权。
胡钢告诉记者,如果深度合成服务提供者没有按照要求进行标识,就是该服务提供商没有尽到向消费者提供真实全面的商品信息或者服务信息的义务,也就侵害了消费者知情权,隐瞒真相是消费欺诈的一种重要表现。他表示,本次《规定》的出台是为了鼓励新技术、新业态发展,同时也要求规范发展。
国家网信办相关负责人表示,深度合成服务在满足用户需求、提升用户体验的同时,也被一些不法分子用于制作、复制、发布、传播违法信息,诽谤、贬低他人名誉、荣誉,冒用他人身份进行诈骗等违法行为。颁布《规定》能够确立深度合成服务的“底线”和“红线”,维护网络空间的良好生态。同时,落实《网络安全法》、《数据安全法》、《个人信息保护法》、《互联网信息服务管理办法》等法律法规,为应用深度合成技术提供互联网信息服务制定系统性、专门性规定,明确各类主体的信息安全义务,为促进深度合成服务规范发展提供有力法治保障。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 sumchina520@foxmail.com 举报,一经查实,本站将立刻删除。