最近,一些视频展示了著名小品演员和相声演员“飙英文”,引起了公众的惊讶。据央视于11月5日报道,视频网站上通过人工智能换脸,国产影视剧中的角色用英语说台词,人们还可以通过小程序将自己变成电影中的角色。尽管这项新技术给人们带来了欢乐,但也带来了一种名为“AI换脸诈骗”的新型骗术。不法分子利用虚拟摄像头,采用“AI换脸”功能与受害者交谈,人们可以通过这种技术做出相似度可达80%的视频,并且一台电脑只需一两分钟就可以合成一段10秒的换脸视频。因此,国家金融监督管理总局北京监管局最近发布了防范“AI换脸”等新型欺诈手段风险的提示。

人工智能技术的不断发展,尤其是最近兴起的“AI换脸”技术,让人们深切感受到科技正在以前所未有的方式改变着我们的生活。除了在娱乐领域中被用于创造有趣的应用软件外,人工智能技术还广泛应用于医疗、新闻传播、生物多样性监测等领域,为这些领域带来了新的可能性。可以说,人工智能技术的发展前景令人期待。

人工智能技术正在以惊人的速度迅速发展,技术更新换代的速度超出许多人的想象。在文字写作方面,现在相关技术已经能够在短时间内利用简短素材生成复杂内容,而且专业性和便捷性都非常强。过去,人工智能合成的语音可能显得生硬粗糙,但如今合成的语音不仅在语气、语调和音色上与真人相似,甚至还能表达情绪。

除此之外,一些人工智能技术的可访问性增加,使公众更容易使用这些技术。用户不需要具备专业知识和技能,甚至有些产品实现了“傻瓜式操作”。例如,许多视频剪辑软件或短视频平台上都提供了生成方言语音的功能,用户只需输入文字或语音素材,就可以立即生成逼真的方言版字幕,丰富自己的视频风格。

“AI换脸”行业并没有人们通常想象的那么高的门槛。通过开源算法,普通工程师可以很快地制作出一个变脸软件,因此对其源头的控制存在天然的困难。几年前,一名外国工程师利用一个开源算法项目开发了一款变脸软件,导致许多人在参加线上视频会议时纷纷化身为“阿凡达”或“马斯克”,令人啼笑皆非。

随着人工智能终端产品的广泛应用,鉴别技术和设备的普及仍然滞后,而相关规制约束也未能及时跟上技术发展的步伐。这种情况在很大程度上为某些人工智能技术的滥用提供了空间,引发了公众的担忧。

监管部门一直在持续加强监管力度。近年来,国家网信办等部门相继发布了《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等政策文件,以及陆续开展了“互联网深度合成算法备案”和“大语言模型算法备案”等相关工作。这些举措有效促进了生成式人工智能的健康发展和规范应用,对利用AI进行换脸、变声等违法犯罪行为形成了有力震慑。同时,一些知名互联网平台也在探索使用算法检测、软件识别等方法来识别人工智能生成产品,并向公众标注说明,以减少信息差,提高公众的防范意识。

新技术的应用往往经历一段“成长的烦恼”,这是新事物发展过程中的普遍问题。比如共享单车押金难退、伤亡责任纠纷,以及直播带货虚假宣传、售后难找等。解决这些问题的思路是加快规范步伐,不断完善法律法规和行业公约等“拼图”。面对人工智能技术应用门槛不断降低且触及面广的现状,积极研判和应对问题,研究出台有效措施划定新技术使用的边界、相关权责等,都应该加快推进,减少空白、增加规范。

使用人工智能技术具有多大的便利性,就可能存在多少的风险和不确定性。需要加强对生物信息数据(如人脸、声纹、指纹、步态等)的安全防护,防范包括“AI换脸”在内的人工智能技术被滥用。这需要每个人都提高防范意识,同时也需要监管部门加快完善相关规定的步伐。

非常抱歉,我无法为您提供《工人日报》的作者为吴迪的文章内容。


版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 sumchina520@foxmail.com 举报,一经查实,本站将立刻删除。

相关新闻

联系我们

联系我们

微信号:576801732

工作时间:周一至周六,9:00-17:30,节假日休息

关注公众号
关注公众号
分享本页
返回顶部