最近有一则令人震惊的消息,一则虚假视频在全球社交媒体上疯传,内容是日本首相岸田文雄的造假视频。更令人担忧的是,这样的虚假视频其实是由生成式人工智能(AI)技术制作而成的,而且全程只花了1小时。身着西装,神态紧张,语气郑重,屏幕上还配以“突发新闻”字样。
通过深度合成算法处理的“AI换脸”技术,为二次创作提供了支持,并满足了网络受众的猎奇心理和社交需求。但随着技术门槛降低与应用场景增多,人脸置换似乎变得更加具有挑战性。各国政要成为了批评的对象,比如“拜登”公然宣布第三次世界大战开始,或者“马克龙”直播回答“政府聘用灭霸”,还有“特朗普被捕”事件还没发生,“现场照片”却已经疯传……如果说仿造娱乐明星仅是一种恶搞,那么刻意生成政治人物的表态,则可能误导整个国家乃至全球公共舆论。谷歌前首席执行官埃里克·施密特曾经警告说,“2024年的选举将一团糟,因为社交媒体平台无法保护我们免受AI生成的虚假消息的侵害。”
人工智能的发展已成为全球科技革命和产业变革的核心驱动力。然而,随着人们开始思考数据算力是否具备认知水平,以及未来是否可能取代人类,伴随而来的泄露隐私、侵犯权益和扰乱视听等问题已经变得十分现实。特别是在社交媒体上,“有图不一定有真相”,使得有些人利用人工智能编造新闻、炒作热点,侮辱诽谤和实施诈骗,而且他们所面临的风险日趋降低。各国已经开始制定法律,致力于探索治理AI技术带来的颠覆性风险。在我国,《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法(征求意见稿)》等文件的出台理顺了信息安全主体责任,并明确了相应技术服务的规范、监督和管理等内容。然而,由于AI生成的数据量大且存在多次合成、多种场景等问题,实现“以技术管技术”还需要更长的路要走。
社交机器人演变成网络水军,算法推荐增强信息茧房,以及人工智能引发的“以假乱真”风潮,都让我们认识到新技术常常是一把“双刃剑”。因此,我们需要预见可能引发的规则冲突、社会风险和伦理挑战,及时对技术应用进行监管,使其发展朝着更加正面和积极的方向发展。无论是通过严格监管推动积极的研发应用环境的形成,还是借助实际案例,帮助公众认清滥用和适当使用的区别,我们都应该努力缩短技术从野蛮生长到规范发展的时间差,以最大限度地抵消技术发展所带来的“反作用力”。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 sumchina520@foxmail.com 举报,一经查实,本站将立刻删除。