ai换脸，人脸识别技术？

最近有一则令人震惊的消息，一则虚假视频在全球社交媒体上疯传，内容是日本首相岸田文雄的造假视频。更令人担忧的是，这样的虚假视频其实是由生成式人工智能（AI）技术制作而成的，而且全程只花了1小时。身着西装，神态紧张，语气郑重，屏幕上还配以“突发新闻”字样。

通过深度合成算法处理的“AI换脸”技术，为二次创作提供了支持，并满足了网络受众的猎奇心理和社交需求。但随着技术门槛降低与应用场景增多，人脸置换似乎变得更加具有挑战性。各国政要成为了批评的对象，比如“拜登”公然宣布第三次世界大战开始，或者“马克龙”直播回答“政府聘用灭霸”，还有“特朗普被捕”事件还没发生，“现场照片”却已经疯传……如果说仿造娱乐明星仅是一种恶搞，那么刻意生成政治人物的表态，则可能误导整个国家乃至全球公共舆论。谷歌前首席执行官埃里克·施密特曾经警告说，“2024年的选举将一团糟，因为社交媒体平台无法保护我们免受AI生成的虚假消息的侵害。”

人工智能的发展已成为全球科技革命和产业变革的核心驱动力。然而，随着人们开始思考数据算力是否具备认知水平，以及未来是否可能取代人类，伴随而来的泄露隐私、侵犯权益和扰乱视听等问题已经变得十分现实。特别是在社交媒体上，“有图不一定有真相”，使得有些人利用人工智能编造新闻、炒作热点，侮辱诽谤和实施诈骗，而且他们所面临的风险日趋降低。各国已经开始制定法律，致力于探索治理AI技术带来的颠覆性风险。在我国，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法（征求意见稿）》等文件的出台理顺了信息安全主体责任，并明确了相应技术服务的规范、监督和管理等内容。然而，由于AI生成的数据量大且存在多次合成、多种场景等问题，实现“以技术管技术”还需要更长的路要走。

社交机器人演变成网络水军，算法推荐增强信息茧房，以及人工智能引发的“以假乱真”风潮，都让我们认识到新技术常常是一把“双刃剑”。因此，我们需要预见可能引发的规则冲突、社会风险和伦理挑战，及时对技术应用进行监管，使其发展朝着更加正面和积极的方向发展。无论是通过严格监管推动积极的研发应用环境的形成，还是借助实际案例，帮助公众认清滥用和适当使用的区别，我们都应该努力缩短技术从野蛮生长到规范发展的时间差，以最大限度地抵消技术发展所带来的“反作用力”。