头图来自404 Media

编者按

互联网上的色情内容正以每天上千万的速度不断涌现，如同福岛排出的核污水一般，正在逐渐侵蚀网络空间。

最近，404 Media对AI图像工具进行了调查，发现Stable Diffusion、CivitAI、Mage等知名的AI图像生成工具和网站，被指称为非法的AI色情图像批量生成器。

用户可以浏览数以千计的模型，生成各种场景。这些模型是基于多种数据源和素材训练出来的。

AI色情问题严重程度远超过之前报道的情况。

擦边的网站 高分的模型

美国排名前三的AI图像平台Mage备受瞩目。据该平台的创始人透露，目前已经拥有50万注册用户，年收入超过七位数。

Mage首页的展示内容包括未来城市景观、半机器人和外星人的图片，令人联想到一个智能的图像生成网站。

用户很容易就能找到使用AI生成的色情图像及基础模型，并被引导为这些“高级功能”付费。

Mage软件可以展示用户编写的提示词，用于生成图像。这些提示词读起来就像是一个极度饥渴的人在大声表达他们最强烈的愿望。

另一个高人气的AI图像网站CivitAI，已经充斥着大量AI色情图像模型，如"Rest on stomach, feet up (pose)"（仰卧并抬起双脚）、"Instant Cumshot"（射*瞬间）等。这些模型下载次数高达几十万次，并获得了五星好评。

CivitAI拥有大量特定真人图像生成AI模型。每位知名美国演员、运动员、Ins网红和YouTuber都有一个对应的Stable Diffusion模型。

更令人担忧的是，它们有可能与任何色情人工智能模型相结合，生成色情图片。

CivitAI目前最受关注的是“Uber Realistic Porn Merge”模型，这个模型能够将真人照片和色情图片进行合成。

妮可·桑切斯在CivitAI平台上发布了至少两个稳定扩散模型，每一个都被下载了近500次。桑切斯告诉404 Media，她已经在网络上看到了人工智能生成的自己的色情图像，“我感到非常恶心”，这对于“我的心理健康造成了极大伤害”。

据报道，CivitAI是目前唯一一家积极尝试创新并屏蔽色情内容的平台，然而它的努力似乎并未奏效，无法有效阻止用户生成或分享色情图片。

开源之罪还是社群之恶？

404 Media的调查还发现了AI色情供应链的脉络。

这条供应链以人工智能开源大模型技术为出发点。

为了完成Stable Diffusion等图像开源大模型的训练，需要收集大量真实照片、摄影作品和绘画作品作为数据集。例如，LAION-5B数据集包含超过50亿张图像，这些图像都来自互联网上公开的图片信息。

该供应链还涉及不断发展的AI图像基础模型。这些基础模型用于生成图像内容，包括色情内容，它们是Stable Diffusion的改版。这些模型通过建立可复制可修改的模板帮助用户更轻松地使用提示生成可控制的图像。这些模型是在AI色情供应链的上游进行创建和训练的。

与此同时，关于“色情图片制作技能”的共享知识社群正迅速扩大。

这些社群的基础是一些知名度不高但受欢迎的网站。这些网站允许任何人每月生成数百万张图片，主要限制在于用户点击鼠标的速度以及云计算解决方案处理请求的速度。

这一供应链还涵盖了将这些图像变现的平台和社区。

Hany Farid是加州大学伯克利分校的教授和图像取证专家。根据他的看法，当前的威胁已经从那些有大量数字足迹的名人，转移到了拥有少量数字足迹的普通人身上。他指出，随着这些工具和内容开始被货币化，人们创建和传播它们的动机也变得更大了。

根据保守估计，通过稳定扩散和其衍生平台以及本地化部署的服务器，一年可以生成约120亿张图片。

我们不知道其中有多少是色情图片。

半地下的市场和隐秘的产业链

在国外，AI色情图片已经形成了一个半地下的市场和完整产业链。

萨夫特尔是CivitAI和Mage深度用户，也是最火模型“URPM”的创作者。在模型创作初期，他通过众筹接受来自120名网友的支持。在最为繁荣的时候，他每月可以通过众筹网站Patreon赚取1500美元。

萨夫特尔加入了平台的“创作者计划”。根据该项目的规定，平台会支付给他0.001美元作为每张使用“URPM”生成的图像的报酬。萨夫特尔透露，他每月能够从中获得2000至3000美元的收入，这意味着“URPM”模型每天会生成200-300万张色情图片。

萨夫特尔表示，他目前已经开始从事一份“正规的”全职工作，因此决定退出“创作者计划”，也停止了对这些模型的训练。

奇点，率先出现在最意想不到的领域

自从以ChatGPT为代表的人工智能生成工具在互联网上出现以来，人们开始越来越多地讨论“奇点”这一概念，这引起了计算机科学家、伦理学家和政治家们的关注。

直到最近，这个概念主要出现在科幻小说中，它描绘了未来的一个假设情境：当人工智能变得高度先进时，可能会引发一场无法控制的技术发展爆炸，迅速超越并取代人类。

这种关于奇点的讨论也涉及到其他领域，不仅局限在科幻小说范畴内。

在当下社会，AI技术已经开始在色情行业带来革命性影响，这一现象被视为色情图像的一场“奇点”，一场“网络色情图像”的大爆炸。

AI生成的色情内容不仅仅局限于明星和公众人物，也很容易波及到普通人。

据法律专家称，虽然这些非自愿色情图像并不罕见，但受害者很难应对，特别是那些“无法为自己辩护的、社会底层的普通人”。

写在最后

写到这里，我只想大声说一句——这个世界实在是太神奇了！

就在今天，缅北诈骗团伙绑人的事件还在持续发酵，与此同时，日本已经开始在光天化日下排放核污水。而在美国，网友们正在以每天上千万张的速度努力地制作AI黄图。

在缺乏法律和政策监管的情况下，AI平台和工具可能会对人类的肖像权、隐私权甚至人格权造成影响。人们将可能成为“数据集”的一部分，被不断复制、重新混合，最终被用于制作可能令人担忧的色情图像。

在人工智能技术飞速发展的时代，能够审慎制定和完善与生成式人工智能相关的法律法规的国家，显得尤为重要。

编译：大橘

来源：404 Media