AI 还不能让你「硬盘里的老师」失业,但未来并不好说。

8 月底,美国科罗拉多州博览会艺术比赛上,一张夺得冠军大奖的绘画作品,引起了不小的争议。因为,这幅名为《太空歌剧院》的作品,是艺术家使用 AI 技术生成的。

虽然奖金只有区区几百美元,但对于真正「作画」的参赛者来说,没有生命的 AI,创作的作品超过了作为人类的自己,确实「伤害不大,侮辱极强」。

但其实,随着 DALL-E、Imagen、Stable Diffusion 等开源 AI 模型的出现,任何人,只要会打字,简单的输入几个单词,就能生成各种风格的绘图画面——而不是简单的线条,而是真正的「作品」级别的画面。



这幅由 AI 技术「创作」的作品,名字就叫《太空歌剧院》(「Théatre D'Opéra Spatial)。它在 8 月底美国科罗拉多州博览会艺术比赛上,获得了「数字艺术/数字修饰照片」一等奖|网络

AI 给了你创作的「眼睛」,但总有人要用它来寻找一些.…….更刺激的东西。

最近,一个名为 pornpen.ai 的工具在 Reddit 上走红。嗯,顾名思义,它真的是一个「涩图」界的「神笔马良」——用户都不需要输入单词,只需要选择几个标签,就可以出现一张「大尺度裸露图片」。

从 Deepfake 到 pornpen,AI 生成的成人内容已经逐渐「走上台面」,有一些网页甚至开始获得上亿浏览,尝试与传统的成人视频网站和论坛一争高下。

未来,AI 生成内容会淘汰网友硬盘里的「动作片老师」吗?人们又该如何看待这些目前还没有任何限制的「限制级内容」?

一键生成「涩图」

pornpen 的诞生,Stable Diffusion(Stability AI 最近发布的文字转图片生成模型) 模型功不可没。

Stable Diffusion 完全免费开源,它的代码都在 GitHub 上公开,在遵循原项目采用的 CreativeML Open RAIL-M 许可证的前提下,任何人都可以拷贝使用,生成任何他们想要的图像,甚至调整系统开发独立的应用或服务。

不可避免,很多用户用它制作 Deepfake、暴力、虚假新闻图片等「非主流」内容……从 hentai,到电脑生成的名人裸照,再到不存在的人的裸照。

此外,Stable Diffusion 训练数据,来自大规模 AI 开放网络项目 LAION 旗下的一个注重「美感」的数据子集 LAION-Aesthetics。

这是一个开源的 250TB 数据集,其中包含从互联网上抓取的近 59 亿张图像。

这些图像中有相对较少的"NSFW"(Not Safe For Work) 图像,但可能正是这个数据集的高视觉质量,使得 Stable Diffusion 特别适合制作成人图片,尤其是名人明星的 Deepfake 情色图片。

于是,Stable Diffusion 发布不久,pornpen.ai——首批高仿真 AI 涩图网站之一上线了。

以 Stable Diffusion 模型作为主要支持系统,pornpen.ai 的操作界面十分简洁,以菜单栏的形式呈现,用户通过选择一组标签,就可以自主定制生成女性裸露照片。



pornpen.ai 官网

pornpen.ai 的定制标签涵盖六个纬度,分别是风格基调、标签、种族、风格、场景、角度。

用户拥有极高的自主权,可以随心组合标签,全方位、多角度地捕捉模型,还可以改变生成照片的风格。

值得一提的是,pornpen.ai 的创作者明确地删除了 pornpen.ai 指定自定义文本的功能,以避免产生「有害图像」。

因此,大多数时候,pornpen.ai 生成的多数图片看起来是令人信服的;

但有时,当提示比较模糊,涉及到刻板印象或系统不熟悉的主题时,它生成的是外形奇怪的"NSFW"图片,通常有多余的四肢,器官在不寻常的地方,以及扭曲的肌肉,令人不安。



pornpen.ai 上的定制化标签|pornpen.ai 官网

pornpen.ai 有时还会在没有人的情况下自动生成图像,这可能是系统无法理解提示符造成的。

当然,pornpen.ai 的提示工程算法还会被进一步微调,新的标签将被添加,它将变得更加智能。

随着网友操作日益娴熟,用 pornpen.ai 生成的涩图在各国论坛上不断蔓延。

比如,在 Reddit 上,人们开启了 r/pornpen 的板块,目前共约 1.7W 人参与讨论,交流分享自己总结的一系列适合创作图片的标签。

「P 站」最大敌人?

和不少同类网站相比,pornpen.ai 只是个晚到的「弟弟」,已经有不少专注于 AI 生成成人内容的网站,做得相当成功。

根据 Sensity 的数据显示,2018 年排名前四的 Deepfaked 色情网站的浏览量超过 1.34 亿次。

还有网站自今年年初以来已经积累了超过 3800 万的点击量。甚至有人将其 AI 能力变成 API 接口,开放给合伙伙伴,搞得太大,以至于 Coinbase(加密货币交易所)下达禁令断掉了它的支付入口。

AI 生成类成人内容的火爆也不难理解,调查显示,目前在欧美成人网站,用户对 AI 生成的成人内容主要持有好奇态度。

正如一位 Reddit 用户所言,体验 AI 产生的 NSFW内容是一种新奇的体验,「知道它是由机器人生成的,看它的时候,会带有一种原始的好奇心,好奇它能否捕捉到引起人性的复杂性,或者它只是一种扭曲的模仿。」

新技术开启了「成人内容的新供给」,但其实它也隐藏了很多问题,而其中不少踩中了道德,乃至法律红线:

隐私侵犯

早期 pornpen.ai 用明星 Deepfake 合成类数据做训练,以至于最开始时候,pornpen 网页还有明星的标签,后来很快就被去掉了。

同时,模型的训练数据集还可能包括那些不同意自己的图像被用于此类培训的人,包括成人行业工作者。

在现有的盈利性网站上,如 OnlyFans 和 ManyVids,成人创作者必须验证他们的年龄和身份,这样公司才知道他们是自愿的成年人。

但人工智能生成的色情模特无法做到这一点,因为他们不是真实的。例如,2020 年,研究人员发现了一个 Telegram 机器人,它生成了超过 10 万名女性的侮辱性深度伪造图像,其中包括未成年女孩,这对于社会伦理道德无疑是个巨大的挑战。



图片:AI News

偏见与「凝视」

不可否认,pornpen.ai 引发了一系列道德问题,比如按钮的选择和默认选项都复制了一种非常异性恋的男性凝视。在 pornpen.ai 网页上,只有默认输出女性暴露照片一个选择,并没有同样的男性照片。其中一个原因可能是,用于训练的数据集中女性的图片更多,这无疑形成了可怕的「偏见」。

冲击成人产业

有人认为,AI 成人内容的火爆,可能会导致真人成人内容产业创造者「失业」。不过,目前从业者认为「这些内容很有趣」,真的要取代真人演员,可能还需要很长时间。

对于成人内容表演者来说,更担心的是如果 AI 类成人内容过于火爆,可能会引来更严厉的网络监管,殃及自己的事业。

法律的漏洞

目前,AI 产出的成人内容仍处于法律的灰色地带,这类内容的生产和传播都没得到有效的法律制约。

Deepfake 产生的成人内容几乎总是出于恶意,通常在未经当事人同意的情况下冲洗出来的,用来威胁和骚扰人们。这种使用算法生成的成人图像对当事人的名誉权、甚至人权都会带来巨大的伤害。

但是,目前还没有合适的法律来限制这类 AI 产出的成人内容。在美国,只有弗吉尼亚和加州,有针对 Deepfake 的成人内容的限制,但这些规定往往执行不力。

此外,根据《通信规范法》(Communications Decency Act) 的第 230 条,科技平台对几乎所有用户生成的内容都享有豁免权。

这意味着社交媒体通常不需要对平台上传播的 AI 成人内容 (无论真假) 承担法律责任,因此,常常对平台上相关的投诉不予理睬,无形中助长了 AI 成人内容的传播。

成人内容是推动互联网发展的一个重要动力,从流媒体、论坛甚至电子支付体系,都曾受惠于此。现在,反过来,技术尤其是 AI 技术的发展,也对这个古老的产业,产生了「反哺」。

以 pornpen.ai 的成人内容来说,AI 文字生成图片技术被应用于色情产业几乎是一个必然的过程。

一方面,现代色情产业一直都是最新科学技术应用的急先锋;另一方面,AI 在图像内容生成技术的发展正好迎来了突破临界点。

但是这样的「进步」,仍然需要足够的限制,可能是法律的,如针对 AI 模型刑事立法,健全法律体系;也可能是来自行业自发的,如成立协会,制定业界规范等。

毕竟,自由和限制是相辅相成的,无限制的自由,只会带来混乱,甚至毁灭。