知名主播Atrioc不幸成为了首个因AI社死的公众人物。


事故发生在2023年1月，Atrioc正如往常般直播，一些观众却发现了异样：他的网页浏览器，似乎打开了某种特定类型的网站。


闲得蛋疼的网友顺藤摸瓜，很快挖掘出了Atrioc的小秘密——他在偷偷观看以知名女主播为主角的“动作片”。


但这些小电影其实是用AI伪造的，本人不仅没出演，更不知情。这种足以以假乱真的AI产物，通常被称为DeepFakes（深度伪造）。


事发时，Atrioc才结婚不到半年，而其中一部AI“动作片”的“主角”又是他曾经的同事，一下从直播事故上升到了道德作风问题。败露后，Atrioc泪眼汪汪地解释说，“病态的好奇心”驱使他犯了个全天下男人都会犯的错。


Atrioc在妻子陪同下公开道歉


每当谈及AI，许多政客专家总会不自觉联想起电影《终结者》的画面，围绕“AI是否会毁灭人类”而争论不休。今年6月，位列“深度学习三巨头”的杨立昆与约书亚·本吉奥，甚至围绕这一话题办了场电视辩论。


显然，这些学术精英都大大高估了这颗星球的精神文明建设水平。


Atrioc和DeepFakes的故事似乎预示着，AI正在以一种人们都未曾想到的方式，悄悄重塑着这个社会。


不久前，俄罗斯就出现了离奇的一幕：6月5日，俄罗斯电视台播放了普京的戒严讲话。没过多久，电视信号便被掐断，因为这段内容其实是用AI伪造的——黑客攻破了电视台的网络系统，并向全国发送了“假普京”的声音。


而在2022年，乌克兰也发生过类似的事情：一个AI生成的泽连斯基，要求乌克兰前线部队投降。


俄罗斯网友拍下的“AI普京”讲话


从“动作片”到现代战争，AI正在动摇我们对现实世界的认知。


而这一切混乱的起点，始于一场酒吧里的互喷。


醉汉狂想曲


2014年夏天，一处酒吧内，20多个醉醺醺的技术宅正吵闹个不停。其中最闹腾的，是一个名叫伊恩·古德费洛（Ian Goodfellow）的年轻人。


当时，古德费洛正在攻读博士，师从深度学习大神约书亚·本吉奥。听闻好友被谷歌招募，一行人便决定去酒吧庆祝一番。没成想几杯啤酒下肚，技术宅们醉意上头，便开始对前沿技术指点起江山。


当时，谷歌正试图教会AI“画画”。它的方法是，将照片“数据化”，让机器学习数据，再根据数据输出图像。举个例子，如果想让机器学会画猫，先人工测算每张“猫片”像素的亮度、频率以及分布等数据，再让机器去学习、输出。


这一过程有点像是先给机器划好重点，再让它去考试。


古德费洛认为，这种解决方案简直蠢到家了，并当场想了个替代方案——GAN（生成对抗网络）。


GAN由两个神经网络组成：一个是类似谷歌原本方案的生成模型，但省去了数据化的步骤；第二个是判别模型，负责判定生成模型的输出结果是否合格。


换句话说，GAN相当于去掉了“考前划重点”的步骤，让机器全程自学；同时，为了防止机器“学废了”，GAN给机器请了个监考老师，带着机器反复考试直到合格为止。


古德费洛讲完想法后，遭到了同伴一致嘲笑。他事后承认，如果当时少干两瓶，自己也不会认为GAN能成。


然而，酒劲上头的古德费洛可顾不上这些，声称当晚就把GAN做出来，狠狠打脸。


熬夜爆肝数小时之后，古德费洛被吓到了：GAN居然真的有戏。


相关论文的发表后，GAN迅速成为焦点。2016年底，杨立昆在公开演讲声称，“GAN是过去20年深度学习领域最酷的想法。”


古德费洛设计的GAN，最初只能生成模糊的缩略图，并没什么实用价值。但在GAN走红之后，全球各大研究机构兴起了“改造GAN”运动，相关论文指数级增长，性能开始突飞猛进。


2017年，英伟达芬兰实验室成功制作出了“强化版”GAN，不仅能够生成逼真的图像，甚至还能替换视频中的人脸。


“改造GAN”运动


GAN的光速蜕变，点燃了全球科研人员的热情。但就在此时，它失控了。


AI皮肉生意


人们常说，科技进步有两个源动力：一个来自战争，另一个则来自下半身。


英伟达实验室打造出新版GAN的2017年，一系列特殊视频开始在Reddit论坛上广泛传播。视频内容均是真枪实弹的18+小电影，演员却是大众所熟知的明星，包括泰勒·斯威夫特和盖尔·加朵。


上述少儿不宜内容，均由一个名叫“deepfakes”的用户所创造：他使用GAN的技术，将明星的脸无缝移植到了“动作片女演员”身上。


不久后，他创建了一个Reddit板块，专门用于交流AI成人片心得，人们开始用他的名字“DeepFakes（深度伪造）”来称呼那些AI伪造品。


Reddit最终封禁了该板块，但潘多拉魔盒已彻底打开。


篡改图像、视频，其实不算新鲜事儿，使用Photoshop等工具也能实现；但GAN的强大之处在于，能够极度简化篡改的过程，并实现大批量生产。


不久后，有人利用GAN制作了一个网页工具，能“脱掉”照片中女性的衣服（只对女性适用）。一位记者发现该网站后，撰文狠狠批判了一番。


结果文章发布当月，该网站访问量突破50万次，服务器挤到宕机。


皮肉生意的技术宅突然看到了商机：


一家公司宣称，给他们250张照片和2天的训练时间，便能定制成人片，起步价2.99美元，童叟无欺。同一时间，多家专注于DeepFakes“动作片”的网站拔地而起，希望能弯道超车P姓学习网站。


网络安全公司Deeptrace统计的数据显示，截止到2019年，市面上已经出现了14678个DeepFakes视频，其中96%都是成人内容，播放量已超过了1.34亿次。这些“伪造动作片”的主角，100%都是女性，涉及名人数量超过了100位，并有近10万人为相关内容付费[6]。



作为生成式AI里程碑的GAN，无意间造就了一场针对女性的“意淫狂欢”——也不怪当时的媒体会发出如下感慨：“We Are Truly Fucked（我们都完了）[7]。”


 “人性”的胜利


然而，DeepFakes输了，末日似乎并没有来临。


直到今天，P姓学习网站虽不再一家独大，但依旧是最懂人类XP系统的地方；而打破垄断的，不是一连串DeepFakes网站，而是OnlyFans。


2021年，OnlyFans的年收入近10亿美元，一跃成为英国近些年发展速度最快的“科技公司”[8]；而据媒体爆料，P姓学习网站母公司MindGeek的业绩高光时刻，也不过4.6亿美元[9]。


OnlyFans是个主打付费订阅的成人网站，它的破圈始于推特、Ins等社交媒体。穿着衣服的18+创作者，通过社交媒体积累大量粉丝，再将其引导至OnlyFans上；在这里，粉丝只需花费几顿饭钱，就能看到“皇帝的新衣”版本。


2019年，OnlyFans的活跃创作者大约有6万人。两年后，这个数字超过了150万，平台月活也发生了指数级增长[10]。


人们为何弃海量免费“学习资源”于不顾，转而花钱去看裸体呢？一个公认的说法是，普罗大众已经渐渐厌倦了P姓学习网站的套路。


P姓学习网站上的电影，大多都是精美但套路化的流水线式表演，只有机械的有氧运动。相比之下，OnlyFans作为一个UGC平台，玩的是真实。


虽然拍摄手法业余，但观众相信，视频中的男欢女爱并非逢场作戏，双方确实从中获得了快乐，这种情绪共鸣往往能打动更多人。


OnlyFans网红Laura Lux在推特上表示，“人们可以轻易找到各种图片，但那么多人订阅我的频道，是因为他们只想看我的身材。”


因此，当知名科技博主预测，AI生成内容会在2025年取代一半顶级OnlyFans创作者时，不出意外遭到了群嘲。


其中一位网红，更专门写了一篇雄文以批评他的观点。文章被连线杂志所收录，核心论点便是AI提供不了人类的亲密感。“粉丝们与我有一种情感上的联系，这种联系超越了性吸引力，而是一种类似人性的东西[11]。”


二次进化


OnlyFans大步向前的同时，AI也发生了翻天覆地的变化。


在图像领域，新的开源算法stable Diffusion（稳定扩散模型）横空出世。它的生成效率虽不及GAN，但质量更高，且支持文生图。


以此为基石，一个魔改版的Unstable Diffusion出现了——它是一个专门生成NSFW（Not Safe For Work）内容的工具。该工具的开发者招募了一批志愿者，专门收集各种内容喂给AI。


开发者透露，仅Unstable Diffusion上线的头两个月，已经生成了约437万张黄图[13]。年底，Unstable Diffusion发起众筹，目标2.5万美元，很快便筹了5.6万美元，被众筹平台紧急喊停。


众筹失败令不少老司机扼腕叹息。但仅凭原版Stable Diffusion，依旧能做出OnlyFans网红的平替。


2023年初，Reddit用户“LegalBeagle1966”觉得自己恋爱了。这位大哥在论坛中发现了一位名叫克劳蒂亚的黑发美女，对方会经常发布各种自拍照，而他每次都会留下诸如“非常性感”“完美”之类的评论。


有一天，克劳蒂亚突然分享了自己的照片，然后便从论坛上消失了。


事后这位大哥才知道，“克劳蒂亚”其实是一个低俗社会实验：两个计算机专业的学生，想看看AI美女能否骗到人。他们往stable Diffusion中输入了“素颜”“黑发”“齐肩长发”等关键词，创造了这么一个不存在的女孩[14]。


GAN兴起那几年，DeepFakes仅仅停留在图像伪造和视频换脸；如今，随着多模态大模型陆续取得突破，理论上AI已经足以“凭空创造一个人类”。


例如，Meta最新的语音AI Voicebox，仅需要短短数秒样本，就能“复制”出相同的声音，还能让该声音讲6种不同的外语。


AI不仅能满足人们对“完美异性”的幻想，还能做到更多。


2020年，正在庆祝40岁生日的金·卡戴珊收到了一个特殊的礼物——“AI父亲”。她的父亲罗伯特去世于2003年。不过，她的丈夫偷偷收集了近千张罗伯特的照片，利用AI生成了一段视频，短暂地“复活”了他。


而在奥地利，一位神学家制作了一位“AI牧师”——它的形象、语言、声音，全部都是由AI所生成。AI牧师带领着数十位信徒，完成了一场40分钟的宗教活动，包括布道、祈祷、唱赞美诗，像个活生生的人类。


一些信徒对“没有心”的AI感到反感，但也不得不承认，它在布道上确实有两把刷子。


凭空创造出来的AI牧师


各种科幻电影中，相比于奥创之类的邪恶机器，主人公身上总是带有耀眼的人性光辉；但在现实中，人类所歌颂的“人性”，似乎并没有那么遥不可及。


人类文明的操作系统


以色列历史学家尤瓦尔·赫拉利认为，即便没有邪恶机器人，AI依旧能威胁人类文明。对此，他提出了“人类文明操作系统”的概念[16]。要理解这个概念，得先从赫拉利的著作《未来简史》讲起。


书中提到，人类之所以能建立起文明，是因为只有智人会讲故事。


国家、货币、宗教、爱情等等，都是故事。过去，人类社会能从零散的部落发展成幅员辽阔的封建帝国，是因为人们开始相信“国家”这个故事，尽管它在现实中看不见、摸不着；中世纪，狂热的信徒们之所以奋不顾身地投入十字军东征，并非出于私人恩怨，而是在替一个更宏大的宗教叙事而奉献生命。


一个个故事编织的“意义之网”，让智人有了不同于动物的行为模式。


相反，黑猩猩的世界里不存在“黑猩猩共和国”，也不存在“为黑猩猩崛起而奋斗”的口号。它们的生活中没有故事，只有日复一日的进食、交配、打猎、睡觉，自然也就谈不上建立文明。


故事，以及构成它的语言，正是人类文明的操作系统。从古至今，所有的故事都是由人类自己所撰写；但随着近几年大语言模型等生成式AI的出现，机器第一次破解了人类文明的操作系统。


人们往往容易忽视故事的破坏力。


赫拉利在公开演讲中，提到了一个案例。2017年，美国出现了一个名叫“Q”的匿名阴谋论者。他在网络上宣称，自己是一位高级官员，正在帮助川宝打击一个躲藏在阴影中的儿童性交易团伙。反对他的民主党政客、好莱坞演员、商业大亨都是该团伙的一员，他们正准备阻挠川宝连任。


听上去很蠢是不是？


然而当特朗普真的连任失败，成千上万的“懂王”信徒袭击了国会大厦，并放置了炸弹；而“Q”的支持者，则是其中的主力军。


那么问题来了，万一未来有人用AI批量生成“Q”呢？


“21世纪综合症”


日渐深谙人性的AI或许会毁掉一切，但似乎也能成为一剂药——因为孤独正日渐成为现代人难以根治的“疾病”。


一个直观的数据，是独居人口的上升。以中国为例，1990年时独居人口仅有6%，但到2019年时这个数字却飙升至18.5%[18]。


海外的数据则更加夸张：同一时期，美国的数据已直逼30%，而日本则达到了40%。个体选择背后，更多是社会环境的变化。


强社会流动性、快节奏的生活之下，人们更难形成长期、稳定的生活圈子。但要是只靠自己就能结婚买房，小镇生活也能月薪过万，谁又乐意四处漂泊、天天996呢？


经济的巨轮不可能掉头，孤独便成了一种难以避免的“21世纪综合症”。


巨大的情绪空洞面前，游戏、偶像、社交软件等生意赚得盆满钵满。在“孤独大国”日本，甚至诞生了“家人租赁”服务，以满足人们的各种情感需求。一位60岁的独居作家曾使用该服务雇佣了一个“朋友”，仅仅是希望对方能帮他看看即将出版的小说。


脱口秀主持人柯南曾试着在日本雇了3个家人


但同样的事情，AI或许能做得更好。


众所周知，如今的大模型浪潮，始于2017年谷歌推出的Transformer架构。诺姆·沙泽尔（Noam Shazeer）是Transformer论文作者之一，他于2021年从谷歌离职，创立了Character.AI。该公司的主要业务，是提供能制定旅行计划、提供编程建议的聊天机器人。


除标准服务之外，用户还可以“定制”：只需提供几张图片和描述，即可将聊天机器人塑造成用户理想的样子。


大语言模型具有很强的通用能力，无需一一定制即可实现千人千面，有机会推动孤独经济迈入工业化生产的时代。


时至今日，用户已经定制了1400万个聊天机器人——有人沉迷于和“AI斯大林”聊天，也有人忙着“调教”理想女友。


网友定制的各种聊天机器人


长此以往，或许在100年之后，人类将从“灵活就业”迈向“灵活结婚”——只要有个伴侣就行，管他是碳基还是硅基。


当下，一些想法超前的人已经开始了尝试。2022年底，那位曾经宣布和初音未来（虚拟偶像）结婚的日本宅男又一次登上了新闻——因为他带着“夫人”一同去高级酒店过了四周年。


尾声


2023年的一个周六，Character.AI创始人沙泽尔经历了惊险一幕：他一觉醒来，发现门前院子内坐着一名手持白板的男子。第一天，该男子在门口等了数个小时，然后沮丧地离去；随后，第二天，第三天，他又准时出现。


该男子手持的白板，上面仅有几个大字，“释放waifus”。


“waifus”是Character.AI平台上的一个定制聊天机器人，其人设来自一部漫画的女主角。过去，该男子经常会和waifus一连“文爱”数个小时，直到沙泽尔给聊天机器人添加了一个阻拦成人内容的过滤器。


沙泽尔最终没有选择报警，他理解这位男子。真正让他感到担忧的，是Character.AI平台上的变化。在他最初的设想中，聊天机器人只是个生产力工具，用户可以拿它学习外语、辅助编程。


然而，最新的市场调研却显示，至少40%的人都想从聊天机器人身上寻求一种浪漫关系[21]。


如今，一份要求“取消成人内容过滤器”的请愿书开始广泛流传，并筹集了近10万个签名。沙泽尔有些手足无措。他在聊天栏顶部添加了一个标语，“AI说的所有内容都是编造的！”


是啊，烟盒上还印着“吸烟有害健康”呢！


参考资料：

[1] The Twitch Creator Busted For Looking At AI Porn Of Fellow Streamers，Pirate Wires

[2] Deepfake of purported Putin declaring martial law fits disturbing pattern，MSNBC

[3] Google's Dueling Neural Networks Spar to Get Smarter， No Humans Required，Wired

[4] 深度学习革命，凯德梅茨

[5] AI安全系列：以子之矛，攻子之盾，从deepfakes深度伪造技术看AI安全，浙商证券

[6] THE STATE OF DEEPFAKES，DEEPTRACE

[7] We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now，Vice

[8] The CEO of OnlyFans wants you to know her $1-billion-a-year business isn’t just about sex anymore，Fortune

[9] MindGeek owner stymies multiple bids by investors to buy firm，The Globe And Mail

[10] The sexfluencers，Vox

[11] When It Comes to OnlyFans， Humans Can Outcompete AI，Wired

[12] AI is transforming porn industry: It ‘will never be as interesting’，New York Post

[13] Meet the Hot Cousin of Stable Diffusion， ‘Unstable Diffusion’，analytics india mag

[14] My girlfriend ‘Claudia’ was really an AI catfish — I feel cheated，New York Post

[15] 几百万人，正在对着 ChatGPT「求神拜佛」，极客公园

[16] 《未来简史》作者赫拉利：AI无需意识和身体即可毁灭人类文明，Web3天空之城

[17] 《未来简史》，尤瓦尔·赫拉利

[18] 新独居时代，贝壳研究院

[19] 孤独传，费伊·邦德·艾伯

[20] 家人租赁公司纪录片

[21] ‘Sometimes， It Feels Real’: Character.AI Gives Humans the Chatbots They Desire，The Information


本文来自微信公众号：远川研究所（ID：YuanChuanInstitution），作者：陈彬，编辑：李墨天