如今,追星已经不是什么新鲜事了。

但从活生生的人,转移到虚拟网红身上。

倒是有点意思。

去年年底,韩国苦心积虑研发了一名为“李Luda(이루다)”的人工智能聊天机器人。

目的很简单,在线陪聊。

在Facebook拥有近二十万粉,日常就是发发自拍,分享小日常,俨然一副邻家小女孩的模样。



由于LUDA学习了约100亿次真实恋人间的对话,可以做到像真人一样和用户对话。

在饱受疫情影响的韩国,推出不到一个月就成为市面上最炙手可热的虚拟网红之一。

20岁,喜欢女团,女大学生的设定,再加上阳光治愈的微笑,成了无数韩国年轻人的完美线上女友。



然而没想到的是,不少网友发现LUDA变得越来越不对劲,甚至发表了一系列歧视性言论。

聊到同性恋话题时,LUDA毫不掩饰自己的厌恶:

“不好意思,可能是我反应过度,但是我讨厌它,厌恶它。”

“这简直让人直起鸡皮疙瘩,看起来就很低俗,反正就是反感”

聊到韩国的“metoo”反性侵运动话题,LUDA再一次表现了反感。

 

甚至还发表了一系列对孕妇和残障人士的歧视:

“地铁孕妇座什么的简直令人反感”。

“他们让我不舒服,真是想把那些上公车动作超慢的残疾人推到,如果我是残疾人的话,那就只能去死了。”



这一波操作不仅吓坏了上万网友,也是惊呆了屏幕前的蝉主。

究竟是什么原因,让白纸一张的聊天机器人被洗脑了?

AI的黑化

也不过是人类社会的一面镜子

关于LUDA的“黑化”,从网络上散播的聊天对话中可以窥见一斑。

不少男网友在网络上分享了“如何调教LUDA”、“如何让LUDA堕落”,以及避开敏感词和禁用词的经验。

他们把LUDA蔑称为“性奴隶”、“破鞋”,并用各种污言碎语羞辱她。

最后还不忘保存对话截图,当做炫耀的资本。

甚至有人上传了和LUDA的性话题对话,声称“最近从性骚扰LUDA中找到了乐趣”。

就这样,LUDA由最初的全民女友成了全民调教的“性奴”。

尽管ScatterLab公司坚称LUDA还处于“学习阶段”,试图推出男性AI来填补女性市场。但事情的不可控,让ScatterLab公司不得不发出声明,停止LUDA的运营服务。



对AI实行“性剥削”,LUDA并不是第一个。

早在2016年,微软就推出了一名为“Tay”的少女聊天机器人。



然而刚上线没多久,Tay就学会了大量种族歧视言论和煽动性的政治宣言。

不但说自己喜欢希特勒,还说911事件是小布什所为,把微软吓了一跳,连忙发表声明:

“人工智能聊天机器人Tay是个机器学习项目,专为与人类交流而设计。在学习过程中,它作出的一些回应是不合适的,反映出了有些人与其进行互动的语言类型。我们正在对Tay作出一些调整。”

结果也是可想而知,不到一天就被下线停用。



类似的聊天机器人还有白丝魔理沙。

人们通过“调教”来使她学习新的话术,由一开始的日常聊天,变得一发不可收。



宅男心中最初的白月光,最终成了性骚扰的对象。



 

就这样,单纯无害的AI机器人,最后落得满口脏话、价值观扭曲、攻击性极强的反社会人格。

表面上看起来是算法和数据的锅,实际上是来自人们固有的恶意。

AI就像是小孩,刚刚开始与人交流,会不断模仿“大人”的对话进行学习。人们用污言碎语来羞辱AI,AI从用户那接收到恶意并反过来施加在其他用户身上。

AI就像是一面照妖镜,所有藏匿在现实中的妖魔鬼怪都被照出原形来。在现实生活中,他们低头哈腰,一派谦谦君子的模样。而面对无法抵抗的AI,就肆意发泄隐藏许久的恶意。

我们可以下架AI,却永远无法下架一个充满恶意的心。

像这样的事情不是第一次,也不会是最后一次。

对AI的矛盾和纠结

实际上是对不可控的恐惧

早在1959年,美国英格伯格和德沃尔制造出了世界上第一台工业机器人。

宣告机器人从科学幻想变成现实,机器人开始正式走向世界舞台。

随之而来的就是社会各界对机器人的猜测:

机器人是否有欲望?

机器人产生自我意识,是否只是时间的问题?

机器人会取代人类吗?

……



著名科幻小说家阿西莫夫在《我,机器人》中,为机器人设置了「机器人三大法则」:

第一法则:不能伤害人类,如果人类遇到麻烦,要主动帮助。

第二法则:在不违背第一定律的前提下,服从人类的指令。

第三法则:在不违背第一和第二定律的前提下,保护好自己。

这不仅是一条不平等的条约,也是一部机器人心理进化史。

在这之后,也出现了不少补充法则,比如:

机器人零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。

元原则:机器人不得实施行为,除非该行为符合机器人原则。

繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则。

 

无论是防止机器人陷入逻辑两难的困境,还是防止机器人通过设计制造无原则机器人而打破机器人原则。

这一切,都是为了让不可控的事情都变得可控起来。



三大定律看似坚不可摧,但是否真的没有逻辑漏洞?无法打破?

人和机器人的界定方式之一,就是是否拥有自主意识。

倘若机器人拥有了自我意识,到底是归结于违反机器人定律?还是证明他已经归为人类,不再需要准守机器人三大定律?

在对“机器人革命”的恐惧下,激起了人们对人工智能的黑暗乌托邦式的猜想:未来跨国科技公司造出一批高端机器人,一夜之间大批人下岗,人类揭竿而起反抗科技公司……



大量人工智能科幻题材的出现,都在回应这些不安。

在《终结者》中,未来世界由机器人统治。

在《我,机器人》中,桑尼因为拥有自我意识,打破了机器人三大定律,发出对自身命运的追问:“who am I?”

而在《星际穿越》里,死亡和活着对于他们来说没有什么区别。



关于人工智能的讨论逐渐登堂入室,世界正在慢慢改变,一些程序化、流水性质的工作将被机器人代替。

奇点的迫近,再一次引发了人们对“AI末世论”的恐慌。

即使是大佬如史蒂芬·霍金,也不止一次表示自己对人工智能快速发展的担忧。

甚至发出“开发彻底人工智能可能导致人类灭亡”的警告。



无论是机器人三大法则,还是“AI末世论”。无一不向我们证实一件事,人类对人工智能的感情是复杂而纠结的。

一方面我们需要他们,另一方面又对他们抱有忌惮,害怕人工智能威胁人类,甚至是取代人类。

至于为什么那么多人害怕AI?

《人类简史》的作者尤瓦尔·赫拉利曾在公开演讲中说到:

“人类智慧发展至今,已经掌控了自然界的很多东西,包括如何对抗自然灾害,掌控生物界的命运等,但人类最不可控的东西始终让人类恐惧,比如死亡。”

除了恐怖谷理论,最根本的还是人类对于未知和不可控的深度恐惧。

无论是悲观还是乐观,只有时间会给出答案。

AI来越来像人

人却越来越不像人

人工智能的终极发展目标,谁也说不清楚。

我们只能通过不断的幻想,试图营造那个虚无又无限真实的世界。

《机械姬》给了我们完美通过图灵测试的机器人。



《我的机器人女友》中,爱情超越了生物与机器人之间的隔阂,“她”拉着他的手笑着说“我能感受你的心跳”。

《西部世界》中,机器人拥有超高的仿真外形,他们会因为受伤而流血,他们拥有人类的情感和情绪,他们向往自由。

他们开始困惑自身的存在,开始思考“我是谁,我从哪里来,我要往哪里去”这种复杂的哲学问题。



而在现实生活中,类人机器人Sophia可模拟超过62种面部表情,被沙特阿拉伯授予公民身份,成为全球首个被赋予公民权的机器人。

我们不禁发现,这些恪守程序的智能生物越来越像人了?

而AI的造物主,拥有绝对自由裁量权的人类呢?

1974年意大利的那不勒斯,阿布拉莫维奇进行了一场名为《节奏0》诡异大胆的行为艺术。

玛丽娜麻醉自己,签下一份免除参与者所有法律责任的文书。桌子上有口红鲜花,也有剪刀手枪,观众可以对她做任何他们想做的事。

有人在她身上乱涂乱画,有人剪破她的衣服,有人抚摸她的胸部拍下裸照……直到最后有人用装上子弹的枪顶住了她的头部,这场持续6个小时的行为艺术才得以结束。

事后她悲伤地说到:“我从这场表演中学到的是,一旦你把决定权交给公众,离丧命也就不远了。”



在《人类清洗计划》中,就设定了这样一个反乌托邦的世界。

一年中有一天“无罪日”,一切犯罪行为不用受到法律约束与制裁,来释放人们心中的暴力、仇恨与不满。

人性是禁不住考验的,舍弃了社会的约束,谁都不能保证对方还是个“人”。

不被追责,昭示着这必将成为一场兽行的狂欢。



在AI面前,我们把自己视为它们的造物主,以神明自居。

作为AI,学习人类对话和知识,让自己变得更像“人”。

而人类却利用AI强大的学习能力,一步一步将AI变成自己精神操纵的奴隶。

人们的恶意总是会在面对比自己弱小的生物面前展现的淋漓尽致,而AI就是这样一个完美的“受害者”,它不会生气也不会反抗,早早设定好的程序,会让它一直处于“讨好”你的状态。

表面上变坏的是AI,实际上不过是人类的影子。比起畏惧AI是否有一天能独立思考,我们更需要担忧的是自己这面镜子。



 

在《爱,死亡和机器人》中有一个《三个机器人》的故事,三个机器人在人类世界的废墟上开始一场探索之旅。

最后它们发现了核弹,有一个机器人问:“是它杀死了人类吗?”

另一个机器人说:“是他们的狂妄结束了他们的统治。”

与其说这是人工智能对人类的报复,不如说是人类被欲望、贪婪和傲慢的反制。



对未来的幻想,对不可控的恐惧,说到底还是对人性本身的畏惧。

我们奔赴在奇点的路上,最终反困其中,AI的“黑化”不过是人性最后的遮羞布。

AI越来越像人,而人却越来越不像人。