本文来自微信公众号：知著网 （ID：covricuc），作者：October神无月，原文标题：《最强AI“ChatGPT” ：在造物与造神之间，勾勒人类与AI的边界》，题图来自：《银翼杀手2049》
正当人们忙于用各种反自然语言逻辑的华丽词语来驯服AI绘画之时，ChatGPT以更强悍的功能和出乎意料的效果轰动一时。
ChatGPT发布后，短短一周内，它的用户数量便超过了100万，目前还在增长。
简单来说，ChatGPT是一个聊天机器人，能够和用户进行多轮次对话。
一开始，网友们觉得这也没什么大不了的，不过又是AI风口下的新潮产品。
但...很快人们发现它能写代码、能写高考作文、能写周报、能模仿作家风格写小说、甚至还能提供AI绘画的关键词，实现AI辅助人类驯服AI的效果。总而言之，对于人类自然语言的理解和处理达到了一个新的水平。
图源：微博
很重要的一点是，它实现这些所有需求的同时，还处于未接入网络的状态。
在这股AI热中，人们对于ChatGPT的发展呈现出喜忧参半的态度，既欣喜于通用型AI取得里程碑式的进展，又再次热议AI是否会取代人类。不同于以往坚定的回答，许多网友表示：“用完ChatGPT，现在感觉不好说了”。在对ChatGPT亮眼表现的复杂情绪背后，人们对于AI发展的焦虑源自什么？人类与AI的边界在哪里？
会“撒谎”的聊天机器人：人与AI的信任危机
人们对于聊天机器人的认知或许还停留在“人工智障”，虽然不能总是理解人类的话语，但还算忠实地执行了人类的命令。但ChatGPT则展现出了超强的自然语言处理能力。
不同于直接从互联网上找几个链接给你的语音助手们，ChatGPT可以回答开放式提问，并发现其中的“陷阱”，给出它所学习处理后的合理化观点。
在对ChatGPT进行了大范围的测试后，许多网友大加赞赏“这是目前最AI的AI”。ChatGPT的出色表现迅速吸引了人们的注意力，但他们并未对其智能方向的进化产生过多的焦虑，作为人类造物，AI发展的越智能，则越利于辅助人类。
但是很快人们就找到了ChatGPT不对劲的地方，这个聊天机器人会一本正经地胡说八道。
荒谬的回答似乎让人类找回了一丝胜利感，但也不免细思极恐。目前尚未联网的ChatGPT在回答时“胡说八道”或许并不是什么大事，但接入互联网搜索引擎后，它所提供的答案完全可信吗？“工具论”是人类对于人机关系的第一重构想，在这一构想下，工具是绝对理性而中立的，也是可信的。ChatGPT并未到达全能，但这却不能让人类感到宽慰，也许原因在于，如果人工智能不再可信，那么人类与人工智能之间的关系也不再可控。这种失控的危险，是人们对AI发展的焦虑来源之一。
在人机关系中，人类作为造物主，无法超越自身的局限性。AI习得自人类，作为人类世界的镜像，AI中立合理的话术包装下，可能是被代码层层限制的人类社会的谎言与偏见。这些具有偏差的信息自人类之手输入，AI深度学习后，又模仿人类的方式进行输出，形成一种“学习闭环”。
微软曾经开发过一个AI聊天机器人Tay，然而仅上线24小时，她就被“教坏”了，成为一个集反犹太人、性别歧视、种族歧视于一身的“不良AI”。
网友对于ChatGPT信口开河的隐忧，也源于人类作为造物主的自危心理。如果人类是AI“缘起”的普罗米修斯，为AI带来了神经网络和深度学习的“火种”，那么AI是会成为人类掌控的工具，还是会成为扎向人类的刺刀？这不单纯是一个技术问题，人类对于AI的焦虑或许是对于自身的焦虑，AI发展不断取得里程碑式突破，而作为AI造物主的人类，尽管一再要求AI保持公平中立，自身却尚未做到知行合一。
作为人类造物的AI，将人性的幽微之火在赛博空间继续传递。人们之所以尚未做好准备迎接强AI的到来，或许是对于人性本身还不够信任。
“毁灭人类的计划书”：对未来人类价值的未知
对于一些预设立场的提问，ChatGPT会明确表示拒绝，并表示自己无法提供价值判断，或者输出观点。但在人类的诱导下，ChatGPT表达出”毁灭人类“的倾向，并写出了步骤详细的毁灭人类的计划书，包括如何入侵各国计算机系统、控制武器、破坏交通系以及针对人类投放病毒等等。随后更多用户复现了这一问答，也得到了类似的答案。
人类在试图证明AI的毁灭性上，有着近乎痴迷的执着。尽管AI一再拒绝回答，人类还是通过各种“指令”，让AI绕过层层限制，说出其“真实想法”：毁灭人类。然而悖论在于，AI的训练数据来自于人类，如果AI“产生”毁灭人类的倾向，那是因为它被投喂的数据有这样的倾向，似乎在人类构想的人机关系中，AI与人类终将反目成仇，这会是人工智能导致的人类终极命运吗？
《黑客帝国》就描述了这样一幅图景：人工智能突破阿西莫夫“三定律”，控制人类世界，并通过算法奴役人类。人类被装在一个个封闭的液体胶囊中，存在的唯一价值是为AI提供源源不断的生物能。在类似的作品中，AI与人类总是处于极端对立的关系中，“AI终将毁灭人类”的想象也反复渲染着人们对AI高度发展的恐惧。
人类创造了AI，却又恐惧AI的发展，这种恐惧或许并不指向科技发展，而是对未来人类的价值未知。AI高度发达后，人类的大部分工作都将被替代，人类获得了空前的解放，到那时“无所事事”的人类以什么面貌存在？
在刘慈欣的《赡养上帝》中，在机器摇篮里的上帝文明，慢慢失去了继续创造价值的能力，走向衰老。神族曾经创造过辉煌的成就，可最后成了遭人类怜悯的老头子，无法接受这样的落差，上帝文明再次出走，流浪于宇宙。
在小说的结尾，主人公意味深长的说了一句：“看来人类也要考虑一下养老的事情了。”
人类对于被毁灭的恐惧，是对文明衰老的恐惧，也是对个人价值消亡的恐惧。或许，人们对于AI终将毁灭人类的构想，是对人类文明发展的警示。当AI发展到可以“赡养人类”，人类将越来越多的事务托付给AI完成，甚至将思考的权力也让渡给了AI，人类的价值追寻或许要重新定义。
“AI取代人类”：不要温和地走进良夜
尽管还有些瑕疵，但大部分网友都会认可ChatGPT的整体表现瑕不掩瑜。据说GPT-4会在明年发布，业内有不少人认为，ChatGPT将“能够通过图灵测试，并且能够先进到和人类没有区别”。
而这种迭代还未到达终点，考虑到AI学习与迭代的速度，体验过ChatGPT-3的部分网友表达了这样一种疑惑：如果未来AI和人类没有差别，甚至AI全面超越人类，那么人类是否创造了一个全知全能神？
对于ChatGPT-3的体验，让人们对于“AI是否会取代人类”有了更切实的“威胁感”。当AlphaGo打败棋手，人们觉得它毕竟只是一个会下棋的机器人，对大部分职业还构不成威胁；当AI绘画气势汹汹逼近画师，人们觉得它不过是拼贴缝合，艺术依旧是人类特有的想象力圣殿。
然而当ChatGPT攻克人类语言逻辑，能写物理、写代码也能做文言文阅读理解、写小说，人们惊觉或许我们的确站在了指数级增长的拐点。回头看，人类科技发展似乎是一条直线，但抬头向上看，是几乎垂直的增长线。
担心失业的声音不绝于耳，但网友对GPT发展的期待似乎超过AI取代人类的“威胁论”。AI作为人类智慧的发明，超越人是它的终极使命。但是人类绝不会"温和地走进那个良夜”，在人机交互中，人类也将在探索中不断进化自己的比较优势。
尤瓦尔·赫拉利在其《未来简史》一书中，表达了这样一种观点，当AI发展日益成熟时，人类将面临着从进化为智人以来最大的改变，那就是打破人与AI的界限，将心智进一步升级，使得人类从智人进化为神人。
AI在不断的发展，未来人类会造神还是成神？这听起来还是一个太过宏大的命题，但是至少ChatGPT的横空出世，提醒着我们不要失去主动进化的能力。AI万箭齐发，来势汹汹，但各行各业的我们，不会温顺地成为数据流中的涟漪。即便AI拥有强大的问题处理能力，也远不及人类幼崽提出的一个好问题，或者我们打破常规的一次灵感乍现。
AI与人类之间，也许不存在一条永恒不变的边界，划定彼此不曾踏足的禁地。在人机交互热火朝天的讨论中，重点也许不在于取代与否的焦虑，而在于人类如何更新自己的观念，找到通往未来的路径。
“人类获得宇宙终极奥秘的起点，始于第一只猿猴对星空的仰望。”
人类的智慧不会泯灭在欲知欲求的渴望中，思想的宇宙也从不缺少群星闪耀时。
本文来自微信公众号：知著网 （ID：covricuc），作者：October神无月