本文来自微信公众号:未尽研究 (ID:Weijin_Research),作者:周健工,题图来自:视觉中国


最近几个月以来,ChatGPT是个很热的话题,反映了革命性技术的一个特点:当它问世的时候,不管喜欢它还是不喜欢它,也不管理解它还是不理解它,大家都在谈论它。


通用人工智能


GPT为什么如此聪明?机器学习和深度神经网络在过去十年发展非常快,完成单一任务的能力超越人类的时间越来越短。后来,随着计算模型越做越大,各种单一的能力之间出现迁移,出现了智能的“涌现”和泛化,尤其是在自然语言大模型(LLM)领域,机器智能出现了一些通用化的特征。领先的人工智能公司如DeepMind和OpenAI等,都以实现通用人工智能(AGI)为使命。


ChatGPT是史上用户接受和渗透最快的产品。ChatGPT出来之后,两个月时间,达到了上亿用户。GPT变聪明的速度也非常快。ChatGPT推出来3个月后,GPT-4推出,从参加各种学业和专业的考试的成绩来看,很多方面已经达到甚至超过了人类的平均水平。它在数学、推理、多模态等方面的能力也有显著提升。


人类最聪明的大脑都在加速让大模型变得更加聪明。过去几年,关于人工智能的论文出现了爆炸性增长。全世界最知名的大学都在研究AI或者AI的应用。OpenAI团队都来自全球最顶级的大学和科技公司。最近的研究论文表明,GPT-4具有一些的自我反思和纠错能力的萌芽。GPT还具备了人工反馈的强化学习机制。这使得它在和人类交互中,建立起了数据、学习和智能的增长飞轮,变成了一个学习的永动机。


AI各项能力迅速提升

来源:kiela et al(2021),OurWorldinData<br>
来源:kiela et al(2021),OurWorldinData


通用技术


那么,我们如何判断这种技术的革命性?谈到技术革命时,大家经常使用一个概念,通用技术(General Purpose Technology)缩写也正好是GPT。最近业界有两篇论文非常有意思,引起我们的关注。


第一篇是GPT-4发布之后,OpenAI、OpenResearch和宾夕法尼亚大学四位教授公布的一项研究结果。GPT-4拥有的“通才”能力,对比美国所有行业和职业中的岗位技能,可以用来分析GPT-4对劳动力的替代程度。这份报告名为《GPTs are GPTs》,标题中的第二个GPT就是通用技术。他们初步观察,GPT照这样发展下去,对就业市场的冲击非常剧烈,对劳动力在未来经济中的作用影响会非常深远,那么它可能就应该是通用技术。


第二,微软的Micosoft Research对GPT做了一百多种的单一任务测试,认为在这个产品已经开始迸发通用人工智能的火花。所以比尔·盖茨最近说“AI时代刚刚开始”。如果了解人工智能已经有70多年的历史,就会觉得这句话具有特别的含义。现在许多人已经开始站在第四次工业革命的高度看待这一轮由ChatGPT突破所引发的新一轮AI科技浪潮。


以下是我们的观察维度:


中国vs美国。当代世界上两个创新力最强大的国家,都在押注这项技术。一些技术的预测能否变成现实,最终通过创新的努力才能实现,是一个自我满足的过程。中国和美国在这个领域投入了大量的资源。从发布的论文数量来看,中国已经超过了美国,而且,中国和美国,各自都超过了后面所有国家总和。


尽管中国的论文数量超过了美国,但是美国在人工智能研究的质量上,还是明显领先于中国。在前一百位引用最高的人工智能论文排名上,基本上都是来自美国的科技公司和大学,很少看到中国的机构。


引用最高的TOP100论文的来源机构

来源:zeta-alpha<br>
来源:zeta-alpha


中国和美国在人工智能研究上也各有侧重。中国在应用领域发展非常快,比如说视觉领域。中国人脸识别方面取得了很多应用方面的突破;当然,视觉计算在工业领域的应用,中国也走在前列。另外,中国在实体经济领域、对周围环境感知领域做了很多创新。但是,美国做了很多底层的创新、架构的创新,或者说从第一性原理出发方面的创新。整体对比下来,美国显得少而精。


其实中国这几年一直在炼制自己的大模型。全世界几百亿、千亿以上参数规模的大模型数量,中国占全球三分之一,美国占了一半,从数量和规模上,差距不像我们以为的那么明显。


但最重要的是ChatGPT的推出,换挡了整个AI创新的节奏。它建立起了人机之间的自然语言交互,而且自然语言起到了代码的作用,迅速普及了大众,渗透到各种各样的应用场景里。对于中美的差距,大家有各种各样的说法。有的说落后一年到两年,有的说两年到三年,真正的差距,正是在这种动态累积的用户反馈中,它不仅生成内容,也生成技术。


继百度文心一言推出之后,最近大家也在谈论华为的盘古大模型,还有其他大厂或者大学在训练中的模型。中国在今年年底之前,应该会有三到四个大模型,大致相当于去年ChatGPT刚推出时水平。


开源vs闭源。在PC和智能手机时代的互联网,中国没有自己的主流操作系统;现在这种既有的局面似乎又将延伸到AI大模型时代。目前,闭源模式就是所谓的微软+OpenAI,它的芯片是英伟达A100和H100 GPU在支撑,AI时代的云+智能+硬件,类似当年的Wintel联盟。


而开源模式,主要是Google的一些大模型,以及一些学术和欧洲的机构也在做的开源大模型。所以,是不是在AI时代又产生了类似iOS和安卓两大的AI操作系统,值得关注。中国在AI时代,要有自己的操作系统,也一定会有。这一使命是由企业担当,还是由国家推动?


基础模型vs垂直大模型。基础模型似乎已经变得“万能”了。GPT-4说开放安装插件之后,很多人说它已经变成了“宇宙的中心”。企业未来怎么办?其实不用担心,在垂直领域,有丰富的“私域”数据资源和深度业务场景的公司,是可以把自己的深度应用和大模型结合起来做的。这也是目前创业者和风险资本在中国比较看好的创新机会。


大模型vs世界模型。人工智能科学家杨立昆提出,大语言模型不了解物理世界,其智能没有感官基础,不是真正的智能,它只是用统计学和概率的方法,猜测下一个单词的游戏而已,这样的模型,规模再大,也无法克服其固有的差错率。所以,他提出了一个类似人脑的世界模型,最重要是对周围环境有感知。提出这一点是有意义的,GPT距离AGI仍然相当遥远,而AGI的终局在哪里,仍有很大争议,人工智能发展可能有不同技术路径探索,保持多样化的探索是有必要的。


GPT在进入物理世界。这是通用技术很重要的特点。谷歌发的多模态模型,结合了语言模型和视觉模型,让机器人在自然语言交互下,以类人的灵活方式完成了简单的跑腿任务,它已经可以感知周围环境了。而实体经济的领域, 如在建筑、产品和基础设施的设计,制造业,新材料发现,自动驾驶合成数据,供应链及采购等领域,已经开始出现探索使用GPT技术的企业。


人工智能驱动科学研究(AI for Science)人类和国家面临许多重大挑战,急待重大科学技术实现突破,而很多研发遇到了难以克服的障碍,时间和资金成本非常高,比如说创新药物研发;更加可持续、廉价、易用的能源;气候变化。AI改变整个科学研究范式的可能性,越来越受到重视。


中国更重视这一点。中国科技部会同自然科学基金委近期启动“人工智能驱动的科学研究”(AI for Science)专项部署工作,紧密结合数学、物理、化学、天文等基础学科关键问题,围绕药物研发、基因研究、生物育种、新材料研发等重点领域科研需求展开,布局前沿科技研发体系。


劳动生产率与就业


自去年以来,大量的资金涌入生成式人工智能领域。一半的资金来自微软。实际上这个领域许多最重要的公司,背后都有巨头的影子,这也是Big Tech之争,Big Science之争。微软+OpenAI,同时挑战了其他科技企业的搜索、云计算和SaaS几大业务的市场地位。


目前算力成为一个突出的问题,一方面是中美之间的算力落差,另外一方面是中美都出现了AI算力短缺。微软内部已经出现算力不足,整体给GPT让路的情况。而中国企业则是A100GPU难求。


再来看经济增长。人工智能对于经济增长影响,有两个理论经常被用来解释。第一个是鲍莫尔病。技术提升了一些部门的劳动生产率,如制造业和农业,导致这些部门的单位产品成本越来越低,需要的劳动力越来越少,也会不断压低其产品价格。


而技术无法提升一些领域的劳动生产率,比如说,很多依靠人力或深度技艺的服务业工作岗位,如教育、医疗、政府等服务部门,这些部门的单位产出成本会越来越高,会推动其价格上涨。这样两个部门的存在,使得技术进步对整个经济的劳动生产率提升的效应并没有那么明显。


服务价格上升幅度超过商品


这就产生了索洛悖论。信息技术革命发展这么快,但是为什么表现在统计数据上,总体劳动生产率增长放缓?经济学家们争论不休,但是自动化、信息技术和人工智能把高效领域的劳动力推向低效领域,尤其是发达国家的服务比重越来越大,对劳动生产率的影响,成为一个比较有力的解释。从这一点来说,人工智能能否对整个经济带来一场生产力革命,显著提升劳动生产率,取决于它能否治得了“鲍莫尔病”。


据上述研究,对GPT暴露最小的依然是动用体力的服务业,而暴露最大的职业中,大部分是白领职业。


历史上曾经发生过这种情况。当年,Excel等电子表格出来之后,淘汰了一些数据录入和表格维护类的职业,但是它又造就了基于数据分析的新职业,而且新生的比淘汰的职业数量更多。由于GPT-4可以通过自然语言实现人机交互,大模型也表现出强大的编程能力,码农圈内已经传出声音,整个程序员职业会面临一次大清洗。这次会不会和以往不一样?



我们做了初步统计,从去年12月ChatGPT出来之后,美国在知识最密集的三个领域,硅谷、华尔街和咨询,一季度的裁员数量初步统计16万,数量已经超过了去年一整年。这固然有经济衰退方面的原因,但它首先表现为“白领衰退”,在一定程度上反映出就业市场对人工智能替代一些知识工作岗位,已经开始产生预期。


经济奇点


美国一些经济学家,在金融危机之后,面对经济增长的“长期停滞”,探讨未来增长的可能性在哪里。其中之一,就是将来通用人工智能可能全面超过人类智能,带来劳动生产率的极大提升,经济会面临一个奇点,机器基本上完全取代了人类的劳动力,会在有限时间内产生无限生产力。这个理论当然受到了AGI信仰者们的拥抱。


OpenAI联合创始人之一奥特曼(Sam Altman)相信,摩尔定律不仅是半导体的创新速度,而且适用于所有人类技术创新。


按照奇点的假设,AI会取代劳动力、资本和全要素生产率。世界上只剩下两种要素推动经济增长,一个是土地,一个是资本。这两个是创造财富最基本的要素。


当生产力达到这个程度的时候,生产关系一定要做调整。当年凯因斯所担扰的“人类闲暇的过剩”,最终导致大多数劳动力可能沦为“无用之人”。这些人要怎么养活呢?于是有人提出全民基本收入的分配制度(UBI)。对于生产力奇点的假设,一些经济学家建立各种各样的模型,发现要么根本无法实现,要么还非常遥远。


马斯克挖苦说,人工智能已经成为那些AI科技专家们创造的一个新上帝。


AI的发展,让我们知道我们不知道的,也让我们不知道我们不知道的。炼制大模型的工程,与社会实验工程正在结合。


本文来自微信公众号:未尽研究 (ID:Weijin_Research),作者:周健工,此文为在英飞凌汽车创新峰会上的主题演讲,略有调整