现在国内有股歪风,就是风险投资投人工智能赛道,专门追逐搞人工智能的教授和博士,好像人工智能是个多么多么高门槛的事情,必须教授和博士才能搞定。
一、数学
其实人工智能的基础知识很低,大学的数学课程就能应对。
人工智能涉及到的基础数学知识就是三样:概率、微积分、线性代数。
大家一定听过人工智能不可解释、人工智能有幻觉问题,其实本质就是出在了人工智能的第一性原理,因为它的本质就是:概率。概率的事情嘛,就像你在赌场赌博一样,把把都是独立事件。
大家也感觉现在的人工智能好像越来越像人了。就如同图灵测试说的那样:如果你判断不出来在幕布后面是人还是机器,那么这台机器就是人工智能。大家觉得人工智能现在真是越来越像人了,本质就是人工智能的数学原理就是基于微积分拟合的。所谓的微积分拟合就像你照猫画虎,越画越像而已。
所以现在人工智能工程用的专家人工制作提示模板进行调优、专家人工制作指令模板进行调优、专家人工进行强化学习反馈进行调优,都是因为专家人工在调教,当然越来越像人了啊。所以大家一点也不要感觉人工智能神奇。
那线性代数在人工智能领域有啥用呢?其实没啥用,就是为了方便计算简化计算而已。把很多变量很多维度,用线性代数的矩阵计算方式来计算而已,就这点作用。
二、模型
很多人说人工智能的三大门槛是:模型、数据、算力。其实这也没啥神奇的。
我们先说说模型。很多人一提到模型,肯定会提到大模型、提到Transformer。
其实Transformer一点也不神奇,甚至我都觉得Transformer可能是走错路了。
为啥会这样说呢?因为Transformer的核心思想相当原始:
1. 注意力是为了让长度越长时不要遗忘前面,不要捡了芝麻丢了西瓜。从最早的256个字节到现在的128k,主要就是受限于内存大小和内存成本了。多头注意力也是为了并行运算快而已。
2. Transformer的核心神经网络模型其实是最原始、最早的前馈神经网络,都起源于上世纪60年代了。后来虽然出现了大家熟知的CNN、RNN、LSTM等等先进模式,但Transformer其实根本没用,而是返回源头用了最原始的模型。
3. 编码器-解码器,在外人看来好像很神秘,其实编码器就是为了把输入的信息转换成向量形式便于线性代数矩阵计算而已。而解码器正好相反,把计算好的结果又还原成普通人能看得懂的信息序列。
Transformer原理就是这么简单啊,就这三个核心啊,这三个核心要义的作用我上述都讲了。
其实Transformer的作用和云平台的Docker的价值很相似,Transformer是把水泥沙子打造成一块标准砖,有了标准砖,你建猪窝还是建100层的摩天大楼你都好建了。而Docker的价值也是这样,把水泥沙子打造成一个标准集装箱,你集装箱里放各种小零碎都行,但集装箱就很好做长途运输了,一艘大船,想垒多少个都可以自由组合。
所以为啥有了Transformer后模型可以越做越大,就是因为Transformer搞成了标准砖,而且这块标准砖的内核还是最最原始的算法模型。
这就尴尬了。人类那么多聪明脑袋,花了50年研究各种精巧算法,都废了。所以2017年Transformer一出,2018年、2019年,众多教授们一看,完啰完啰,自己多年的心血没戏了。所以他们留在工业界就没啥大价值了,人工智能只剩下简单粗暴地搞算力搞海量数据高质量数据加工了,不需要这些大教授了。所以这些大教授们在2017年之后又纷纷躲回大学象牙塔内,在工商业界待不住了。
三、数据
咱们再说说数据。
数据需要两个关键:
1. 海量数据;
2. 海量的高质量数据。
为啥要这两个关键呢。
我们先来说说我们最常规的信息化,就是:我们在现实中干完事了,然后人根据我们实际干的事,打开电脑软件找到某个功能模块,然后根据我们对这件事的理解,在这个功能模块UI窗口中输入了各种字段信息。这些信息都是基于我们人的自我理解的,这些信息不是在现实实际干事的时候自动生成的,而是事中事后由人工来理解判断由人工来输入的,所以经常会出现电脑自洽、现实自洽,但电脑和现实两张皮、不一致。
那我们再说回到人工智能。为啥人工智能在2018年大模型出来之前需要海量的人工做海量的标注呢?就是因为数据质量不高,需要人工将这些海量数据打上标签,这其实和信息化输入结构性字段信息是一样本质的。
但是我们不想这么海量人工打标签怎么办?所以大模型的竞争只能是高质量的数据,而且这样的高质量数据越多越好。为啥会这样呢?就是因为高质量数据相当于在数据产生的时候就是由专业人产生的,他们产生信息的时候就不会瞎产生,而是带有一定的结构性和逻辑性,这和普通人随便说话颠三倒四是不一样的。
所以现在的人工智能大模型为啥能采用无监督无标注的学习方式呢?就是要求喂的数据就必须是高质量高结构性高逻辑性的数据。就这么本质简单。所以像图书、论文、Wiki、专业问答如SF这些数据都是高质量高结构性高逻辑性数据。所以为啥SF会屏蔽OpenAI,会和OpenAI打官司,就是因为OpenAI想免费使用SF的高质量数据,然后搞好大模型去卖钱。
但是,世界上哪里有那么多高质量的数据啊。所以没办法,前期尽量高质量数据,没有的话就选次一点的数据。大家都明白垃圾输入垃圾输出。那怎么办?那没办法啰,只能在事后补救了,这就是我们常见到的:专家人工制作提示模板进行调优、专家人工制作指令模板进行调优、专家人工进行强化学习反馈进行调优。
四、算力
最后我们讲讲算力。
很多人奇怪,老美卡了我们那么多芯片:
1. 计算机服务器的计算芯片;
2. 手机的计算芯片、通信芯片、图形芯片;
3. 现在又卡我们的人工智能芯片。
听说现在英伟达的A100和H100芯片都炒到了天价,很多人纳闷,我们现在已经有了国产的CPU,为啥我们不能拿国产CPU来进行人工智能大模型的处理呢?非得需要专门的人工智能处理芯片呢?
其实无他,人工智能大模型的原理是深度神经网络,深度神经网络的计算的数学原理是矩阵计算,咱们平常用的CPU擅长整数浮点数的四则运算,不擅长矩阵运算。当然,你也可以用咱们CPU来搞人工智能大模型,但是性能肯定很慢,就比如说你想问大模型一个问题,大模型需要计算到明天才能告诉你答案,你愿意吗?
五、没有先进落后之分,只有适用场景之分
所以人工智能并不神秘,并不复杂,我们无须妄自菲薄,我们也不需要轻视或抛弃最经典的人工智能,如:运筹学、优化算法、因果推断、时间序列预测、异常检测算法……其实这些古老的算法,一切都可深度神经网络学习,也可以用Transfomer这块标准砖来搭建。就如同若干块砖,你可以一会摆成S状,也可以一会摆成B状。
六、技术成熟度
不过我的一个朋友昨天说了一句话蛮好:技术的成熟度,就是不断从专家范围到社会范围到普通人普惠。
我想了想,还真是。
一开始流行的人工智能,如上述我写的:运筹学、优化算法、因果推断、时间序列预测、异常检测算法,都是很专家。即使我用运筹学给你做个应用模型,你也不会用。就得乙方专家做,甲方专家用。
后来,互联网兴起了,最典型的人工智能技术就是搜索(如百度)、推荐(如抖音)。这就是乙方专家做,甲方普通用户就能用。
现在,人工智能扎堆的热点是:文本/音频/视频的识别和生成,这就产生的初级应用如:数字助手、虚拟角色人、数字形象人,这就普惠了。现在任何普通人都能应用这些人工智能技术了。这就是技术的成熟度。
本文来自微信公众号:阿朱说 (ID:azhushuo),作者:吕建伟