本文来自微信公众号：硅谷101 （ID：TheValley101），作者：陈茜、肖阳，原文标题：《除了OpenAI，这帮出逃的“AI叛徒”将重塑人类未来》，头图来自：视觉中国
ChatGPT背后的公司OpenAI从2015年成立以来，已经有30多个早期员工集体叛逃、自己辞职出来单干，这些初创公司或项目的融资额已经超过10亿美元，其中不少成了老东家OpenAI的对手。因此，这群OpenAI的叛逃者被称为“OpenAI黑手党”。
硅谷很多观察员认为，我们不但要关注OpenAI，更要关注OpenAI黑手党，因为这群人正在重塑人工智能的生态，进而在未来改变硅谷、改变全球科技圈和资本圈。并且，关注黑手党们在做的事情，可以了解到，他们当初的叛变理由，包括在OpenIAI发展过程中因为理念不合、目标不同，而诞生出的不同AI产品路径和技术派系，非常有意思。
所以本文我们就潜入黑手党的内部，一窥究竟他们背后的AI生态。
一、为啥叫“黑手党”？
可能有小伙伴好奇为啥叫“黑手党”，那是因为，OpenAI最早的金主爸爸们，是一个更厉害的黑手党，那就是——PayPal黑手党。
20多年前，一批PayPal的早期创业者们陆续离开公司，要么二次创业、要么成为投资人，之后衍生出如今硅谷科技界最有影响力的一批科技领袖、企业还有资本，包括大家耳熟能详的马斯克和他旗下的特斯拉与SpaceX，里德·霍夫曼和他旗下的LinkedIn和Greylock灰锁基金，以及彼得·蒂尔和他旗下的Founder’s Fund基金，以及大数据独角兽Palantir。此外，被称为Paypal黑手党的成员还创立或加入了Youtube，Yelp，Square，Kiva(key)，Slide，Geni，红杉基金等等。
而他们的影响力远远不止这张图，很多科技巨头和独角兽背后的资本运作都有PayPal黑手党成员们无形的手。
而且他们之间关系紧密，无论是创业还是投资，都喜欢抱团行动。比如说，这张图展现出的就是Paypal黑手党成员进行重叠投资的关系紧密程度。
而在1995年至2018年6月，PayPal黑手党成员及他们附属的风投公司对646家公司进行了总计1005项投资，包括Facebook、Uber、Lyft、Airbnb、Pinterest、Stripe等等，其中16%的公司接受了多名Paypal黑手党成员的投资。
而最近被推上风口浪尖的ChatGPT母公司OpenAI，诶，巧了，也是这群人搞出来的。在2015年OpenAI最开始的10亿美元融资中，PayPal黑手党中的马斯克，霍夫曼，以及彼得·蒂尔就是其中的主要投资人。
所以，如今硅谷将OpenAI出来的这30多号人和他们成立的公司称为“OpenAI黑手党”，很明显是认为这群叛逆又有天分的人才，将在未来几十年中成长为像如今“PayPal黑手党”这样有影响力的科技领袖群体。
所以，如果大家错过了PayPal黑手党的崛起，那么千万不要错过接下来十年OpenAI，OpenAI的对手们，以及叛逃出来的这群OpenAI黑手党成员的商业版图发展。我们还有机会可以观察他们，加入他们，学习他们，或者，投资他们。
当然，这里插一句，我们要聊OpenAI的关系网少不了OpenAI的联合创始人、现任CEO的传奇人物Sam Altman。
Sam在与马斯克，霍夫曼，以及彼得·蒂尔等人创立OpenAI之前，是硅谷最有人才和项目资源、最有号召力的孵化器Y Combinator，简称YC，的掌门人。YC是硅谷最有影响的聚集地之一，2005年成立以来孵化了Dropbox，Airbnb，Stripe，Reddit等等科技巨头。Sam在成为YC新掌门人的时候，才28岁，一战成名。
而来到OpenAI之后，他手中强大的YC派系的人脉关系、融资能力、人才资源，以及他本人多年的投资背景以及孵化项目所形成的“以产品为导向”的路线理念，一路将OpenAI从一个研究实验室成长为如今万众瞩目的人工智能明日之星。
另外，要知道，OpenAI的关系网也少不了Ilya Sutskever。有人说Sam是台前讲故事的人，而Ilya才是幕后的大神，主导了GPT-1，2，3以及DALL-E系列模型的研发。
但是，这两个人，以及OpenAI和ChatGPT开发的故事实在是有太多精彩细节可以挖了，所以我们今天先把重点放在OpenAI成长路程中“叛逃”出去的OpenAI黑手党成员身上；而OpenAI崛起的故事，我们下期来详聊。
好，接下来，我们来聊聊这群叛徒。首先来讲，OpenAI黑手党的大哥，Dario Amodei达里奥·阿莫迪和与他创办的Anthropic。
二、“大哥”：达里奥·阿莫迪和Anthropic
达里奥·阿莫迪是一个意大利裔美国人，本科斯坦福大学物理系，普林斯顿大学生物物理学博士，然后回到斯坦福做了3年的博士后，之后加入了在硅谷的百度团队，研究深度学习，包括语音识别和自然语言处理。
哥们儿做得很不错，在2015年第二季度还获得了百度的“季度明星员工”称号。他在自己的领英上写到：自己和当时的团队使百度实验室英语语音系统的单词错误率相对降低了 35%，中英文解码速度提升10倍，中文系统的训练速度提高了 27%，内存使用量减少了 50%，从而大幅提高了整个实验室的生产力和计算效率。而他自己也是百度内部神经网络库的联合开发者。
但阿莫迪只在百度待了一年，然后就跳槽去了谷歌。百度是不是现在很后悔没有留住这个人才。但是，大哥可能就不是能待得住大厂的性格，在谷歌的时间更短，只干了10个月就跳槽去了OpenAI。
阿莫迪算得上是OpenAI的元老级员工了，2016年7月加入，带领AI安全团队。之后的4年半，他做到了研究团队的副总裁，发了很多论文，并且他本人就是在OpenAI设定总体研究方向、撰写研究路线图的两名负责人之一，并且带领团队构建了GPT-2和GPT-3。
所以，阿莫迪在OpenAI的重要性可以说是非常核心的，这也是为什么在2020年底，他带着自己的10名心腹离开OpenAI，包括他自己的亲妹妹Daniela Amodei，创办了自己的初创企业 ，而这趟出走被硅谷媒体称为“AI叛徒”。
其实， 不止阿莫迪和他的手下，2020年底的时候，OpenAI走了好一批人。因为在2019年的时候，OpenAI发现训练大模型太烧钱了，光靠早期马斯克、霍夫曼和彼得·蒂尔等人的10亿美元根本打不住，所以不得不接受了来自微软10亿美元的投资。这在团队中引发了很大的分歧，因为OpenAI最开始是作为NPO非盈利组织存在的，但阿莫迪这一派人认为，OpenAI开始商业化之后变得越来越不透明且逐渐功利化，让他们感到担忧。一个最直接的例子就是，OpenAI尚未解决生成式人工智能中的偏见和安全问题，就把 GPT-3开发成了商用化的API接口，提供给行业里的大公司使用。
但“OpenAI商业化、站队微软”只是阿莫迪叛逃的第一个原因。而更大的一个原因在于，他不同意OpenAI如今开发人工智能的路径。
我看了好一些他的早期和现在的采访，发现阿莫迪对OpenAI现在烧钱堆算力的“大力出奇迹”的方式，也早就表现出不认同。
阿莫迪早在2017年接受播客采访的时候就举例说，在训练语音识别AI系统的时候，行业做法是用1万小时美国口音的数据去训练，但如果遇到英国口音或者印度口音，AI就识别不了了。那行业普遍的解决方法是用足够多、全世界的英文口音去训练，足够多的数据去喂模型，那么最后的结果也能很好的泛化。但阿莫迪认为这是一个不太负责任的捷径，虽然得到结果，但不够安全，而且随机故障性很高、也更烧钱，因为AI神经网络一旦出现问题，就只能重新训练，那就更烧钱，那就只能更商业化，那就更偏离初心。
在过去几年，阿莫迪一直很担心，“知其然不知其所以然”的人工智能发展态度会带来未知的风险。人们目前知道，越来越大的模型，越来越强的算力的输入和训练可以让AI的输出的泛用性越强。
但AI一直是一个黑匣子，尽管AI专家们形容AI神经网络是按照人脑神经工作原理去设计的，但其中很多具体的原理一直没有被真正解释。
解释黑匣子很难，因为我们自己人脑的研发都还在很早期的阶段，我们自己的神经元都还没搞清楚，就把这套假设性的原理去搞人工智能，能不是黑匣子吗。
阿莫迪就担心，AI在运作的过程中，比如说特定参数之间的关系、特定的调整会导致输出结果如何变化，以及社会中客观存在的偏见如何在AI系统消除等等，太多不确定性了，如果不解决就快速投入商业化，可能会产生一些AI的安全问题。
有一个经典的AI案例是，机器学习中有一个现象叫做Reward hacking激励扭曲现象。
比如说你让机器，在学术中被称为agent，去通关吃豆子游戏。按人类设置的激励假设是，你游戏玩得更好，通关得越快，被奖励的分数就越高。但AI研究人员发现，这个激励假设很容易被AI所扭曲，AI会执迷于获得更高的分数，要么走完所有错误的路吃掉所有的豆子来获得更高的分数，要么改掉游戏设置来作弊获得更高的分数。
但是AI却从来不理解，要把走出迷宫当作真正的目标。这就叫做Reward hacking，激励模型设计和AI真实做法之间有无法预测的不确定性，而形成的激励扭曲。而当AI神经网络变得更强大而出现激励扭曲时，AI会更容易产生更想象不到的方式去作弊来得到激励。
也就是说，AI在黑匣子里做的事情，和它的设计初衷，可能会完全不同，而产生很严重且危险的后果。
但是OpenAI确实一直在走“大力出奇迹”的路线，并且以“产品化”“商用化”的路线去发展。所以阿莫迪在OpenAI联手微软之后决定叛逃，并且带走了他之前在OpenAI的一批手下，开创了Anthropic。
而在Anthropic，阿莫迪选择了和OpenAI不同的路径，就是试图真正搞懂人工智能神经网络的运行原理。阿莫迪在2022年的播客采访中坦言说，“可解释性人工智能模型”（Interpretable AI）是一个解决黑匣子问题的路径，也是他带领的OpenAI叛逃者们和Anthropic选择的路径。
因此，Anthropic为了改变这个现状制定了一套发展计划：
第一，搞清楚人工智能神经网络的原理；
第二，提供更好的网络修改工具；
第三，创造可解释的人工智能神经网络。
简单来说，阿莫迪想做一个可以颠覆现有的深度学习范式，能解决神经网络的黑匣子问题，来创造一个更强大的、更低成本迭代、可靠的、可解释的、可操纵的人工智能系统。
当然，这个目的能不能达到，黑匣子到底能不能被解释，需要多久，这些问题还不清楚，但硅谷的资本确实非常买阿莫迪的帐，Anthropic一成立就轻松拿下1.24亿美元融资。
而在2021年底和2022年3月，这个OpenAI黑手党老大哥连发两篇论文。这两篇论文我们就不详细说了，论文链接我们放在视频结尾，大家感兴趣可以自己去读。
这里结论就是，Anthropic做了一个很小规模的人工智能网络，一步步拆分看它怎么运行来理解背后的原理。结果，还真让他们发现和解释了部分的AI工作原理，包括内部的协作关系等等，得到了业内很大程度上的认可。
而凭借这两篇论文，Anthropic在2022年4月B轮融资中又筹集了5.8亿美元。
很快，时间来到2022年12月，Anthropic提出了“Constitutional人工智能”的概念，并基于此创建了一个名为Claude的人工智能模型，正式叫板OpenAI的ChatGPT。Consitutional的意思是宪章，章程，顾名思义，是用“有监督学习”的方式，让人工智能根据一套constitution中的原则来产生无害性偏好的数据集。这篇论文我也放在视频结尾，大家感兴趣可以自己去看论文。
Claude没有对公众公开，所以它的市场热度远没有ChatGPT高。但有业内测评师发表文章表示，与ChatGPT相比，Claude更倾向于拒绝不恰当请求，而且更有趣；给出的答案更冗长，但句子之间的衔接也更自然；遇到无法回答的问题时，Claude会主动坦白；在代码生成或推理方面，Claude的表现不如ChatGPT，出现的错误更多；对于其他任务，比如进行逻辑计算和推理，Claude和ChatGPT旗鼓相当。
这篇评测的结论就是：Claude不比ChatGPT差，这两者有得比，将会是很强劲的对手。我提交了评测申请，还没有得到批准。等我有机会测试了来告诉大家我的感受。
Claude发布之后，很快，2023年2月，谷歌宣布对Anthropic投资3亿美元。至此，Anthropic正式和谷歌绑定，站在了昔日老东家和微软的对手方。
随着谷歌和微软的AI世纪之战拉开序幕，OpenAI和Anthropic的两种人工智能发展路径也开始了正式对决。未来充满了不确定性，但确定的是，无论是OpenAI的路径还是Anthropic的路径，现在人工智能的研发还在非常早的阶段。而OpenAI黑手党的老大哥阿莫迪，将在这条路上扮演很重要的角色。
好，讲完了OpenAI黑手党的大哥，我们接下来看看被亚马逊创始人贝索斯投资的二哥Jeff Arnold和他的独角兽Pilot。
三、“二哥”：Jeff Arnold与独角兽Pilot
除了大哥之外，还受到硅谷风投热捧的还有OpenAI的前运营主管Jeff Arnold，我们把他称为二哥。
在加入OpenAI之前，Arnold在甲骨文担任软件开发人员，并在Dropbox担任产品、客户和平台主管。他还在 2012 年创立了开源聊天和协作平台 Zulip。也是有着非常丰富的产品经验了。二哥从OpenAI出来之后，创立了为其他初创企业和成长型企业提供会计、税务和首席财务官CFO服务的平台Pilot。
虽然一眼看上去Pilot的产品和服务不直接与人工智能相关，但是Pilot在自己的产品中也会策略性地用人工智能去提升他们的产品性能。比如说用AI中监督学习的方法去检测财务数据中的异常值等。
而我们把Jeff Arnold称为二哥也是根据公司的估值来看的。
Pilot最近的C轮融资由杰夫·贝索斯领投，在2021年3月迈入独角兽的行业。而很有可能，二哥会成为OpenAI黑手党中第一个上市的创始人，我们拭目以待。
但因为二哥跟AI没有太大关系，我们比较快地略过，而下一位OpenAI黑手党的三哥，非常重要。
四、“三哥”：Peter Chen与Covariant
OpenAI黑手党三哥叫Peter Chen，也是一位华人，伯克利大学本科和博士。Peter在OpenAI一年零四个月，担任强化学习和生成模型方面的研究科学家。2017年辞职之后创办了如今的人工智能分拣机器人公司Covariant。
Covariant公司是一个OpenAI含量相当高的公司，它的核心团队成员四位里面有三位都是从OpenAI出来的，他们除了是OpenAI黑手党，还是伯克利黑手党，除了Peter之外，还有Pieter Abbeel，2016-17年在OpenAI做研究科学家，之后在伯克利大学任教的同时，和Peter联合创立了Covariant。以及CTO Ricky Duan，也是Pieter Abbeel在伯克利的学生，曾经也是在OpenAI担任研究科学家。
Covariant这个项目在硅谷这边非常抢手。最近一次融资是2021年7月C轮的8000万美元，而它的早期投资人都是业界的大牛，包括图灵奖得主Geoffrey Hinton和Yann LeCun；谷歌AI负责人Jeff Dean，斯坦福AI实验室的前主任李飞飞等等AI学术界最有名的一群人。
而在Covariant刚融完B轮之后，Geoffrey Hinton还发了个推表示非常后悔，感叹当初应该多投100倍，算是非常看好这个项目了。
虽然OpenAI黑手党三哥Peter并没有从事ChatGPT类似的生成式AI，但AI赋能的机器人同样重要。Covariant就表示，公司核心竞争力在于“管理”，因为不同种类机器人之间最重要的是交互和协作能力，因此人工智能需要强大的管理能力才能支撑全部机器人正常运作。
目前，公司致力于分拣机器人是因为仓库和配送中心是机器人行业最先发生质变的地方，而公司的更远大目标，是致力于行业机器人所需要的通用人工智能AGI的研究工作。
有意思的是，在2021年，OpenAI解散了机器人团队，因为发现生成式人工智能的大模型研究方法可以让强化学习研究取得更快的进展，所以OpenAI当时决定，把资源和注意力转移到这个更容易获取数据的领域，放弃了AI机器人这条路线上的探索。所以，与其说OpenAI解散机器人团队让Covariant少了一个竞争对手，还不如说，黑手党三哥Peter现在做的事情其实是弥补了OpenAI进程中的遗憾。
或许殊途同归，但大家看向的远方都是AGI。
好了，我们接下来说说四哥，也是一位华人David Luan和他创立的Adept。
五、“四哥”：Daid Luan与Adept
David毕业于耶鲁大学，在OpenAI期间做到了工程部副总裁，他参与了语言、超级计算、强化学习的技术研究，以及GPT-2、GPT-3、CLIP 和 DALL-E项目的安全和政策制定。
在离开OpenAI以及短暂地在谷歌工作一段时间之后，David开创了名为Adept的机器学习研究和产品实验室，在2022年A轮融资6500万美元。
其实Adept算是OpenAI黑手党中起步比较晚的公司了，在2022年1月才成立。但可以说是一匹黑马，在硅谷很快就成为非常抢手的明星项目，A轮融资的领投方正是美国历史最悠久的风投公司灰锁基金Greylock，诶，是不是很耳熟，没错，我们之前提到的PayPal黑手党成员霍夫曼正是灰锁基金的合伙人。
嗯，在硅谷，似乎所有的点都可以连成线。
当然，除了这条线的关系之外，灰锁基金作为硅谷最有经验的风投机构，对AI浪潮极其敏感，而说明业界对OpenAI黑手党四哥的看好。
Adept探索的是，让机器能够使用全世界的任何软件与API。相当于开发通用人工智能助手，而这个助手可以集成各种应用程序，来执行几乎所有任务。
David就表示，离开谷歌创业是因为看到谷歌训练出了非常厉害的Transformer模型，但因为谷歌的种种限制，没有办法将Transformer去在应用层面落地、和现实生活很好地结合起来。比如说，现在大家用ChatGPT的时候，还不能让ChatGPT给你订机票，给供应商开发票，或者用Photoshop，Tableau等工具来完成工作，所以David就选择了Adept这样一个协作智能方向，训练AI使用人们如今所有的软件工具和API接口，最终成为AI技术和完成任务的中间链接桥梁。
毫无疑问，这将是整个AI生态中非常重要的一环。
而就在不久前的3月中旬，Adept宣布新的B轮融资3.5亿美元，这名OpenAI黑手党的四哥说：这仅仅是个开始。
六、百花齐放的黑手党成员
说完了前四位黑手党大哥们之外，剩下的黑手党成员和项目其实还有不少，百花齐放，非常有意思。
比如说OpenAI的前特殊项目经理Maddie Hall成立了生物科技研究公司Living Carbon，融资3600万美元。
这个公司在实验室里面创造有利于树苗种子生长且隔离开有害物质的环境，来帮助他们更快地成长为参天大树，并且在这个过程中引用CRISPR基因技术来对树木种子进行基因改良，最终实现地球碳排放的平衡。
虽然Living Carbon和人工智能技术并不直接相关，但Maddie表示，在之前OpenAI工作的过程中，发现了社会价值的重要性，所以可能也是和OpenAI的非盈利组织信仰，以及公司内部很多人宣扬的“有效利他主义”信念是一脉相承。
此外，还有OpenAI的前技术负责人Jonas Schneider在欧洲成立了Daedalus公司， 融资1400万美元，旨在将人工智能与精细化工业生产相结合。
Schneider是个德国人，可能有点刻板印象吧，就觉得这件事情在德国做也是非常适合的，来通过机器人和软件，生产精细化的零件。
Daedalus公司表示说，通过AI驱动的机器人，可以将用户的需求从计算机辅助设计制图进行/端到端的/全链路自动化完工，并提升制造的准确性、可靠性和速度。那这将完全颠覆传统的零件和设备制造工厂。
还记得我们上一个视频中王咏刚老师提到说，AI现在还不能代替蓝领的工作吗？如果Daedalus这样的AI驱动机器人开始投入市场之后，王咏刚老师的问题就解决了。没看上期的小伙伴可以去听听上期我们聊ChatGPT争议和风险的观点。
此外，OpenAI黑手党成员还建立了AI驱动的机器学习产品监控公司Gantry、航天制造公司Titan、生物科技研究公司Conception、AI聊天提效公司Quill等等。顺便说一句，Quill已经被推特收购了。所以说到这里，可以看出，OpenAI黑手党的生态已经开始变得非常丰富了。
七、新世界才刚开始
可能从刚才我们讲述的Paypal黑手党，以及OpenAI成员关系，师徒关系，伙伴关系等等看出，OpenAI黑手党不仅仅是前同事们的关系，更是一张巨大的人脉网和资本网络，将最聪明的人和最聪明的钱绑定在一起，来创造一个新的世界。
这样的一个世界充满了叛逆精神：出走和单干是家常便饭，但人才之间惺惺相惜，又保持着千丝万缕的关系。还记得开头我们给大家画的那张PayPal黑手党的关系图吗？OpenAI和OpenAI黑手党们的关系图也开始建立了。
比如说，Adept作为OpenAI的竞争对手，获得了OpenAI早期投资人霍夫曼那边的灰锁基金，以及马斯克旗下Autopilot负责人的投资。再比如说，Quill在成立的时候，种子轮融资就来自OpenAI的CEO Sam Altman。
可以说，虽然OpenAI在发展过程中出现了一些意见的分裂，但它短时间内聚集了一群坚信人工智能未来潜力的顶尖工程师与科学家，他们在OpenAI的团队中被孵化、被市场和资本认识，无论是留在OpenAI还是叛逃出去成为黑手党成员，都将在未来十年或更久的时间，在这个生态中扎根并开启下一个时代。
从PayPal黑手党的诞生到OpenAI黑手党的诞生，时隔了快20年的时光，也隔了整整一代科技浪潮。当年，霍夫曼、马斯克和彼得·蒂尔这群年轻人因为相信互联网时代，一起创办了PayPal这家在线支付公司。20年间，这群人成为了科技和商业领袖，引领了一代科技浪潮。如今，20年过去了，消费互联网已经成为了再难有机会的红海，而恰逢其时，OpenAI黑手党崛起了，他们将和OpenAI与OpenAI的对手们，背后站队的科技巨头们，还有不断涌现的新技术新公司新人才们，一起开启下一个科技浪潮。而新的世界，才刚开始。
本文来自微信公众号：硅谷101 （ID：TheValley101），作者：陈茜、肖阳