大模型的纯文本方向，已经卷到头了？


昨晚，OpenAI 最大的竞争对手 Anthropic 发布了新一代 AI 大模型系列 ——Claude 3。


该系列包含三个模型，按能力由弱到强排列分别是 Claude 3 Haiku、Claude 3 Sonnet 和 Claude 3 Opus。其中，能力最强的 Opus 在多项基准测试中得分都超过了 GPT-4 和 Gemini 1.0 Ultra，在数学、编程、多语言理解、视觉等多个维度树立了新的行业基准。


Anthropic 表示，Claude 3 Opus 拥有人类本科生水平的知识。



在新模型发布后，Claude 首次带来了对多模态能力的支持（Opus 版本的 MMMU 得分为 59.4%，超过 GPT-4V，与 Gemini  1.0 Ultra 持平）。用户现在可以上传照片、图表、文档和其他类型的非结构化数据，让 AI 进行分析和解答。  


此外，这三个模型也延续了 Claude 系列模型的传统强项 —— 长上下文窗口。其初始阶段支持 200K token 上下文窗口，不过，Anthropic 表示，三者都支持 100 万 token 的上下文输入（向特定客户开放），这大约是英文版《白鲸》或《哈利·波特与死亡圣器》的长度。


不过，在定价上，能力最强的 Claude 3 也比 GPT-4 Turbo 要贵得多：GPT-4 Turbo 每百万 token 输入 / 输出收费为 10/30 美元 ；而 Claude 3 Opus 为 15/75 美元。



Opus 和 Sonnet 现可在 claude.ai 和 Claude API 中使用，Haiku 也将于不久后推出。亚马逊云科技也第一时间宣布新模型登陆了 Amazon Bedrock。以下是 Anthropic 发布的官方 demo：  


在 Anthropic 官宣之后，不少得到试用机会的研究者也晒出了自己的体验。有人说，Claude 3 Sonnet 解出了一道此前只有 GPT-4 才能解开的谜题。



不过，也有人表示，在实际体验方面，Claude 3 并没有彻底击败 GPT-4。



第一手实测 Claude 3


Claude 3 是否真的像官方所宣称的那样，性能全面超越了 GPT-4？目前大多数人认为，确实有那么点意思。


以下是部分实测效果：


首先来一个脑筋急转弯，哪一个月有二十八天？实际正确答案是每个月都有。看来 Claude 3 还不擅长做这种题。



接着我们又测试了一下 Claude 3 比较擅长的领域，从官方介绍可以看出 Claude 擅长“理解和处理图像”，包括从图像中提取文本、将 UI 转换为前端代码、理解复杂的方程、转录手写笔记等。


对于大模型来说，经常分不清炸鸡和泰迪，当我们输入一张含有泰迪和炸鸡的图片时，Claude 3 给出了这样的答案“这张图片是一组拼贴画，包含狗和炸鸡块或鸡块，它们与狗本身有着惊人的相似之处……”这一题算过关。



接着问它里面有几个人，Claude 3 也回答正确，“这幅动画描绘了七个小卡通人物。”



Claude 3 可以从照片中提取文本，即使是中文、日文的竖行顺序也可以正确识别：



如果我用网上的梗图，它又要如何应对？有关视觉误差的图片，GPT-4 和 Claude 3 给出了相反的猜测：



哪种是对的呢？


除了理解图像外，Claude 处理长文本的能力也比较强，此次发布的全系列大模型可提供 200k 上下文窗口，并接受超过 100 万 token 输入。


效果如何呢？我们丢给它微软、国科大新出不久的论文The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits，让它按照 1、2、3 的方式总结文章要点，我们记录了一下时间，输出整体答案的时间大概有 15 秒。


不过这只是 Claude 3 Sonnet 的输出效果，假如使用 Claude Pro 版本的话，速度会更快，不过要 20 美元一个月。



值得注意的是，现在 Claude 要求上传的文章大小不超过 10MB，超过会有提示：



在 Claude 3 的博客中，Anthropic 提出新模型的代码能力有大幅提升，有人直接拿基础 ASCII 码丢给 Claude，结果发现它毫无压力：



我们应该可以确认，Claude 3 有比 GPT-4 更强的代码能力。


前段时间，刚刚从 OpenAI 离职的 Karpathy 提出过一个“分词器”挑战。具体来说，就是将他录制的 2 小时 13 分的教程视频放进 LLM，让其翻译为关于分词器的书籍章节或博客文章的格式。


面对这项任务，Claude 3 接住了，以下是 AnthropicAI 研究工程师 Emmanuel Ameisen 晒出的结果：




或许是不再利益相关，Karpathy 给出了比较充分、客观的评价：


从风格上看，确实相当不错！如果仔细观察，会发现一些微妙的问题 / 幻觉。不管怎么说，这个几乎现成就能使用的系统还是令人印象深刻的。我很期待能多玩 Claude 3，它看起来是一个强大的模型。


如果说有什么相关的事情我必须说出来的话，那就是人们在进行评估比较时应该格外小心，这不仅是因为评估结果本身比你想象的要糟糕，还因为许多评估结果都以未定义的方式被过拟合了，还因为所做的比较可能是误导性的。GPT-4 的编码率（HumanEval）不是 67%。每当我看到这种比较被用来代替编码性能时，我的眼角就会开始抽搐。


根据以上各种刁钻的测试结果，有人已经喊出“Anthropic is so back”了。


最后，Anthropic 还推出了一个包含多个方向提示内容的 prompt 库。


链接：https://docs.anthropic.com/claude/prompt-library


Claude 3 系列模型


Claude 3 系列模型的三个版本分别是 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku。



其中 Claude 3 Opus 是智能程度最高的模型，支持 200k tokens 上下文窗口，在高度复杂的任务上实现了当前 SOTA 的性能。该模型能够以绝佳的流畅度和人类水平的理解能力来处理开放式 prompt 和未见过的场景。Claude 3 Opus 向我们展示了生成式 AI 可能达到的极限。



Claude 3 Sonnet 在智能程度与运行速度之间实现了理想的平衡，尤其是对于企业工作负载而言。与同类模型相比，它以更低的成本提供了强大的性能，并专为大规模 AI 部署中的高耐用性而设计。Claude 3 Sonnet 支持的上下文窗口为 200k tokens。



Claude 3 Haiku 是速度最快、最紧凑的模型，具有近乎实时的响应能力。有趣的是，它支持的上下文窗口同样是 200k。该模型能够以无与伦比的速度回答简单的查询和请求，用户通过它可以构建模仿人类交互的无缝 AI 体验。



接下来我们看一下 Claude 3 系列模型的特性和性能表现。


全面超越 GPT-4，实现智能水平新 SOTA


作为 Claude 3 系列中智能水平最高的模型，Opus 在 AI 系统的大多数评估基准上都优于竞品，包括本科水平专家知识（MMLU）、研究生水平专家推理（GPQA） 、基础数学（GSM8K）等基准。并且，Opus 在复杂任务上表现出接近人类水平的理解力和流畅度，引领通用智能的前沿。


此外，包括 Opus 在内，所有 Claude 3 系列模型都在分析和预测、细致内容创建、代码生成以及西班牙语、日语和法语等非英语语言对话方面实现了能力增强。


下图为 Claude 3 模型与竞品模型在多个性能基准上的比较，可以看到，最强的 Opus 全面优于 OpenAI 的 GPT-4。



近乎实时响应


Claude 3 模型可以支持实时客户聊天、自动补充和数据提取等响应必须立即且实时的任务。


Haiku 是智能类别市场上速度最快且最具成本效益的型号。它可以在不到三秒的时间内读完一篇包含密集图表和图形信息的 arXiv 平台论文（约 10k tokens）。


对于绝大多数工作，Sonnet 的速度比 Claude 2 和 Claude 2.1 快 2 倍，且智能水平更高。它擅长执行需要快速响应的任务，例如知识检索或销售自动化。Opus 的速度与 Claude 2 和 2.1 相似，但智能水平更高。


强大的视觉能力


Claude 3 具有与其他头部模型相当的复杂视觉功能。它们可以处理各种视觉格式数据，包括照片、图表、图形和技术图表。


Anthropic 表示，它们的一些客户 50% 以上的知识库以各种数据格式进行编程，例如 PDF、流程图或演示幻灯片。因此，新模型强大的视觉能力非常有帮助。



更少拒绝回复


以前的 Claude 模型经常做出不必要的拒绝，这表明模型缺乏语境理解。Anthropic 在这一领域取得了有意义的进展：与前几代模型相比，即使用户 prompt 接近系统底线，Opus、Sonnet 和 Haiku 拒绝回答的可能性明显降低。如下所示，Claude 3 模型对请求表现出更细致的理解，能够识别真正的有害 prompt，并且拒绝回答无害 prompt 的频率要少得多。



准确率提高


为了评估模型的准确率，Anthropic 使用了大量复杂的、事实性问题来解决当前模型中的已知弱点。Anthropic 将答案分为正确答案、错误答案（或幻觉）和不确定性回答，也就是模型不知道答案，而不是提供不正确的信息。与 Claude 2.1 相比，Opus 在这些具有挑战性的开放式问题上的准确性（或正确答案）提高了一倍，同时也减少了错误回答。


除了产生更值得信赖的回复之外，Anthropic 还将在 Claude 3 模型中启用引用，以便模型可以指向参考材料中的精确句子来证实回答。



长上下文和近乎完美的召回能力


Claude 3 系列型号在发布时最初将提供 200K 上下文窗口。然而，官方表示所有三种模型都能够接收超过 100 万 token 的输入，此能力会被提供给需要增强处理能力的特定用户。


为了有效地处理长上下文提示，模型需要强大的召回能力。Needle In A Haystack（NIAH）评估衡量模型可以从大量数据中准确回忆信息的能力。Anthropic 通过在每个提示中使用 30 个随机 Needle/question 在不同的众包文档库上进行测试，增强了该基准的稳健性。


Claude 3 Opus 不仅实现了近乎完美的召回率，超过 99% 的准确率。而且在某些情况下，它甚至识别出了评估本身的局限性，意识到“针”句子似乎是人为插入到原始文本中的。



安全易用


Anthropic 表示，其已建立专门团队来跟踪和减少安全风险。该公司也在开发 Constitutional AI 等方法来提高模型的安全性和透明度，并减轻新模式可能引发的隐私问题。


虽然与之前的模型相比，Claude 3 模型系列在生物知识、网络相关知识和自主性的关键指标方面取得了进步，但根据研究，新模型处于 AI 安全级别 2（ASL-2）以内。


在使用体验上，Claude 3 比以往模型更加擅长遵循复杂的多步骤指令，更加可以遵守品牌和响应准则，从而可以更好地开发可信赖的应用。此外，Anthropic 表示 Claude 3 模型现在更擅长以 JSON 等格式生成流行的结构化输出，从而可以更轻松地指导 Claude 进行自然语言分类和情感分析等用例。


技术报告里写了什么


目前，Anthropic 已经放出了 42 页的技术报告The Claude 3 Model Family: Opus，Sonnet，Haiku。


报告地址：https://www-cdn.anthropic.com/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627/Model_Card_Claude_3.pdf


我们看到了 Claude 3 系列模型的训练数据、评估标准以及更详细的实验结果。


在训练数据方面，Claude 3 系列模型接受了截至 2023 年 8 月互联网公开可用的专用混合数据的训练，以及来自第三方的非公开数据、数据标签服务商和付费承包商提供的数据、Claude 内部的数据。


Claude 3 系列模型在以下多个指标上接受了广泛的评估，包括：


  • 推理能力


  • 多语言能力


  • 长上下文


  • 可靠性 / 事实性


  • 多模态能力


首先是推理、编程和问答任务上的评估结果，Claude 3 系列模型在一系列推理、阅读理解、数学、科学和编程的行业标准基准上与竞品模型展开了比较，结果显示不仅超越了自家以往模型，还在大多数情况下实现了新 SOTA。



Anthropic 在法学院入学考试（LSAT） 、多州律师考试（MBE）、美国数学竞赛 2023 年数学竞赛和研究生入学考试（GRE）普通考试中评估了 Claude 3 系列模型，具体结果如下表 2 所示。



Claude 3 系列模型具备多模态（图像和视频帧输入）能力，并且在解决超越简单文本理解的复杂多模态推理挑战方面取得了重大进展。


一个典型的例子，是 Claude 3 模型在 AI2D 科学图表基准上的表现，这是一种视觉问答评估，涉及图表解析并以多项选择格式回答相应的问题。 


Claude 3 Sonnet 在 0-shot 设置中达到了 SOTA 水平 —— 89.2%，其次是 Claude 3 Opus（88.3%）和 Claude 3 Haiku（80.6%），具体结果如下表 3 所示。



针对这份技术报告，爱丁堡大学博士生符尧在第一时间给出了自己的分析。


首先，在他看来，被评估的几个模型在 MMLU / GSM8K / HumanEval 等几项指标上基本没有区分度，真正需要关心的是为什么最好的模型在 GSM8K 上依然有 5% 的错误。



他认为，真正能够把模型区分开的是 MATH 和 GPQA，这些超级棘手的问题是 AI 模型下一步应该瞄准的目标。



与 Claude 之前的模型相比，改进比较大的领域是金融和医学。



视觉方面，Claude 3 表现出的视觉 OCR 能力让人看到了它在数据收集方面的巨大潜力。



此外，他还发现了其他一些趋势：




从目前的评测基准和体验看来，Claude 3 在智能水平、多模态能力和速度上都取得了长足的进步。随着新系列模型的进一步优化和应用，我们或许将看到更加多元化的大模型生态。


博客地址：https://www.anthropic.com/news/claude-3-family


参考内容：

https://www.cnbc.com/2024/03/04/google-backed-anthropic-debuts-claude-3-its-most-powerful-chatbot-yet.html

https://www.aboutamazon.com/news/aws/amazon-bedrock-anthropic-ai-claude-3


本文来自微信公众号：机器之心 （ID：almosthuman2014）