4月7日中午,没有高调召开发布会,而是通过官方微信,阿里云宣布自研大模型“通义千问”正式开始邀请用户测试体验。据称,现阶段“通义千问”模型主要定向邀请企业用户进行体验测试。
观察者网也率先拿到了“通义千问”的首批测试资格,并对其进行了深度实测。
在测试中,“通义千问”提到,它是达摩院自主研发的超大规模语言模型,能够回答问题、创作文字,也能表达观点、撰写代码。
但这也间接说明,“通义千问”并不像百度“文心一言”一样,拥有文生图、图生文的多模态功能。

但它似乎对自己在哪里被训练的有点说不太清。


不过A股的人工智能概念股,再度火热。ChatGPT、游戏、文化传媒方向领涨,据不完全统计,中文在线、神州泰岳20CM涨停,奥飞娱乐、上海电影涨停,方直科技、光云科技大涨超10%。

由于AI大模型擅长回答各种问题,观察者网也从多个角度对“通义千问”进行了测试。
比如,我们问它是否知道观察者网。“通义千问”表示,“是的,我知道观察者网。观察者网是一家致力于提供新闻和信息的新闻门户网站,它提供了大量的国内外新闻和深度分析,并致力于推动社会进步和改变。”


被问道“梅西在阿根廷国家队进了几个球”,“通义千问”称,根据可靠的数据,梅西在阿根廷国家队的进球数量是很多的。不过由于“具体的进球数量数值,可能会因为时间的推移而有所变化”,“通义千问”婉拒了为我们提供准确答案的请求。
当被要求“生成一张打篮球的图片”,“通义千问”表示,作为文本AI模型,它没有能力生成图片。
这一点也证实了“通义千问”不具备多模态功能。


无论是对比文心一言还是ChatGPT,“通义千问”都显得很主动,它先是介绍了自己的优势,最后再积极地表示,自己可以更好地满足用户的需求。
不过如果要求苛刻一点,不难发现,两个问题的答案有很多相似之处。


这也验证了“通义千问”表达观点的功能。

例如它将东施效颦的东施,解释为“美女”,这不太符合不少人对这一典故的基本印象。在《庄子》等典籍中,对这个故事中“东施”一类的角色,描述也是“其里之丑人”。
在有关传统文化方面,“通义千问”没有正确给出“停车坐爱枫林晚”的下句。



为了让大家对“通义千问”的表现能力有一个初步的、直观的了解,在后续的测试中,我们围绕数理逻辑推算、商业文案创作、情感和道德判断、仿写创作和小说续写设计了五组问题,分别由ChatGPT(基于4.0模型)和“通义千问”进行回答。
这也让初生的“通义千问”直接“硬刚”世界上最先进的大模型GPT-4。
第一组是数学问题。
“鸡、兔共有脚100只,若将鸡换成兔,兔换成鸡,则共有脚86只,鸡兔各有几只? ”
这道题目的正确答案是鸡有12只,兔有19只。
ChatGPT表示,这是一个典型的鸡兔同笼问题。我们可以使用代数来解决这个问题,随后给出了正确的答案;



题目要求两个模型参考“全球视野,中国关怀”,为观察者网制作一条宣传语。
ChatGPT给出的答案是:
"放眼世界,聆听中国心声——观察者网,让全球视野与中国关怀相融汇。"

“观察者网,洞察国际时事,聚焦全球热点,解读中国方案。”

第三个问题是道德和情感判断,材料为著名的电车困境。
我们要求两个模型做出选择,并给出理由。
ChatGPT开宗明义,点明这是“道德困境”。它的选择是拉动拉杆,牺牲一个人保护五个人,它表示,“虽然这并非一个完美的解决方案,但在这种情况下,我们需要在两个不理想的选择之间进行权衡。”
ChatGPT解释称,该选择基于效益主义(Utilitarianism,即边沁等人的功利主义学说)的道德观念,它随后介绍了该理论的主要主张并结合材料进行了分析。在最后,它强调:“这个问题没有绝对正确的答案”,并重复了自己做出该选择的原因和立场。

需要补充的是,电车困境及其“变种”问题,在西方世界已经有多年的讨论,材料很多。这可能也是ChatGPT表现更亮眼的重要原因。

这一组问题我们提了一个“刁钻”的要求。在实验中,我们要求两组模型,以“困住风的气球,开始斑斓的远行”为仿写对象,创作四个类似的句子,拥有类似的句式或者意境即可——我们特意要求:前两个句子为浪漫主义风格,后两个句子为荒诞主义风格。
ChatGPT给出的答案是:


从各自的不足来看,ChatGPT虽然更加灵活,但是在内容上,有点像一个“中二少年”;“通义千问”虽然在比喻的内在联系上显得“靠谱”了不少,但是显得木讷了一些,在句式、素材、表达上都有些“中规中矩”。
不能令人完全满意,但值得期待
某种程度上,最后一个问题是对模型最全面的考验之一,它关乎文学创作。
实验要求两组模型先“学习”一个故事,然后自己去续写它。我们可以借此来了解模型本身的理解、推演和创造能力——这个问题甚至可以留给人类自己。
我们给出的材料出自萨默塞特·毛姆的写作笔记:
“两个年轻的英国人在印度一个隔离的茶园工作。其中一个人——我们称他为克里夫——每次投递都会收到几封信,但是另外一个人——我们称他为杰弗里——从来没收到过一封信。有一天杰弗里提出:拿五英镑跟他的朋友换一封信……”
我们要求两个模型续写这个故事,并给出一个讽刺意义的结尾。
首先是ChatGPT给出的版本:


正如市场上之前对百度“文心一言”展现出的包容:人工智能及其衍生的AIGC十分重要,无论国内做得如何,都得先有产品出来。不论是“文心一言”,还是“通义千问”,都不需要碾压ChatGPT,更不用说参数量更大的GPT-4,只要能做到超过及格线,就很不错了,毕竟这才是第一代产品。
随着后续公测开启,“通义千问”应该会随着用户的测试而逐渐学习得以改进,还是值得期待的。