本文来自微信公众号：新智元 （ID：AI_era），编辑：Aeneas、好困，原文标题：《89%美国大学生竟用ChatGPT写作业！纽约大学教授警告：用AI就是剽窃》，题图来自：视觉中国
ChatGPT诞生才两个月，但它给全世界投下的“重磅炸弹”就没停下来过。
虽然在很多学校，老师们防ChatGPT如洪水猛兽，却还是屡禁不止。一项调查显示，现在美国89%的大学生都是用ChatGPT做作业的。
一、89%的学生用ChatGPT做作业
89%？没错，甚至，真实的比例更高。
虽然此前，纽约的教育系统全面封杀了ChatGPT，但凭学生们的聪明才智，怎么可能真正把它禁掉呢？果然，现在教育工作者们不得不直面现实：学生们已经在用ChatGPT肆无忌惮地作弊了。
比如，北密歇根大学哲学教授Antony Aumann在为自己的世界宗教课评分时发现，全班第一的论文竟然是用ChatGPT写的。
在线课程供应商Study.com向1000名18岁以上的学生中发起一项调查，询问了他们在课堂上使用ChatGPT的情况。
结果显示——
每10个学生中就有超过9个知道ChatGPT，远远超过小学教育工作者；
超过89%的学生使用ChatGPT来完成家庭作业；
48%的学生用ChatGPT完成小测验，53%的学生用ChatGPT写论文，22%的学生用ChatGPT生成论文大纲；
令人惊讶的是，72%的大学生认为ChatGPT应该在大学网络中被禁。
这些高得惊人的数据，令我们不得不正视这个现象：AI已经融入了人类的社会结构，且产生了广泛而深远的后果。
有趣的是，虽然有将近90%的学生在家里用ChatGPT做作业，但也有将近四分之三的学生希望ChatGPT在学校被禁。
也就是说，不患寡而患不均，无论是在哪个场景，学生们都希望站在同一起跑线上。要么大家一起用，要么就都不用。
二、老师们怎么看？
同时，Study.com也调查了100多名教育工作者，以便深入了解他们对ChatGPT的感受。
了解ChatGPT的大学教授中有72%担心它对作弊的影响，而小学教育工作者中这一比例为58%；
超过三分之一（34%）的教育工作者认为ChatGPT应该在学校中被禁，剩下66%的则支持学生使用。
看来，老师们远比我们想象得开明。那么他们打算如何使用ChatGPT呢？
根据Study.com的调查，已经有21%的老师开始用ChatGPT辅助教学工作了——
7%使用ChatGPT提供写作提示
5%使用 ChatGPT来帮助授课
4%使用ChatGPT来制定课程计划
4%使用ChatGPT教授写作风格
3%使用ChatGPT作为数字导师
可以看到，与我们的印象不同，参与调查的老师中，大部分人对于AI的态度是相对开明的，66%的人认为ChatGPT可以作为帮助学生的资源。与之相比，反倒是学生们自己的信任度要低得多。
在整个人类历史上，一项新事物的诞生，往往伴随着诸多争议。很显然，面对ChatGPT这个诞生两个月的“新生儿”，教师团队内部也并没有统一意见。
其中一部分教师，对于学生使用ChatGPT的态度非常鲜明——就是纯纯的作弊！
纽约大学教授：要像避瘟神一样躲开ChatGPT
这几天，美国的很多学校开学了，师生中最热门的话题，无疑就是ChatGPT。
在纽约大学，教学大纲的“学术诚信”部分已经明确把使用AI视为作弊行为，明令禁止。此外，学生们在上课第一天也收到了教授的警告。
在纽约大学Tisch艺术学院的一堂课上，教授在教学大纲上直截了当地写道——
“问：使用ChatGPT或其他生成文本或内容的AI工具是否视为作弊？答：是的。”
即使在不需要写论文的课上，教授也提出了ChatGPT警告。
一份宏观经济学教学大纲这样写道：“我们刻意把时间限制得很紧，所以你不可能有时间查阅书籍、ChatGPT或其他资源，同时还能完成测试。在测验的24小时中，学生不得与任何人（包括 ChatGPT）交流。”
当然，众所周知ChatGPT面对数学题时常犯蠢，因此数学系的教授们倒是免了这一层担忧。
纽约大学文理学院副院长Jenni Quilter表示，现在教授们都在担心学生会使用ChatGPT作弊。
据Quilter介绍，早在12月，就有学生使用ChatGPT的事件发生。
“在未经允许的情况下使用ChatGPT，后果等同于任何学术剽窃事件，处理结果包括重做作业、扣分、写检查。”
纽约大学古典学教授David Levene表示，他正在密切关注所有与ChatGTP相关的剽窃行为。
“我已经明确警告学生，除非有我的许可，否则无论以任何形式使用ChatGPT，都是作弊。”
“我还跟他们说，我已经试过用ChatGPT写论文，它的最好成绩是B-，最差是F。所以如果他们想得到比B-更高的成绩，就应该像避瘟神一样避开它！”
AI会让学生“大脑萎缩”？
很多教授在担心，AI聊天机器人会对教育产生灾难性影响。
“仅仅因为有一台机器可以帮助我举起哑铃，并不意味着我的肌肉就会发达”，西华盛顿大学历史学教授Johann Neem接受《华尔街日报》采访时说。
“同样地，有一台可以写论文的机器并不意味着我的思维就会发展。”
但其他教授认为，应该利用ChatGPT强大的技术，让学生为新的现实做好准备。
韦伯州立大学教授Alex Lawrence表示：“我希望它能给你足够的启发和教育，让你想要学习如何利用这些工具，而不仅仅是学会更好地作弊。”
而宾夕法尼亚大学的Ethan Mollick说，他希望自己文学系的学生能够利用技术“写得更多”和“写得更好”。
“ChatGPT是写作的力量倍增器”，Mollick补充道。“我希望他们使用它。”
三、谷歌可以，ChatGPT就不行？
虽然引发了学术诚信的风暴，但许多专家认为，这项技术只是一个新学习时代的开始——AI写作工具是学习的未来。
迪肯大学数字研究中心主任Phillip Dawson表示：“我认为这是人类能力提升的一个重大时刻。”
“在我看来，五年后毕业的学生比现在的学生能做的事情要多得多，因为他们有这些AI工具。”
他把写论文的学生与驾驶现代飞机的飞行员做了类比。“是的，你必须学会使用所有的仪器，你需要知道这些仪器是如何工作的，但你也需要在仪器出现故障时驾驶飞机。”
阿德莱德大学计算机与数学学院讲师Cheryl Pope博士表示，ChatGPT非常适合编写初稿，但无法取代人工编辑和事实核查的需求。“你需要理解这个话题，才能评论它产生的答案。”
ChatGPT能让你走出几步，但不能让你获得高分。但它的可能性让人兴奋，能让我们走向更高的标准。就像我们对两个小时的笔试和两个月写出的论文有不同的期待。
还有一个原因是，获得帮助需要大量的社会资源。
问别人一个蠢问题，会让人很羞愧，但是面对AI，我们永远不会有这样的担心。
我们可以观察到，机器生成的文本（左）有位于对数负曲率区域的趋势，而附近的样本平均具有较低的模型对数概率。
相比之下，人类的文本（右）则不会明显占据负对数概率曲率区域。
接下来，想要确定一段文字是否由一个特定的LLM产生，如GPT-3。
首先需要DetectGPT使用一个通用的预训练模型（如T5）对该段落产生轻微的扰动。然后再让DetectGPT比较原始样本与每个扰动样本的对数概率。
如果平均对数比很高，则该样本很可能来自源模型。
具体的测试结果如下：
此外，经过真实和生成文本的大型数据集训练的有监督检测模型，在分布式文本上的表现与DetectGPT一样，甚至更好。（上）
然而，对于新的领域，如PubMed医学文本和来自WMT16的德国新闻数据，zero-shot是开箱即用的，而有监督的检测方法则会由于过度的分布偏移而垮掉。（下）
不过，DetectGPT自身也存在着明显的限制。
首先，DetectGPT基于的是白盒假设，即我们可以评估有关模型的对数概率。对于那些API背后的模型（如GPT-3），评估概率还需要花钱。
其次，DetectGPT需要获得一个合理的扰动函数。虽然在这项工作中，作者使用了现成的掩码模型，如T5和mT5（用于非英语语言），但如果现有的模型不能很好地对空间进行表征，那么DetectGPT在一些领域的性能就可能会降低。
最后，DetectGPT比其他检测方法的计算量更大，因为它需要对每个候选段落的扰动集进行抽样和评分，而不是仅仅对候选段落进行评分。
虽然DetectGPT现阶段还没开放，但问题不大。毕竟，市面上还有很多工具可以直接使用。
尤其是GPTZero，不仅免费，而且效果拔群。小编亲测发现，最新版本的GPTZero甚至可以明确地指出一段文字中，哪段是AI生成的，哪段是人类写的。
原理上，GPTZero主要靠“困惑度”（文本的随机性）和“突发性”（困惑度的变化）作为指标进行判断。
在每次测试中，GPTZero还会挑选出困惑度最高的那个句子，也就是AI写出的最像人话的句子。
参考资料
https://study.com/resources/perceptions-of-chatgpt-in-schools
https://stanforddaily.com/2023/01/22/scores-of-stanford-students-used-chatgpt-on-final-exams-survey-suggests/
https://www.vice.com/en/article/n7zxe7/nyu-professors-tell-their-students-do-not-use-chatgpt
https://www.vice.com/en/article/xgyjm4/ai-writing-tools-like-chatgpt-are-the-future-of-learning-and-no-its-not-cheating
https://arxiv.org/abs/2301.11305
本文来自微信公众号：新智元 （ID：AI_era），编辑：Aeneas、好困