本文来自微信公众号：nextquestion （ID：gh_2414d982daee），编译：Joycell，题图来自：《机械纪元》
由 OpenAI 开发的人工智能（AI）驱动的聊天机器人ChatGPT 迅速引起了所有职业领域的轰动。ChatGPT 的名字来源于它基于的生成性预约束转换器（Generative Pre-trained Transformer，GPT）语言模型，其最具前沿性的特征是它能够通过深度学习技术对输入的文本做出类似人类的反应，其智能水平远远胜过其他人工智能模型。
ChatGPT 囊括 1750 亿参数，这使其成为当今最大且强有力的人工智能处理模型之一，也因其给出的反应更加人性化，因此在越来越多不同职业场景中使用，不难想象在未来它也将会扩展应用到临床和转化医学。
ChatGPT 的新兴应用在科学界引发了一场剧变，并引起了围绕使用人工智能撰写科学出版物的伦理问题的辩论，而这些出版物可能会影响医生、研究人员和政策制定者的决策。
ChatGPT：提供的并不总是对的
ChatGPT 最显著的缺点是它编译的信息并不总是准确的，这一弊端在学术出版中尤其不利——毕竟，进步取决于分享适当的信息。在科学环境中不正确的数据呈现具有很大的危害性和风险性。
另外，对于一个由知识提升、加强干预和制定循证政策的极具时效性的领域来说，正在不断扩大的信息差是一个不容忽视的障碍。如果学者们利用 ChatGPT 来进行内容创作，可能会包含虚假或过时的论文信息，其将损害作者在同行中的信誉。
ChatGPT：使用的隐蔽性
ChatGPT是一把双刃剑的原因还在于：学者几乎无法发现其他专业人士是否使用以及何时使用过它。西北大学（Northwestern University）的研究人员要求 ChatGPT 根据医学期刊上发表的一系列文章撰写 50 篇医学研究摘要，随后要求一组医学研究人员找出这些捏造摘要——阅稿人只能正确识别 68%的 ChatGPT 生成的摘要和86%的真实摘要。这样的结果证实了 ChatGPT 写出了可信（尽管可能不准确）的科学摘要。
这项研究的结果对那些有意使用 ChatGPT 来推动写作的人来说无疑是个福音，因为由此创作的作品可能并不会被认为是人工智能生成的。
然而，无法识别有效信息的问题也将随之而来。科学家可能会遵循有缺陷的研究路线，从而造成研究经费的浪费和具有误导性的结果；对于政策制定者来说，无法甄别虚假的研究将制定出基于错误信息的决策，从而对社会产生巨大影响。
由于这些影响，学界和科学出版界未来可能很快就会有禁止人工智能生成内容的政策，无论以任何身份使用 ChatGPT 的人都需要了解这些政策。
第 40 届国际机器学习会议已经禁止了包括 ChatGPT 在内的 AI 工具撰写的论文；Science 系列期刊也在更新他们的许可和编辑政策，明确反对 ChatGPT 制作的文稿。他们在一篇社论中阐明了他们的立场，指出大多数科学不端行为的案例源于人类注意力的不足，允许 ChatGPT 生成的内容则将显著增加了这种风险。
ChatGPT：科研创新小助手
并非所有与 ChatGPT 相关的问题都会引起科研领域内的担忧。2023 年 2 月 Nature 杂志的一篇文章描述了计算生物学家使用 ChatGPT 来改进已完成的研究论文。在短短五分钟内，生物学家们收到了对他们手稿的审查，这不仅增加了手稿的可读性，还发现了在方程上的错误。在对三个手稿进行试验的过程中，尽管团队对 ChatGPT 的使用并不总是一帆风顺，但最终都得到了一篇润色更好的文章。
将 ChatGPT 用于此目的则避免了科学界对人工智能使用不准确或过时信息的主要担忧，因为根据计算生物学家最初撰写的手稿，信息已经是准确和最新的。ChatGPT 可以帮助提高研究人员的生产力和内容的质量。而如果科学家们能花费更少的时间在文章编辑上，则可以投入更多的时间来推进医学领域的科学研究。
不难看出，ChatGPT 对那些希望验证答案或发现工作中问题的研究人员来说是很有益处的。然而到目前为止，由于 ChatGPT 还未接受过足够的专业内容训练，因此无法对技术进行事实性查验。
ChatGPT：应用于科研的挑战与机遇
专家预计，集成 ChatGPT 的技术和项目将成为人工智能系统的先导。与此同时，这样一个聊天机器人可以协助手稿编辑从而在学术和科学出版界中发挥积极作用。即便如此，ChatGPT 的使用者必须意识到它的局限性。
正如 Nature Machine Intelligence 杂志 1 月份发表的一篇社论所说，目前，我们不能指望 ChatGPT 提供正确的事实或可靠的参考，接受 ChatGPT 的局限性并仅将其用于某些任务，允许研究人员将乏味的工作（如手稿编辑）委托给人工智能模型，同时需要避免发布虚假信息等灾难性后果的发生。
随着 ChatGPT 的普及，调整对其能力的预期并接受它不能承担每一份工作将是至关重要的。特别是在学术研究领域，任何需要专业学科知识或创新性思想和观点的任务仍然需要人工智能无法替代的、真正的人情味。
ChatGPT：并不是一个作家
由于 ChatGPT 在提供可靠信息方面不断发展的局限性和潜力，在对 ChatGPT 进行迭代时必须十分谨慎：人工智能能代替人工输入吗？在此，H. Holden Thorp 教授对于 ChatGPT 的观点可能更为准确：“ChatGPT很有趣，但不是一个作家”。
科学家可以利用成熟的人工智能工具来提高工作效率等任务的校对和手稿审查。在未来，AI 工具的使用可能能够帮助他们在科学研究领域取得更广泛的突破和更高的认可度，但更多需要根据自己的能力来进行人工输入。
对于伦理与道德之间界限的讨论需要进一步推进，在卫生研究中AI的使用也需要进一步探索建立指导方针。所有研究人员和参与者必须了解人工智能的安全和禁止范围是哪些。因此，编辑和编辑委员会成员应继续监管ChatGPT在学术研究中的应用，以起草期刊政策，让撰稿人了解到人工智能的最佳实践方式——毕竟，卓越的研究需要用道德和诚信来衡量。
参考资料：
[1]Agüera y Arcas， B. (2022). Can machines learn how to behave? Medium. https://medium.com/@blaisea/can-machines-learn-how-to-behave-42a02a57fadb.
[2]Churchland， P. S. (2019). Conscience: The origins of moral intuition. Norton.
[3]Rowling， J. K. (1997). Harry Potter and the sorcerer's stone， Bloomsbury.
[4]Hofstadter， D. (2022). Artificial neural networks are making strides towards consciousness. Economist (June 9).
[5]Lemoine， B. (2022). Is LaMDA sentient?: An interview. Medium. https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917.
[6]van Dis E， Bollen J， Zuidema W， van Rooij R， Bockting C. Chat-GPT: five priorities for research.Nature. 2023;614(7947):224-226.https://doi.org/10.1038/d41586-023-00288-7.
[7]Stokel-WalkerC，VanNoordenR.WhatChatGPTandgenerativeAI mean for science.Nature. 2023;614(7947):214-216.https://doi.org/10.1038/d41586-023-00340-6.
[8]The AI writing on the wall.Nat Mach.2023;5(1):1.https://doi.org/10.1038/s42256-023-00613-9
[9]Seyhan， A. Lost in translation: the valley of death across pre-clinical and clinical divide – identification of problems andovercoming obstacles.Transl Med Commun. 2019;4.https://doi.org/10.1186/s41231-019-0050-7
[10]Samuel G， Chubb J， Derrick G. Boundaries between researchethics and ethical research use in artificial intelligence healthresearch.JEmpirResHum. 2021;16(3):325-337.https://doi.org/10.1177/15562646211002744How to cite this article:Wen J， Wang W. Thefuture of ChatGPT in academic research andpublishing: A commentary forclinical andtranslational medicine.Clin Transl Med.2023;13:e1207.https://doi.org/10.1002/ctm2.1207
本文来自微信公众号：nextquestion （ID：gh_2414d982daee），编译：Joycell