原创关于论文中ChatGPT等AI工具的使用,看看最新期刊政策
原标题:关于论文中ChatGPT等AI工具的使用,看看最新期刊政策
2023年5月,国际医学期刊编辑委员会(ICMJE)关于生物医学期刊论文的实施、报告、编辑和出版发布了最新建议[1]。建议包括作者署名标准、利益冲突披露、研究注册、数据共享政策,预印本要求等,其中特别关注了人工智能(AI)在学术出版中的作用。
ICMJE的最新建议
ICMJE在2023年5月更新的建议,大部分变化涉及AI在学术出版和编辑过程中的使用,突出了人工智能相关的问题。在定义作者和贡献者角色的部分,添加了一个新章节Artificial Intelligence (AI)-Assisted Technology。在这个部分中,ICMJE的声明如下:
在投稿时,期刊应要求作者披露是否在论文写作过程中使用了AI辅助技术(如大型语言模型、聊天机器人或图像生成工具)。使用了这些技术的作者,应在cover letter和论文中说明是如何使用这些技术的。
聊天机器人(如ChatGPT)不应被列为作者,因为它们无法对作品的准确性、完整性和原创性负责,而这些责任是署名作者的必要条件。作者应对任何使用了人工智能辅助技术的提交材料负责。作者应仔细审查和编辑结果,因为AI会生成看起来权威的结果,但可能是错误、不完整或有偏见的。
作者不应将AI和AI辅助技术列为作者或共同作者。作者应能保证论文中不存在剽窃行为,包括由AI生成的文本和图像。作者必须确保所有引用的材料都有明确的出处,包括完整的引文。
7月15日,欧洲心脏杂志(EHJ )遵循 ICMJE 的建议,向投稿作者提出了以下要求[2]:
- 在提交论文时,作者必须声明在准备稿件过程中是否使用了AI或AI辅助技术,作者还应在cover letter中提供此声明。
- 在论文中的某个具体部分(如方法学部分),作者必须清楚描述如何在研究过程中或稿件准备过程中使用了AI或AI辅助技术,包括大型语言模型、聊天机器人(如ChatGPT)或图像生成工具。
- AI或AI辅助技术不符合作者署名资格,不得在稿件中将其列为作者或共同作者。同样,也不应在参考文献中将其列为作者或共同作者。
- 作者必须声明并确认其提交的任何内容(包括由AI或AI辅助技术生产的任何内容)未投稿给其他期刊,且这些内容均没有抄袭或违反期刊的道德政策。
ICMJE更新的建议还指出,人工智能生成的材料不能作为内容的主要来源,EHJ也同意这一原则。
ICMJE还更新了同行评审相关的建议:首先,审稿人不应将稿件上传到无法保证保密性的软件或其他人工智能技术平台。其次,审稿人应向期刊披露在评估稿件或撰写审稿人意见的过程中是否使用以及如何使用AI技术。
世界医学编辑学会 (WAME) 针对学术出版相关的 ChatGPT 和聊天机器人,提出了以下建议[3]:
- 聊天机器人不能是作者。
- 当使用了聊天机器人,作者应该对此保持透明,并提供如何使用它们的信息。
- 作者对聊天机器人在论文中所做的工作负责(包括所呈现内容的准确性和无抄袭),并承认所有来源(包括聊天机器人生成的材料)。
- 期刊编辑需要合适的工具来帮助检测AI生成或修改的内容。
关于人工智能辅助技术
人工智能(AI)改善了诊断和临床决策,可能有助于改善患者的治疗结局。事实上,AI不应被视为一种威胁,而应被视为帮助临床医生和患者的强大工具。同样,AI技术正在引发科学出版和编辑过程的重大范式转变,例如,一些AI工具(例如ChatGPT)可以提供特定主题的参考资料,或以易于理解的术语总结复杂的观点。它们可能会写评论,输出的内容是连贯和合乎逻辑的,甚至是自然的。
但是,与所有颠覆性创新一样,它们也会带来意想不到的不良后果。AI是根据现有文献进行训练的,这些文献可能不准确、过时或不具有代表性。此外,ChatGPT不够透明,可能会产生欺诈性内容或被用来生成虚假的科学研究报告。
参考文献:
1. https://icmje.org/recommendations/
2. https://academic.oup.com/eurheartj/advance-article/doi/10.1093/eurheartj/ehad448/7224718
从本质上讲,ChatGPT是一个基于生成式预训练Transformer-3和3.5的大型语言模型,使用以下三种机制创建和开发:
预训练一词表示聊天机器人已经包含了一个文本或单词数据库,使其能够更好地理解自然语言的模式和结构。因此,给出的回答是对话式的,因为AI工具在查询的上下文中接受并适应它。
转换器结构由多个层组成,这些层可以对用户输入中的单词和短语进行优先级排序,从而有效地处理长数据序列。之后,该模型试图更好地理解信息的上下文和含义,以便为用户提供更连贯的响应。
此外,架构中的前馈层和剩余连接使该工具能够理解复杂的语言模式,从而更好地捕获各种单词和短语。
8大ChatGPT用例:AI工具如何彻底改变行业?
什么是ChatGPT?