文章主题：ChatGPT, Nature, 学研论文
詹士 发自 凹非寺
量子位 | 公众号 QbitAI
面对ChatGPT，Nature终于坐不住了。
本周，这家权威学术出版机构下场，针对ChatGPT代写学研文章、被列为作者等一系列问题，给了定性。
具体来说，Nature列出两项原则：
（1）任何大型语言模型工具（比如ChatGPT）都不能成为论文作者；
（2）如在论文创作中用过相关工具，作者应在“方法”或“致谢”或适当的部分明确说明。
现在，上述要求已经添进作者投稿指南中。
近段时间，ChatGPT染指学研圈情况越来越多。
🌟揭示未来趋势！去年底，ChatGPT在一篇探讨雷帕霉素抗衰老疗法的学术论文中崭露头角，引发了广泛讨论和行业关注。它不仅以一作身份亮相，还出现在多篇研究中，成为科技与知识创新的有力代表。🚀虽然初期质疑声浪不绝于耳，但其迅速融入科研领域的行动力不容忽视。📚ChatGPT正逐步塑造着学术界的新格局，引领人工智能在科学研究中的新篇章。
📚Nature’s Eye on the ChatGPT Wave: A Surprising 20% of Educators Report Students Using AI for Assignments 📚In a recent study conducted by Nature in December, an alarming 293 educators were surveyed, revealing that a staggering 20% have already witnessed or encountered students resorting to ChatGPT as their primary tool for completing homework and research papers. The data paints a concerning picture of the rapid adoption of this AI-driven assistance among students. The concern is not just about the potential academic dishonesty but also the implications it has on critical thinking and originality. 🤔Educators are grappling with the challenge of navigating this technological shift, as they struggle to determine how to address this growing trend without overstepping boundaries or compromising the learning experience. The survey results highlight the need for a nuanced approach that balances the benefits of AI with the importance of fostering independent thinking. 💪As educators and institutions adapt, it’s crucial to foster discussions around responsible use of technology and promote awareness about the ethical considerations involved. By doing so, we can ensure that students not only acquire the necessary skills but also develop a healthy relationship with AI in their academic journey. 🤝Stay tuned for more insights on this evolving landscape as Nature continues to monitor and contribute to the discourse on the impact of ChatGPT on education. #NatureSurvey #ChatGPTEducation #EthicalAIUse
此次，Nature所发表的声明，正是希望对种种争议给予定性。
多篇论文已将ChatGPT列为作者
🌟ChatGPT，去年11月底的耀眼新星，OpenAI的力作，一炮而红！它以卓越的表现，颠覆了人们对LLMs的传统认知，犹如冬日里的闪电，瞬间点亮科技界。🚀短短几个月，其崛起速度无人能及，迅速成为年度热门话题，引领着人工智能浪潮。🔥无论教育、创新还是日常生活，ChatGPT都展现出强大的潜力和广泛影响力，它的出现无疑为全球技术发展注入了新的活力。🌍
在新媒体、影视、软件开发、游戏互动等领域中，ChatGPT被迅速加以利用，辅助生产提升效能。
学研圈也不例外。
据Nature统计，使用ChatGPT并将其列为作者的论文最少有4篇。
🚀医学新发现揭示！🔥2022年12月，全球医疗界翘首以盼的学术成果在medRxiv预印本库闪耀——一篇深度探讨ChatGPT在US Medical Licensing Examination中的表现的论文引起了广泛关注。🔍通过严谨分析，作者巧妙地将焦点集中在这款人工智能技术对医学考试的影响上，而非个人身份。🌟论文揭示了ChatGPT在模拟考场景下的优异表现，引发教育者与考生关于未来教育模式的深思。它不仅展示了AI的强大潜力，也提出了潜在的教学挑战和伦理问题。📝尽管ChatGPT以其独特的能力吸引了目光，但作者们并未借此机会推销个人或联系方式，保持了学术研究的纯粹性。这份报告无疑为医学界提供了宝贵的洞见，期待未来进一步的研究能更深入地解析这一新兴技术在医疗领域的角色。🌐欲了解更多详情，敬请关注相关领域动态，让科技与教育携手，共同塑造未来医疗新纪元！🏆
🌟发表在顶尖学术期刊《护士教育实践》上的深度分析文章揭示了🔥人工智能平台在护理教育中的双重影响。引人关注的是，新兴技术ChatGPT也加入了这场讨论，成为探讨这一议题的创新力量。论文深入剖析了AI如何赋能教学，提升效率的同时也可能带来的挑战与变革。作者们以严谨的态度和独特的视角，为护理教育界提供了宝贵的洞见，旨在推动行业朝着更智能化、人性化的方向发展。欲了解更多详情，敬请查阅这本权威期刊。📚🔍
🌟论文亮点揭秘🌟🔍Insilico Medicine的最新科研成果🌟——雷帕霉素新疗法，震撼发布在顶尖学术期刊《Oncoscience》！🚀这款AI驱动药物的研发，颠覆了传统医药模式，展现了科技与医学的深度融合。🔥ChatGPT，这个备受瞩目的AI语言模型，此次意外成为论文作者，引发了业界对AI在科研领域的全新思考。它以独特视角，为雷帕霉素的研究提供了创新见解，让人眼前一亮！💡但这并非简单的客串，Insilico Medicine与ChatGPT的合作，无疑为医药研发开启了一扇新的大门。未来，我们期待更多这样的跨界合作，共同推动医疗科技的进步。🌐欲了解更多详情，敬请关注相关领域的深度解析和专业讨论。📚#AI药物研发 #雷帕霉素新疗法 #Oncoscience期刊
第四篇稍显“古早”，发表于2022年6月，探讨主题就是——AI生成论文的能力如何。被列入作者一栏的AI也并非ChatGPT，而是更早发布的GPT-3。
尽管上述研究内容多少都与生成语言模型有关，但对于严肃的科研活动来说，使用“研究对象”写论文，并将其列入作者栏，不可避免引发了争议和质疑。
且即便不将AI列为作者，学研圈使用ChatGPT的情况也越来越普遍。
前文提及AI药物研发公司Insilico Medicine的CEO，Alex Zhavoronkov，他透露道，其所在的机构已发表了80多篇由AI工具生成的论文。
英国教授Mike Sharples一直关注生成AI对学术研究的影响。不久前，他在推特上亲手演示了如何用大型语言模型10分钟生成一篇学术论文，一步步描述自己如何用AI根据标题生成摘要，也引发不小讨论。
学生使用ChatGPT帮助撰写论文、生成代码、完成作业更为普遍，目前，美国已有部分地区教育机构禁止使用该工具。
就在上周，北密歇根大学一位学生依靠ChatGPT写出全班最高分论文。
有意思的是，该学生之所以被抓住，是因为所提交文章逻辑过于连贯，结构过于合理，以至于导师专门去质问了一下才得知真相。
△ 北密歇根大学
需要明确的是，上述抓包只是偶然，更多时候，生成内容已让科学家们真假难辨。
Nature此前一篇文章指出，ChatGPT发布后，伊利诺伊州西北大学一个研究小组就在探究，使用该AI工具生成医学论文摘要，科学家是否能识别。
结果发现，AI生成摘要均通过了抄袭检测器，在人工审核中，32%的AI生成摘要被认为是真实人类完成的。
已在开发辨别工具
此番Nature下场，表明了他们对ChatGPT引发问题的重视。
在最新内容中，Nature表示，学研圈都在担心，学生及研究者们可能会以大型语言模型生成的内容当作本人撰写的文本，除却冒用风险外，上述过程还会产生不可靠的研究结论。
尤其针对ChatGPT，Nature团队及很多出版商、平台均认为，该工具无法对科学论文的完整性及内容本身负责。
一个侧面佐证是科技媒体CNET这两天曝出，该平台AI编写的77篇内容中，41篇有错误，目前，平台已予以更正，并表示将暂停此种方式生产内容。
正是基于对上述情况的担忧，Nature出台了相关规定。
至于如何分辨AI生成内容？
Nature表示，目前ChatGPT原始输出可以通过仔细检查而被发现，尤其涉及具体科学工作时，内容可能包含最简单的错误及泛泛乏味的措辞。此外，Nature也表示，他们还在开发相关识别技术。
值得一提的是，相关识别工具也有人开发出来了。
比如OpenAI自己推出的GPT-2 Output Detector，输入50个以上字符（tokens）就能较准确地识别AI生成的文本。
再比如普林斯顿大学生Edward Tian，也做出过相关工具GPTZero。
不过，并非所有大学教授和老师对AI生成工具持否定态度。
比如宾大沃顿商学院一位教授Ethan Mollick，反其道而要求学生使用ChatGPT完成课堂作业，并认为这是在拥抱新兴技术工具。
论文发表平台medRxiv一位工作者也表示，ChatGPT也不算新麻烦。
他认为，此前，研究者都尝试偷偷加入宠物、虚构人物名字。因此，他们认为，问题核心是——需要继续加强检查。
最后问问，你在科研工作中用了ChatGPT么？
参考链接：
[1]https://www.nature.com/articles/d41586-023-00191-1[2]https://www.nature.com/articles/d41586-023-00056-7[3]https://www.nature.com/articles/d41586-023-00204-z[4]https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban[5]https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1
—完—
@量子位 · 追踪AI技术和产品新动态
深有感触的朋友，欢迎赞同、关注、分享三连վᴗ ի❤
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
