ChatGPT教育伦理争议：AI学术诚信挑战,你担忧吗?
文章主题：ChatGPT, AI伦理, ICML会议, 作弊检测
出品 | 虎嗅科技组
作者 | 齐健
编辑 | 陈伊凡
头图 | 6penAI生成
1月27日，路透社消息称法国顶尖学府之一的巴黎政治学院宣布该校将禁止使用ChatGPT，对使用该软件的处罚可能会严重到被学校开除，甚至被整个法国高等教育开除。
🎓📝警惕ChatGPT：学术诚信面临新挑战💡随着ChatGPT的全球普及，教育界和研究者正面临一场严峻的道德议题——潜在的学术不端行为。巴黎政治学院近日发布警告，指出这款人工智能工具的匿名特性可能模糊了创作界限，对学生作业的原创性构成威胁。\n，默认情况下，学生在非特定课程项目中使用ChatGPT生成内容将被视为违规，除非明确用于学习和研究目的。这种透明度的缺失要求我们重新审视教育环境，以确保技术进步与学术诚信并行不悖。\n📚💻在知识共享的时代，我们必须坚守学术诚信的底线，防止剽窃和欺骗行为损害教育质量。教师和学生 alike 需要对此保持警惕，共同维护一个公正、诚实的学习氛围。让我们一起守护学术殿堂的纯净，让ChatGPT服务于真正的学习进步而非投机取巧。🌟
巴黎政治学院并不是第一所宣布禁用ChatGPT的学校。ChatGPT发布不到一个月，就引起了美国教育界的高度重视。多所美国中学及大学陆续宣布校内禁用ChatGPT，并通过减少课后作业的方式，避免学生利用家庭网络访问ChatGPT作弊。美国纽约市教育部，甚至要求全纽约市的学生和教师不要使用这款AI工具，并对下辖的教育部设备或互联网设卡，限制访问ChatGPT。
AI生成内容的伦理和法律问题，正在引发社会各界的广泛讨论与思考。
AI背后的学术隐忧
“ChatGPT很好玩，但它不是作者”，这是《Science》期刊主编Holden Thorp在1月26日发表的一篇关于人工智能的社论。Holden Thorp指出，“原创”是Science发表论文的基础，而利用ChatGPT编写文本的行为，等同于从ChatGPT中抄袭。
“我们正在更新编辑政策，要求作者不要使用ChatGPT（或任何其他人工智能工具）生成的文本、数据、图像或是图形。违反这一政策将被Science期刊视为学术不端行为，这与篡改图像或抄袭无异。”不过Holden Thorp也表示，上述规定并不包含AI论文中以研究为目的生成的数据。
🌟【ICML新规】🔥：AI巨头再出手！国际机器学习盛事ICML宣布，将严格限制大型语言模型（LLM如ChatGPT）生成内容的学术投稿。例外情况下的相关研究除外，旨在避免潜在的未预见挑战和复杂问题。🚀学术界迎来变革，对技术伦理与创新边界进行深度审视。🎓未来研究，我们更关注原创与深度，而非单纯依赖AI生成的内容。🌍
对于学术期刊和顶会论文来说，AI生成的内容最大的问题在于知识权属和责任确定问题。作为论文作者，研究人员无疑要对论文的观点和内容负责，而AI要如何对文章内容负责？如果AI生成的内容出现了谬误、不恰当、造假，甚至是抄袭剽窃，又该如何追责呢？
🌟警惕AI抄袭！💡随着AI技术的日益发展，”AI作弊”已成为一个全球性关注的问题。各行各业，从🚀OpenAI这样的巨头，再到学术界的权威期刊出版商，乃至那些充满创新精神的个体开发者，都在积极探索如何精准识别文章背后的作者身份——是人类智慧的结晶还是机器生成的产物？🤔面对这一挑战，行业的专家们正致力于开发先进的检测算法，以确保内容的真实性与原创性。他们不仅关注技术层面的突破，更重视伦理和法律的边界，防止AI滥用带来的潜在风险。📚期刊编辑们也在审查流程中加入人工智能辅助工具，力求做到零容忍的抄袭行为。而对于那些热衷于利用AI生成内容的”草根”开发者，这无疑是一场技术和道德的考验。他们需要明确自己的立场，尊重知识产权，以诚信为本，创作出真正有价值的贡献。🌈在这个信息爆炸的时代，辨别AI作品与人类智慧的界限变得尤为重要。让我们共同期待科技的进步能带来更透明、公正的写作环境，让每个人的声音都能被真实地听到。🗣️
目前，OpenAI正在研发相应的AI检测工具。OpenAI客座研究员Scott Aaronson在德克萨斯大学的一次演讲中表示，他们正在通过给AI生成内容打“水印”来打击作弊。这项技术将通过调整ChatGPT生成单词的规则，在生成内容的特定位置制造“伪随机”的特定单词，读者很难察觉，但就如同密电码一样，“握有密钥”的人就轻易判断这篇内容是否是ChatGPT生成的了。
🌟Springer Nature, the esteemed publisher of 🌍Nature magazine, is actively advancing technology to pinpoint LLMs. Recently, a 22-year-old Chinese-American prodigy, Edward Tian from Princeton University, made headlines with GPTZero – an innovative tool specifically designed to scrutinize ChatGPT’s output. By analyzing texts through perplexity and burstiness metrics, this cutting-edge application separates human authorship from machine-generated content with precision. 🚀🚀
AI引发版权问题
在校外，AI本身的“道德”问题，则让美术“老师”们对新生的AI绘图工具提出了严重的质疑，这直指另一个至关重要的问题——版权。
🎨自从AIGC（人工智能生成内容）兴起，图像领域的协作变得高效便捷，尤其对媒体行业而言。🌟新闻配图不仅要传达信息精准，还得尊重版权，这曾是严肃媒体面临的一大挑战。不论是原创插画还是授权照片，每一张都承载着严谨与责任。但由于种种限制，找到一张满足所有条件的图片并非易事。💻然而，AI技术的发展打破了这一僵局，它能根据文章内容自动生成符合要求的图像，为创作提供了无限可能。🌍这不仅简化了工作流程，还让高质量的内容触手可及。 若要了解更多详情，欢迎探索相关AI生成插画服务，提升你的新闻报道视觉效果！SEO优化提示：AIGC、媒体行业、新闻配图、版权、AI生成内容、工作效率、高质量内容、探索插画服务。
有了AI绘图以后，很多媒体人开始尝试用AI画配图，甚至是直接绘制新闻人物的肖像。那发自己用AI做的图，总不会侵权吧？这个问题，还真不一定。
使用6penAI生成的拜登&特朗普画像
🎨✨2022下半年AI绘图热浪中，艺术界掀起了一场关于版权与创新的争议风暴！🌟艺术家Erin Hanson等一众美国大师级人物，对Stable Diffusion的AI生成画作发出了强烈的异议之声。他们指控这些作品涉嫌模仿其独特的艺术风格，挑战了原创权益的核心价值。🔥这场抗议行动引发了广泛讨论，不仅聚焦于技术边界与版权保护，也让世人重新审视AI艺术创作中的界限与尊重。👩🎨💡
AIGC虽然叫做AI生成，但其本身并没有创造能力，只能通过不断学习人类的生产过程，照猫画虎，AI绘图就是典型。在AI训练过程中，需要“投喂”大量的人类画作，从而学习人类的构图、绘画技巧，实现AIGC（AI Generative Content，AI生成内容）。
不过在这个生成的过程中，AI学的实在太像了，以至于很多画作直接与模型库中的人类画师风格完全一致。
“稍有名气的画师可能都遇到过作品被盗用、创意被侵权的事件。”一位国内某知名游戏公司的美术总监向虎嗅表示，虽然AI没有完全盗用画师的作品，但画师对风格上的抄袭也是很难接受的，不论抄袭者是人类还是AI。“如果有人拿着与我绘图风格完全一样的画，说是学习或是参考我觉得没什么。但如果说这是他‘生成’的，那就跟声明原创没什么差别了。不管是否用于商业用途，我都会觉得被严重冒犯了。”
AI的抄袭、剽窃和作弊不应该只是道德问题，还需要法律法规的约束。而目前，AI在很多领域都存在法律盲区。
我国AI领域的立法还处于建章立制阶段。当前已经出台了两部与AI相关的监管条例，分别是《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》，并均已开始生效。除此以外，还有一些分散在《民法典》、《数据安全法》、《网络安全法》、《个保法》、《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》等法律法规中的个别条款规定以及一些支持产业发展性质的文件，目前来说还没有成为一个完整的体系。
“AI生成内容是一项新兴的技术，法律的滞后性和稳定性导致目前还没有专门对这种AI疑似抄袭的现象进行规制。”观韬中茂律师事务所合伙人王渝伟表示，从国外行业实践来看，越来越多的平台和AI绘图工具对作品版权作出了严格要求，谨防AI抄袭导致著作权侵权。在我国，目前还是应当根据《著作权法》，判断AI生成内容与人类艺术家作品之间是否存在实质性相似，进而认定是否抄袭。
除了涉嫌抄袭艺术家作品的AIGC内容，在另一方面，即使是随机生成的内容及画作，也还是会涉及版权问题。
AI绘图在抖音和小红书上刚刚兴起之时，即有脑洞大开的网友提出，可以把AI生成的图片挂到付费图库作为收费资源，实现“躺赚”。
面对这样的骚操作，Adobe选择“有限制”地开放AI绘图。只要符合特定标准，就允许在图片库Adobe Stock中上传生成式 AI 艺术品进行售卖。但上传前必须标记 AI 制作的内容，并且需要拥有其参考图像或文本的商业版权。
作为一款开源模型，Stable diffusion的开发者Stability AI和RunwayML则认为既然开源，那么它也应该依此引用开源CC0协议，即版权归公，同时任何人也可以自由地使用，包括商业使用。而对于DALL-E 2和Midjourney这样并未开源的AIGC模型来说，生成内容的权属则相对模糊。
目前AIGC市场上也存在很多版权乱象，一些基于Stable Diffusion开发应用的厂商声称，使用自己AI程序生成的图片版权归自己，甚至依此生产NFT向使用者兜售。
对此，王渝伟认为，AI应用的使用者，在使用这种应用进行创作时，生成的图片如果符合独创性的要件，就能够构成《著作权法》上的作品。而厂商已明确告知了使用者著作权的归属问题，相当于在合同中已经进行了约定，所以这种作品的著作权应当归属于厂商。 并不是说AI应用基于开源模型开发，它所生成的作品就不存在著作权，还是应当根据《著作权法》的规定判定著作权归属。
“目前相关法律制定最大的障碍和阻力，可能是法律如何保持科技发展和伦理价值的平衡。”王渝伟提出，一方面，AI技术的高速发展，可能会与人类的基本伦理认知相违背，违反社会公序良俗；另一方面，法律的规制也不能对AI技术设置过于严苛的标准，影响AI的进一步发展。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
