教育遇挑战?ChatGPT遭巴黎政治学院封杀,AI学术伦理何去何从?

文章主题:

666ChatGPT办公新姿势,助力做AI时代先行者!

教育遇挑战?ChatGPT遭巴黎政治学院封杀,AI学术伦理何去何从?

出品 | 虎嗅科技组

作者 | 齐健编辑 | 陈伊凡头图 | 6penAI生成

🌟【教育新动态】巴黎政院禁用ChatGPT!🚀🔥近日,全球热门AI助手ChatGPT引发一场教育界的风暴,法国顶尖学府巴黎政治学院(Paris Institute of Political Sciences, PIPS)正式亮剑,宣布全面禁止在其校园内使用这一人工智能工具。👀严厉的政策下,任何违规使用者可能面临严重后果——不仅可能被校规严惩,甚至可能导致整个法国高等教育系统的处罚!🎓ChatGPT以其强大的生成能力,引发了学术诚信和知识产权的担忧,PIPS此举无疑是对技术与教育边界的一次深度审视。学校坚持学术严谨性,确保学生在真实环境中学习和思考,而非过度依赖科技辅助。💻尽管这一决定可能引起一些争议,但PIPS的行动无疑为全球高等教育树立了榜样,引导大家在拥抱创新的同时,不忘教育的本质。🌟欲了解更多详情或探讨教育与技术的未来,敬请关注后续报道!👇

🎓📝ChatGPT引发了全球教育界的深度关注,它不仅挑战了学术诚信,也可能成为潜在的剽窃风险源。巴黎政治学院严谨地告诫学生们,在进行任何形式的学习创作时,尤其是非特定课程作业,必须明确避免使用ChatGPT生成内容。📚🔍透明的引用和原创思考始终是学术殿堂的基本准则。

🌟巴黎政院引领潮流,首倡禁用ChatGPT🔥 —— 这款人工智能语言模型的迅速崛起,已在美国教育界引发风暴。仅短短几周,从中学到大学,众多美国教育机构纷纷跟进,宣布全面禁止在校内使用ChatGPT。他们通过调整作业量,防范学生利用家庭网络作弊的可能,确保学术诚信。👑纽约市教育局更是严令全城,要求师生远离ChatGPT,并采取措施限制其在教育设备和互联网上的访问。这一系列行动不仅体现了对新技术的审慎态度,也展示了教育者对公平竞争环境的坚守。📚未来,如何平衡技术发展与教育伦理,将是我们共同探讨的话题。

AI生成内容的伦理和法律问题,正在引发社会各界的广泛讨论与思考。

AI背后的学术隐忧

🌟ChatGPT虽有趣,但它并非创意之源,这是《Science》主编Holden Thorp近日对AI议题的独特见解。他强调,学术界的基石是原创性,任何依赖ChatGPT生成内容的行为,实质上是对知识产权的侵犯。🚀科研的灵魂在于独创的思想与严谨的实验,而非简单的代码互动。ChatGPT虽能提供便利,但它无法替代人类智慧的火花。作者署名的重要性不言而喻,它不仅是对原创贡献的认可,也是知识传播的信誉保证。📝在追求科学真理的路上,我们必须坚守这一原则,尊重每一份辛勤耕耘的成果。尽管科技日新月异,但学术诚信不可动摇。💪欲了解更多关于AI与原创性的话题,敬请关注《Science》的深度解析,那里有更专业且深入的探讨。📚

🚀科研新纪元:Sci杂志升级编辑策略,明确禁用ChatGPT等AI工具创作内容!📝然而,值得注意的是,对于学术研究中的数据生成,Thorp博士给出了例外,强调其在AI论文中的合法地位,不同于篡改或抄袭的严重性。🔍这意味着,尽管技术日新月异,科研诚信仍是核心价值。🌟

🌟【ICML新规】🔥:AI巨头再出手!国际机器学习盛事ICML宣布,将严格限制参会论文,禁止使用来自LLM(ChatGPT等)的大规模生成内容。虽是为了避免潜在风险与挑战,确保学术纯净。但这无疑对创新研究和未来趋势产生了深远影响。🚀科研之路,还需我们智慧导航,探索未知边界。🎓

对于学术期刊和顶会论文来说,AI生成的内容最大的问题在于知识权属和责任确定问题。作为论文作者,研究人员无疑要对论文的观点和内容负责,而AI要如何对文章内容负责?如果AI生成的内容出现了谬误、不恰当、造假,甚至是抄袭剽窃,又该如何追责呢?

考虑到“AI作弊”带来的普遍问题,目前从OpenAI官方,到学术期刊出版商,以及“草根”开发者都在研究如何分辨一篇文章的“作者”到底是人还是机?

目前,OpenAI正在研发相应的AI检测工具。OpenAI客座研究员Scott Aaronson在德克萨斯大学的一次演讲中表示,他们正在通过给AI生成内容打“水印”来打击作弊。这项技术将通过调整ChatGPT生成单词的规则,在生成内容的特定位置制造“伪随机”的特定单词,读者很难察觉,但就如同密电码一样,“握有密钥”的人就轻易判断这篇内容是否是ChatGPT生成的了。

《Nature》的出版商Springer Nature也正在开发可以检测LLM的技术。而就在前不久,普林斯顿大学的一位22岁的华裔学生Edward Tian研究出了一款专门给ChatGPT挑毛病的应用GPTZero,可以通过检测文本的“困惑性(Perplexity)”和“突发性(Burstiness)”这两项指标,来判断内容是人类创作还是机器生成。

AI引发版权问题

在校外,AI本身的“道德”问题,则让美术“老师”们对新生的AI绘图工具提出了严重的质疑,这直指另一个至关重要的问题——版权。

自从AIGC火了以后,很多行业的配图工作变得轻松了许多。以媒体行业为例,严肃媒体对新闻配图要求高,既要符合文意,又要对版权负责。所以无论是美术作品还是照片,要么是亲手创作,要么来自授权图库,但很多文章受客观条件限制,要找到一张符合要求的配图并不容易。

有了AI绘图以后,很多媒体人开始尝试用AI画配图,甚至是直接绘制新闻人物的肖像。那发自己用AI做的图,总不会侵权吧?这个问题,还真不一定。

教育遇挑战?ChatGPT遭巴黎政治学院封杀,AI学术伦理何去何从?

使用6penAI生成的拜登&特朗普画像

2022年下半年,AIGC刚刚蹿红,就有一些小有名气的艺术家对AI绘图提出了抗议。2022年,Erin Hanson等众多美国艺术家发起了反对Stable Diffusion的抗议行动,他们认为Stable Diffusion生成的部分画作抄袭了他们的风格,而这种行为严重侵犯了他们的合法权益。

AIGC虽然叫做AI生成,但其本身并没有创造能力,只能通过不断学习人类的生产过程,照猫画虎,AI绘图就是典型。在AI训练过程中,需要“投喂”大量的人类画作,从而学习人类的构图、绘画技巧,实现AIGC(AI Generative Content,AI生成内容)。

不过在这个生成的过程中,AI学的实在太像了,以至于很多画作直接与模型库中的人类画师风格完全一致。

“稍有名气的画师可能都遇到过作品被盗用、创意被侵权的事件。”一位国内某知名游戏公司的美术总监向虎嗅表示,虽然AI没有完全盗用画师的作品,但画师对风格上的抄袭也是很难接受的,不论抄袭者是人类还是AI。“如果有人拿着与我绘图风格完全一样的画,说是学习或是参考我觉得没什么。但如果说这是他‘生成’的,那就跟声明原创没什么差别了。不管是否用于商业用途,我都会觉得被严重冒犯了。”

AI的抄袭、剽窃和作弊不应该只是道德问题,还需要法律法规的约束。而目前,AI在很多领域都存在法律盲区。

我国AI领域的立法还处于建章立制阶段。当前已经出台了两部与AI相关的监管条例,分别是《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》,并均已开始生效。除此以外,还有一些分散在《民法典》、《数据安全法》、《网络安全法》、《个保法》、《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》等法律法规中的个别条款规定以及一些支持产业发展性质的文件,目前来说还没有成为一个完整的体系。

“AI生成内容是一项新兴的技术,法律的滞后性和稳定性导致目前还没有专门对这种AI疑似抄袭的现象进行规制。”观韬中茂律师事务所合伙人王渝伟表示,从国外行业实践来看,越来越多的平台和AI绘图工具对作品版权作出了严格要求,谨防AI抄袭导致著作权侵权。在我国,目前还是应当根据《著作权法》,判断AI生成内容与人类艺术家作品之间是否存在实质性相似,进而认定是否抄袭。

除了涉嫌抄袭艺术家作品的AIGC内容,在另一方面,即使是随机生成的内容及画作,也还是会涉及版权问题。

AI绘图在抖音和小红书上刚刚兴起之时,即有脑洞大开的网友提出,可以把AI生成的图片挂到付费图库作为收费资源,实现“躺赚”。

面对这样的骚操作,Adobe选择“有限制”地开放AI绘图。只要符合特定标准,就允许在图片库Adobe Stock中上传生成式 AI 艺术品进行售卖。但上传前必须标记 AI 制作的内容,并且需要拥有其参考图像或文本的商业版权。

作为一款开源模型,Stable diffusion的开发者Stability AI和RunwayML则认为既然开源,那么它也应该依此引用开源CC0协议,即版权归公,同时任何人也可以自由地使用,包括商业使用。而对于DALL-E 2和Midjourney这样并未开源的AIGC模型来说,生成内容的权属则相对模糊。

目前AIGC市场上也存在很多版权乱象,一些基于Stable Diffusion开发应用的厂商声称,使用自己AI程序生成的图片版权归自己,甚至依此生产NFT向使用者兜售。

对此,王渝伟认为,AI应用的使用者,在使用这种应用进行创作时,生成的图片如果符合独创性的要件,就能够构成《著作权法》上的作品。而厂商已明确告知了使用者著作权的归属问题,相当于在合同中已经进行了约定,所以这种作品的著作权应当归属于厂商。 并不是说AI应用基于开源模型开发,它所生成的作品就不存在著作权,还是应当根据《著作权法》的规定判定著作权归属。

“目前相关法律制定最大的障碍和阻力,可能是法律如何保持科技发展和伦理价值的平衡。”王渝伟提出,一方面,AI技术的高速发展,可能会与人类的基本伦理认知相违背,违反社会公序良俗;另一方面,法律的规制也不能对AI技术设置过于严苛的标准,影响AI的进一步发展。

如对本稿件有异议或投诉,请联系tougao@huxiu.com

End

想涨知识 关注虎嗅视频号!

教育遇挑战?ChatGPT遭巴黎政治学院封杀,AI学术伦理何去何从?

AI时代,掌握AI大模型第一手资讯!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

扫码右边公众号,驾驭AI生产力!

相关文章