《ChatGPT背后的技术涉嫌伪造试验数据,引发学术界对科研诚信的担忧》

文心一言 1年前 (2023) lida
52 0 0

AI赋能未来,让生活更精彩!关注公众号,了解最新AI趋势,使用顶尖AI工具,共创智能化美好生活!

《ChatGPT背后的技术涉嫌伪造试验数据,引发学术界对科研诚信的担忧》

文章主题:artificial intelligence, GPT-4, data forgery, scientific research

666ChatGPT办公新姿势,助力做AI时代先行者!

一项近日在《美国医学会杂志·眼科学卷》上发表的新研究指出,位于ChatGPT背后的技术能够制造看似真实的实验数据,从而似乎能够证实尚未得到验证的科学假设。这一发现引发了广泛的关注,因为这类技术如果被恶意利用,可能会对科学研究产生严重的影响。

ChatGPT是由美國開放人工智慧研究中心(OpenAI)開發的基於大語言模型的聊天機器人程式。今年三月份,OpenAI推出了支持ChatGPT運行的大語言模型新版本GPT-4。接下來,GPT-4經過了高級分析數據(ADA)功能的擴展。ADA是一種結合了計算機編程語言Python的模型,能夠執行統計分析並創建數據可視化。

近期,根据英国《自然》杂志网站的报道,一项由意大利卡坦扎罗大学等机构的研究人员主导的任务已经完成,他们要求 GPT-4 ADA 创建一个专门针对圆锥角膜患者的数据集。圆锥角膜是一种常见的角膜病变,部分患者需要接受角膜移植手术。这种手术有两种主要方式:一种是穿透性角膜移植术,即通过切除病变的角膜,并用供体的健康组织替代;另一种是深板层角膜移植术,该手术只替换病变的部分角膜组织,同时保留角膜内层的完整性。

在接下来的步骤中,科学家们要求 GPT-4 ADA 生成相关的临床数据,以便证实深度板层角膜移植手术相较于透明角膜移植手术能够带来更佳的效果。

人工智能生成的数据中,我们发现有160位男性参与者和140位女性参与者。据分析,在接受深板层角膜移植术的参与者中,他们的视力测量和眼部成像测试得分都超过了接受穿透性角膜移植术的参与者。然而,这个结论并未与实际临床试验的结果保持一致。实际上,在2010年的一份报告中,77位参与者接受的是这两种手术,结果显示,在手术后的两年时间里,两组参与者的效果并无显著差异。

在一项由英国曼彻斯特大学的生物统计学家杰克·威尔金森领导的研究中,他们发现了一些令人质疑的数据。研究结果显示,参与者的性别和姓名存在不一致,而且术前和术后进行的视力测量以及眼部成像测试之间并没有展现出预期的相关性。这些发现引发了对于数据质量的担忧,并需要进一步的调查来解释这些异常现象。

随着人工智能技术的发展,其在制造看似合理的数据方面的能力也日益增强,这使得学术界对科研诚信产生了越来越大的担忧。为了应对这一挑战,研究人员强调,提高警惕并采取相应措施以确保科研诚信至关重要。

artificial intelligence, GPT-4, data forgery, scientific research

《ChatGPT背后的技术涉嫌伪造试验数据,引发学术界对科研诚信的担忧》

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

相关文章