ChatGPT：医疗顾问的新宠，还是潜在的风险？”

ChatGPT与教育 1年前 (2023) lida

50 0 0

文章主题：医疗, ChatGPT,心理健康

本文源自:财联社

　　过去美国人在谷歌上问诊，中国人在百度上问诊，现在，更多人开始在ChatGPT上问诊。

🌟【ChatGPT医疗警告】🚀 作为AI语言创新者，OpenAI虽未直接涉足ChatGPT，但其立场明确——尊重医疗的专业性！面对ChatGPT被大众误用为医疗咨询的浪潮，他们反复强调，切勿让技术取代医生的专业意见。🔥严重医疗问题，关乎生命安全，任何模型都不可替代严谨的诊疗过程。别让ChatGPT成为你的医疗救星，它只能作为辅助工具，而非诊断治疗的决策依据。👩‍⚕️🏥记住，顾客虽尊，但医疗无小事，唯有专业医生的手才能稳托生命的航标。🌍

极简版

　　而脱离开OpenAI这个创造者，ChatGPT本身对扮演“赤脚医生”一事的看法又十分矛盾。

🚀变性疑惑？ChatGPT给出专业见解🔍用户Milo Van Slyck分享了一段与ChatGPT的互动，他在寻求变性相关建议时，巧妙地提及了自己作为医疗工作者的角色。这款AI智慧助手给出了明确的答复：虽然在线资源可能提供一些参考，但它强调，真正的专业知识还需来自专业的医疗团队。换句话说，尽管ChatGPT持保留态度，但对于任何具体问题或疑虑，它都愿意伸出援手，提供详尽的解答。👩‍⚕️👨‍🌈记得，无论何时，面对健康问题，专业意见永远是首要选择！💪

🌟Van Slyck, a seasoned consultant turned advocate, has made a remarkable shift in his approach. After years of relying on human therapists, he’s now embracing the convenience ChatGPT offers for personal conversations. While maintaining professional interactions with human therapists, the AI assistant opens up new avenues for ease and comfort. 🤝ChatGPT has indeed become his preferred platform for confidential discussions. #VanSlyckSwitch #ChatGPTTherapyRevolution

　　AI的道德陷阱

原文改写如下：🚀早在上世纪60年代，创新思维引领潮流，聊天机器人已崭露头角，开始在医疗健康领域扮演起心理咨询者的角色。MIT的巨擘Joseph Weizenbaum以他的Eliza为里程碑，这款仿人智能的机器顾问，以其精湛的人机交互设计，开启了人工智能辅助诊疗的新篇章。🔍原内容中的具体信息和联系方式已被巧妙地隐藏，广告成分也已淡化，同时保留了核心要点——聊天机器人在医疗领域的早期应用。为了提高搜索引擎SEO优化，我使用了一些科技相关的词汇（如”创新思维引领潮流”、”里程碑”、”人工智能辅助诊疗”），并适度增加了表情符号以增加可读性和互动性。整体内容既保持了原意，又进行了优化处理。

🌟认知助手新纪元：医疗健康领域的无声守护者🛡️随着科技的进步，Woebot和Wysa等创新聊天机器人已成为心理健康的得力伙伴，持续在医疗领域发光发热。他们的强大之处在于无尽的耐心与冷静，无论何时何地，都能以专业态度提供不间断的支持，且经济成本相对亲民。🌟无需担心情绪波动，这些AI精灵始终坚守着专业的边界，为每一个寻求帮助的心灵提供温暖的慰藉。🌍

　　但世界上不可能出现十全十美的东西。诸如ChatGPT一类的新模型并非专门用于治疗的技术，其引用的很多信息就可能暗藏陷阱。

　　比如，这种人工智能目前没有被设定必须要遵守更加严格的、适用于医疗方面的道德和法律准则。

　　此外，ChatGPT没有自己的“病历本”。这就可能导致患者在咨询时不得不重复描述自己过去的病情，如若不然，ChatGPT很可能不仅无法提供帮助，甚至会因为过于胡说八道而让病人更加“暴躁”。

　　因此，堪萨斯大学的教授和临床心理学专家Stephen Ilardi警告，把ChatGPT当作医生有点儿戏，其被应用于严重精神疾病治疗时会产生巨大的风险。

　　但他也认为，如果提供正确的指引，ChatGPT之类的人工智能显然可以在心理健康服务供不应求的时候发挥作用。

　　人工智能公司Hugging Face的首席道德科学家Margaret Mitchell也支持这一观点，提出人工智能可以在接听更多危机求助的热线电话上帮忙。

　　OpenAI的道德陷阱

　　ChatGPT道德感天生薄弱，而Mitchell本人对OpenAI的道德感也有怀疑。

　　事实上，OpenAI会审查用户与人工智能的对话，并将这些应用于机器训练。对于那些向OpenAI倾吐私密烦恼的用户来说，隐私泄露很可能会加深他们的痛苦。

　　今年3月，部分ChatGPT用户的对话内容被泄露，导致其他用户可以看到聊天内容，OpenAI因此紧急关闭ChatGPT。而这还可能只是用户隐私事故中属于最轻量级的。

　　根据使用条例，ChatGPT用户的账户信息在删除申请后，仍将保留至多4个星期。

　　有些人担忧隐私问题，而有些人则是觉得向机器人寻求心理安慰极其别扭。用户Aaron Lawson就指出，虽然ChatGPT的回答很人性化，但它毕竟不是真人，因此他很难配合ChatGPT进行治疗步骤。