ChatGPTPlus暂停购买后回归，OpenAI如何确保AI安全并持续改进？监管时代已来临吗？

ChatGPT与教育 2年前 (2023) lida

65 0 0

文章主题：ChatGPT, OpenAI, GPT-4, AI安全

🎉【最新消息】ChatGPT Plus付费服务再现曙光！🚀于4月5日这激动人心的一刻，ChatGPT官方网站正式发布通知，尽管前期由于异常火爆的预订需求，导致Plus付费项目短暂停滞，但好消息是，现在它已经成功重启，并且用户们可以顺利地进行购买了！🎉这个备受期待的功能回归，无疑为广大的ChatGPT爱好者带来了新的选择和便利。如果您对提升使用体验有更高的追求，那么现在就是行动的时刻！🚀请留意，保持关注并准备好您的钱包，因为ChatGPT Plus的服务再次开启，等待着满足您个性化需求的那一刻！👋SEO优化提示：ChatGPT、Plus付费服务、恢复购买、用户体验、最新动态

值得注意的是，4 月 6 日凌晨，Open AI 在官网发布了《Our approach to AI safety》，以确保安全、可靠地为全球用户提供 ChatGPT 服务。

图片来源：Open AI 公司官网

建立广泛的安全和监控系统

🌟🚀AI先行者承诺：每项创新皆严谨打磨，🔥🔥全面测试护航！🌟我们携手国际专家，👀👀以公开透明的方式收集意见，借助AI的力量，迭代优化，让行为更合规。🛡️🛡️安全防线筑起，24/7监控无死角，确保每个模型都在稳健运行中。🌍🌍信任源于责任，Open AI，为智能未来保驾护航！🌟

🌟🚀经过对🔥🔥GPT-4🔥🔥的深度训练，我们耗时6个月余，全心全意致力于提升其稳定性和一致性，只为在正式亮相前为全球用户提供更为安心的体验。🛡️🌍每一处细节，都经得起严谨测试和安全考量，确保技术的力量得以妥善释放，而非成为潜在风险的源头。🚀

🌟💡OpenAI 强调，打造安全可靠的超智能是当务之急，需严谨的审查机制保驾护航。我们持续与各国政府密切合作，探索最适宜的安全监管方案，让智能科技在规范中蓬勃发展。🌍🌐

图片来源：Open AI 公司官网

从实践中学习、优化、改善

🌟【AI风险防范】🚀 在推出前，Open AI始终致力于降低潜在风险，但实验室环境下的局限性不言而喻。💡 精心研究与严格测试虽能揭示部分可能的积极影响，却无法预见所有有益于社会的应用场景。🔍 同样，对不良行为的滥用可能性，我们也只能做到一定程度的预防，无法完全预见和杜绝。🛡️ 诚然，技术的力量有待探索，但我们深知风险管理的重要性，每一步都力求在创新与责任之间找到平衡。🌈

🌟🚀随着时代的发展，将实际世界的经验融入AI的塑造与发布变得至关重要，这已成为提升人工智能安全性的重要里程碑。因此，投身于实践项目，不断迭代优化，以产品质量为核心，是迈向更安全智能未来的不二法门🏆💪

关键重点：保护儿童

我们安全工作的一个关键重点是保护儿童。我们要求年满 18 岁或 13 岁以上的人必须获得父母批准才能使用我们的人工智能工具，并正在研究验证选项。

我们不允许我们的技术被用于生成仇恨、骚扰、暴力或成人内容等类别。与 GPT-3.5 相比，我们的最新模型 GPT-4 响应不允许内容请求的可能性降低了 82%，我们已经建立了一个强大的系统来监控滥用情况。现在，ChatGPT-Plus 用户可以使用 GPT-4，我们希望随着时间的推移，更多的人可以使用它。

我们已经做出了重大努力，最大限度地减少我们的模型生成伤害儿童的内容的可能性。例如，当用户试图将儿童性虐待材料上传到我们的图像工具时，我们会阻止并向国家失踪和被剥削儿童中心报告。

除了我们默认的安全护栏外，我们还与非营利组织 Khan Academy 等开发人员合作，该学院构建了一个人工智能辅助系统，既可以作为学生的虚拟导师，也可以作为教师的课堂助理，为他们的用例量身定制安全缓解措施。我们还在开发一些功能，允许开发人员为模型输出设置更严格的标准，以更好地支持想要这些功能的开发人员和用户。

尊重隐私

Open AI 的大型语言模型是在广泛的文本语料库上训练的，这些文本包括公开可用的、许可的内容以及由人工审阅生成的内容。

Open AI 不会使用数据来销售服务、做广告或建立人们的档案——会通过使用数据使大语言模型对人们更有帮助。例如，ChatGPT 通过与人类之间进行的对话，以进一步培训和改善产品。

ChatGPT 恢复 Plus 订阅服务

4 月 5 日，ChatGPT 官网宣布，由于需求量过大，暂停 Plus 付费项目的购买。

这一情况在社交平台 Reddit 上引起讨论，有网友表示因为需求过高而关闭付费服务 ” 一点也不奇怪，（和 ChatGPT 对话时）10%-15% 的回复会出现网络错误情况，且回应速度比以前至少慢了 2 倍 “。也有不少网友将这一情况归咎为 OpenAI 人手不足。此前 1 月，该公司的首席执行官 Sam Altman 曾在推特上表示，该公司的总人数为 375 人，远远小于大型科技公司的员工数量。《科创板日报》今早实测发现，OpenAI 的 ChatGPT 已经恢复了 Plus 订阅服务，并可进入付费环节。 ChatGPT 风险引发多国警惕！千人联名呼吁暂停

继意大利宣布禁用 ChatGPT 后，多国政府和企业开始调查或采取措施限制使用该软件。据加拿大广播公司（CBC）4 日报道，加拿大联邦隐私监管机构宣布，已经对开发 ChatGPT 的美国公司 OpenAI 展开调查，因为该公司涉嫌 ” 未经同意收集、使用和披露个人信息 “。报道同时提到，美国总统拜登及其科技顾问委员会在 4 日举行的会议上也讨论了人工智能的 ” 风险和机遇 “。英国《卫报》4 日称，英国信息专员办公室已经向科技公司发出警告，不要使用个人信息来开发聊天机器人。英国信息专员办公室技术和创新总监阿尔蒙德表示，类似 ChatGPT 的生成式人工智能 ” 如果被不负责任地使用，有可能对数据隐私构成风险 “。

据第一财经，上周，包括 OpenAI 共同创始人马斯克在内的上千名科技领袖通过非营利组织未来生命研究所（FLI），签署一份联名信，呼吁 OpenAI 暂停对 GPT 的训练，理由是对社会的潜在风险。这份联名信引用了包括 OpenAI、谷歌及其子公司 DeepMind 等机构的 12 项研究。

不过这份联名信已经引发了激烈的争辩。一些人工智能权威人士认为，人工智能的威胁被夸大了。

清华大学智能产业研究院首席研究员聂再清对第一财经记者表示：” 我认为 GPT-4 主要还是人类助手和提升效率的工具，而且是完全在人类的控制下工作的，暂停 6 个月的训练这一要求过于一刀切了。”

ChatGPT 概念股集体重挫

4 月 6 日，AI 应用端相关板块陷入调整，ChatGPT 概念股领跌，截至午盘，中文在线跌超 8%，鸿博股份跌超 7%、海天瑞声跌超 6%。

每日经济新闻综合 Open AI 官网、科创板日报、澎湃新闻、公开资料

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。

每日经济新闻