ChatGPT的未来：技术突破、多模态发展与潜在挑战

《科创板日报》7月4日讯（记者 李明明） 近日，由北京市人民政府联合工业和信息化部、国家网信办、商务部、中国科协共同主办的2023全球数字经济大会人工智能高峰论坛举办。清华大学计算机系长聘教授、清华大学人工智能研究院副院长、瑞莱智慧/生数科技首席科学家朱军分享了对人工智能目前的发展状态以及安全态势的思考和探索。

🎨ChatGPT：技术革新与未来发展🚀1978年，技术革命的曙光照亮了人工智能领域，为ChatGPT的诞生奠定了基础。去年底，Chat版本的发布犹如一把钥匙，开启了意图理解与可用性、用户体验的新篇章。它解决了核心问题，让一切变得更加流畅和高效。今年，这个创新的步伐将更加稳健且迅速。大模型的核心技术——内容学习、思维链及指令学习——如同引擎中的三大要素，推动着技术的迭代与升级。而基于用户反馈的强化学习，则像智慧的灯塔，不断优化模型，使其更贴近人性。ChatGPT的发展，无疑是对未来智能交互的一次深度探索和实践，我们期待它在提升用户体验的同时，也引领一场技术革命。SEO优化提示：ChatGPT、技术架构、人工智能、意图理解、用户体验、大模型、内容学习、思维链、指令学习、强化学习、未来发展。

过去十年，人工智能最大的变化趋势就是从小模型变成大模型。“机器学习常用的模型的规模，发生了巨大的变化，呈现指数型增长的趋势。最受关注的典型成果，就是ChatGPT大语言模型的横空出世。它解决过去机器学习模型从不好用到好用，能够理解意图和上下文等等，已经成了人工智能最受关注、使用最广泛的产品。”他说。

🌟🚀多模态革命：未来的技术基石🔍🧠在当今信息爆炸的时代，大众对多模态技术的探索热度持续攀升。朱军专家深入浅出地揭示了这一趋势背后的深层逻辑——人本性即为多模态感知系统，天生渴望处理丰富多元的数据类型。无论是解决复杂工程问题中的图像、文本、语音交织，还是触觉等多元信息，多模态模型的应用与理论研究都显得至关重要，它们正逐步成为未来技术领域的强大支柱。特别是在文本领域，我们已经看到了显著的进步和成熟，但这并非终点。图像、语音、视频、3D乃至分子结构的深度学习应用正在如火如荼地展开，各路专家都在积极尝试并拥抱这些大规模预训练模型，以实现前所未有的数据处理能力。🚀🌈让我们期待这一领域的不断创新与突破，多模态技术将引领我们步入一个更智能、多元化的未来。🏆

🌟朱军分享：🚀团队专注于大模型在垂直领域的深度探索，即所谓的私域服务解决方案。与广袤的公域和通用领域相比，私域问题更聚焦，专业度深厚，对数据质量的要求极高。这是我们早期就布局的方向，团队已积累了显著优势。🎯专深服务，数据为王，未来可期！🌟

谈及大模型的安全风险，他指出，AIGC特别是ChatGPT出现以后，安全问题越来越严重。大模型本身可能会对Prompt Injection（一种攻击技术）攻击风险，加入少量编辑就会被误导，同时也存在数据泄露的风险，ChatGPT会把很多隐私数据上传。现在还出现了用AIGC技术来提升诈骗手段，通过虚假内容来实现黑产攻击，包括代码生成实现网络攻击。而且生成的虚假内容本身是不良的，存在误导性和欺骗性。

🎉🚀随着人工智能技术的飞速发展，我们正步入一个全新的大模型时代。在这个过程中，一系列关键议题引发了广泛的关注：算法的政治倾向是否存在？数字公平性如何保证？以及数据采集过程中的知识产权保护问题，这些问题的重要性与日俱增。

🌟国家对AI领域的治理高度重视，近期密集出台了一系列重量级法规与政策，如《🔥AIGC服务指引草案🔥》及《🔍深根管理制度》，旨在为人工智能的发展提供坚实的法律保障。这些举措无疑彰显了我国在推动技术进步和规范市场行为方面的决心。

那么，究竟有哪些思路和尝试可以解决这些问题？

朱军认为，首先是从通过基础理论研究突破、提高内在安全性能来持续构建第三代人工智能。从人工智能基础尝试，针对深度学习、深度神经网络，学术界一直在探索第三代人工智能新范式，希望能够将数据和知识有机融合在一起，发展更加安全可靠的人工智能框架。

其次是不断提升大模型安全评测能力。主要关注对抗攻击评测、角色扮演与诱导欺骗评测、混淆指令欺骗评测等方面。

三是构建人工智能安全治理有效工具——人工智能安全靶场。前期团队对此做了探索，包括人工智能本身的安全平台，安全评测、防御和整个态势的评估，包括对抗样本这些场景，可以通过平台化方式，对人工智能的算法和服务进行评测。而特殊专业的应用场景，可专门针对对抗样本检测，伪造视频检测等等进行防护，即人脸识别的防火墙，现在金融行业也在部署和应用。