ChatGPTAPI升级大挑战:新功能来了,开发者欢呼,大模型格局要变天吗?
文章主题:gpt-4-0613, gpt-3.5-turbo-0613, function调用, OpenAI
ChatGPT一夜间再次进化,OpenAI一口气推出大量更新!
最核心的是API新增函数调用(Function calling)能力,与网页版的插件类似,API也能使用外部工具了。
这个能力被交到开发者手上,ChatGPT API原本不具备的能力也都能靠各种第三方服务解决了。
有人认为,这是一个杀手级特性,也是自ChatGPT API发布以来最重要的更新。
另外这次关于ChatGPT API的更新每一个都很重磅,不仅能力加量,价格还更低了:
推出新版本gpt-4-0613和gpt-3.5-turbo-0613模型
gpt-3.5-turbo上下文长度增涨400%,从4k增长到16k
gpt-3.5-turbo输入token降价25%
最先进embeddings model降价75%
GPT-4 API大规模开放,直到清空排队列表为止
消息到了国内,也有网友认为这是国内大模型面临的重大挑战。
何时使用工具,API自己决定
根据OpenAI官方介绍,函数调用同时支持新版GPT-4和GPT-3.5。
🌟模型操作指南🌟开发者只需掌握模型的核心功能,让模型自行识别并执行任务。就像ChatGPT通过内置模块扩展能力,我们的模型也遵循同样的逻辑。无需硬性指定每个函数的调用时机,一切由模型智能解析和触发。🚀SEO优化提示:了解模型动态,简化交互流程,提升效率✨
对于具体使用方法,官方给出了三个例子:
第一,聊天机器人调用外部API执行操作或回答问题,如“给某人发邮件”或“今天的天气如何?”。
第二,将自然语言转换为API调用或数据库查询,如“上个月有多少订单?”会自动生成SQL查询语句。
第三,从文本中自动提取结构化数据,如只需要定义好需要的“人名、生日、位置”,再给个网页链接,就可以自动提取一篇维基百科文章中提到的所有人物信息。
这一新功能让广大网友、特别是开发者为之欢呼,表示有了它工作效率将大大提高。
以前,想要让GPT调用函数需要借助LangChain的工具才能实现。
……
尽管LangChain理论上拥有更高的运行效率,但可靠性要逊于经过专门调教的新GPT。
更新版本,更低价格
目前,新版本的模型已经逐步开始迭代。
🌟🚀掌握未来!🔥最新GPT系列大升级!🚀版本号4.0613、3.5-Turbo及超长篇幅4.32K,火力全开!🎉这些先进的AI模型不仅实现了强大的函数调用功能,还引领了语言生成的新高度。🌍无论科研写作、代码开发,还是创意文案,都能轻松应对,一触即发!💼🔥GPT-4的创新突破,让你的思维如丝般流畅,逻辑清晰到令人赞叹。💻通过内置算法,它能快速理解并执行复杂任务,为你的工作省时又高效。🔍而且,它们对上下文的理解深度前所未见,生成的内容更具连贯性和深度。🚀GPT-3.5-Turbo的turbo加速,让你在信息洪流中游刃有余,速度与精度并存。🔥而4.32K版本更是突破传统,满足你对内容量无尽探索的需求。📚不论是学术论文还是商业报告,都能提供海量素材,助你一臂之力。📝无论你是技术宅、创意狂人还是学者,这些AI伙伴都将是你强大的工具箱。💡立即升级你的技能栈,开启智能写作的新篇章!🌐记得,这不仅仅是一段文字,它们是未来的语言引擎,引领着知识的创新与传播。👩💻👨💻
🌟【超凡性能】GPT-3.5 Turbo 16K大模型🌟🚀无需函数调用,强大到极致!这款AI巨擘以惊人的4倍上下文能力,带你领略前所未有的文本处理深度。每一步请求,都能覆盖约20页的丰富内容,解锁海量信息的无尽宝藏。🔍🔥专为高效创作而生,无论是长篇小说构建、学术论文撰写,还是企业文案打磨,GPT-3.5 Turbo都能以超群的速度和精准度满足你的需求。它不仅强大,更是智慧与速度的完美结合。🎯🛡️隐私至上,我们承诺保护用户信息安全,去除所有个人信息及联系方式,确保每一次互动都安全无虞。👩💻👨💼🌍SEO优化大师,关键词丰富,结构清晰,帮助你的内容在搜索引擎中脱颖而出,轻松提升流量和可见度。🌐🌟立即体验,开启你的知识探索之旅,让GPT-3.5 Turbo成为你创作路上的得力助手!🚀
旧模型也开始逐步废弃。
使用初始版本gpt-3.5-turbo、gpt-4的应用将于6月27日自动升级到新版本
需要更多时间过渡的开发者也可以手动指定继续使用旧版本,但9月13日之后所有旧版本请求将彻底废弃。
说完这个时间线,我们再来看看价格。
升级之后,OpenAI不仅没有让产品涨价,反而下调了价格。
首先是使用量最大的的gpt-3.5-turbo(4k token版)。
🚀价格波动通知🌟:Token价值已降至原先的75%!你现在只需支付0.0015美元/每个千Token,相当于1美元兑换66.6万个Token的超划算汇率。这不仅是节省,更是投资良机!赶紧把握,数量有限哦!💪💰
而输出token每千token的价格则为0.002美元,也就是1美元50万token。
换算成英语文本的话,大致是1美元700页。
嵌入模型(embeddings model)的价格更是大跳水,直接降低了75%。
每千token只需0.0001美金,也就是1美元一千万token。
🌟【超凡性能,超值享受】🔥🔥新一代GPT3.5-turbo震撼登场!💥 独特的16K token技术,为用户带来前所未有的计算力爆炸式提升,效能比4K版本整整翻四倍!🚀 这样的强大实力,却只需原价的一半,性价比之高,令人惊艳!💰🔥无论是高效的文本生成、深度学习任务还是创新性的内容创作,16K token版GPT3.5-turbo都能轻松驾驭,满足你的所有需求。💻 不仅如此,它的高效能与亲民价格形成强烈对比,就像一场科技与实惠的完美风暴,让每个创意都触手可及!🌪️🌍立即拥抱这股技术革新,体验前所未有的流畅和速度,让你的作品在信息海洋中脱颖而出!🏆 让我们一起探索无限可能,用GPT3.5-turbo开启你的创新之旅吧!🚀#GPT3.5-Turbo #高性能处理 #超值性价比
输入及输出token的价格分别是0.003和0.004美元每千token。
另外还有少数网友反应,当月账单直接从100到降到几美分了,目前还不清楚具体什么情况。
最后,有需要的话也不要忘记去排队GPT-4 API的测试资格。
(传送门放在文末)
OpenAI捕“Chain”,微软在后
不少网友指出,OpenAI新出的“函数调用”基本就是Langchain里“Tools”的翻版。
也许接下来,OpenAI还会翻版Langchain的更多功能,如Chains和Indexes。
Langchain是大模型领域最火的开源开发框架,能够把各种大模型能力整合起来快速构建应用程序。
团队最近也刚刚获得1000万美元种子轮融资。
虽然OpenAI的这次更新还不至于直接“杀死”Langchain这个创业项目。
但是开发者们本来需要LangChain才能实现一些功能,现在确实不再需要了。
再看Langchain一方的反应,求生欲也确实很强。
在OpenAI官推发布更新的10分钟之内,Langchain立马宣布“已经在做兼容工作了”。
🚀🚀不到1小时大更新!🔥全新版本已上线,不仅兼容官方新特性,还能轻松将开发者专属工具转为OpenAI功能模块。👩💻👨💻这不仅仅是一次迭代,更是技术实力的展现,让创新触手可及!欲了解更多,敬请探索我们的最新力作。SEO优化提示:’官方支持’ ‘工具转换’ ‘OpenAI functions’ ‘技术创新’ ‘立即体验’
一众网友除了排队感叹这快得离谱的开发速度,还思考起一个无法回避的问题:
OpenAI把你的创业项目给做了怎么办?
对此,OpenAI首席执行官Sam Altman最近刚好做过一次表态。
在5月底Humanloop举办的交流会上,Altman曾表示:
除了ChatGPT类型的消费级应用之外,尽量避免与客户竞争。
现在看来,开发工具似乎不算在避免竞争的范围之内。
而与OpenAI形成竞争关系的除了创业公司,还有一个不可忽视的存在:
微软,OpenAI最大金主,通过Azure云也对外提供OpenAI API服务。
就在最近,有开发者反馈,从OpenAI官方API切换到微软Azure版本后,性能显著提升。
具体来说:
median latency从15秒减少到3秒
95th percentile latency从60秒减少到15秒
平均每秒处理的token数量增加了三倍,从8个增加到24个。
再算上Azure给的一些折扣,甚至比原来还便宜了。
但微软Azure的更新速度一般要比OpenAI慢上几周。
开发阶段快速迭代用OpenAI,大规模部署转去微软Azure,你学到了么?
— 完 —
AI时代,掌握AI大模型第一手资讯!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
扫码右边公众号,驾驭AI生产力!