OpenAI又开大!推出GPT-3.5 Turbo“微调”功能,人人都能定制ChatGPT
OpenAI最近动作不断。上个月7号,在数百万开发者的催促下,OpenAI终于开放了GPT-4的API权限。没多久,OpenAI又宣布开放GPT-4的“代码解释器”功能,一下子让GPT-4的能力有了飞跃,所以开发者们都戏称它为“GPT-4.5”。
不过这不算完,OpenAI之前一直在给GPT-4开发“DLC”(扩展包的意思),而对之前的功臣GPT-3.5有点厚此薄彼了,毕竟和GPT-4比起来,GPT-3.5是不要钱的,也就意味着它的用户数量不在少数,只给“氪金”的玩家开放福利,不给“零充”玩家们一点甜头,那就等着被玩家们讨伐吧。
你当OpenAI不知道这一点?就在今天OpenAI在官网上宣布,也给GPT-3.5带来了升级包——“微调”功能。
人人都可定制ChatGPT?
今天,OpenAI 在官网宣布,推出 GPT-3.5Turbo 微调功能并更新 API,使企业、开发人员可以使用自己的数据,结合业务用例构建专属 ChatGPT。
而至于效果,OpenAI表示经过实际测试,定制的模型可以赶上甚至超过 GPT-4 执行某些任务的能力。GPT-4用户感觉到背刺!
并且OpenAI 强调,传入和传出微调 API 的数据归客户所有, OpenAI 或任何其他组织不会使用这些数据来训练其他模型。
至于微调后,定制模型会有性能提升,OpenAI也在“微调指南”里注明了,比如:
改善可操纵性:
微调允许企业引导模型更好地遵循指令,例如输出更简洁的答案,或者始终以给定语言做出响应。开发人员可以通过微调保证模型在收到德语提示词后,始终以德语给出回应。
更可靠的输出格式:
微调使模型所输出响应结果的格式更加统一。对于需要特定响应格式的应用场景(例如代码补全或编写 API 调用),这种格式可靠性至关重要。例如,开发人员可以用微调将用户提示词转换为可在系统中使用的高质量 JSON 片段。
自定义调节:
微调是提升模型输出质量的好办法(包括改善语气、风格),更好地适应企业品牌的固有定位。拥有知名品牌调性的企业可以对模型做出微调,使其与自身市场形象更趋一致。
而且微调不光能提高性能,还能缩短提示词长度,并保证性能基本不变。早期测试人员还对模型本身的指令进行了微调,从而加快了API调用还降低了成本,让prompt减少了90%。
此外,微调可以让定制的GPT-3.5 Turbo模型处理4k个tokens,达到了之前的2倍!并且OpenAI还表示,支持16ktokens的版本将在今年秋季推出。
更强了,也更贵了!
天底下没有免费的午餐。微调确实让GPT-3.5Turbo更强了,但同时也更贵了。
根据OpenAI公布的定价,GPT-3.5Turbo的微调分为两个部分,分别为初始训练成本与使用成本:
训练阶段:1k tokens 要 0.008 美元
使用输入:1k tokens 要 0.012 美元
使用输出:1k tokens 要 0.016 美元
例如,如果要对 10 万 tokens 的训练文件进行微调,并训练 3 个 epochs,则预计成本为 2.40 美元。
不光是GPT-3.5,GPT-3也更新了!7月的时候,OpenAI 宣布各初版 GPT-3 基础模型(ada、babbage、curie 和 davinci)将于 2024 年 1 月 4 日正式关闭。
同在今天,OpenAI再次更新GPT-3模型,并提供了babbage-002和davinci-002作为以上模型替代品,可以作为基础模型或微调模型来使用。
客户也可以通过查询Completions API来访问这些模型。
另外,这些模型使用新的API端口/v1/fine_tuning/jobs进行微调。
该端口取代了/v1/fine-tunes旧端口(2024年1月4日关闭),提供了分页和更多可扩展性,以支持微调API的未来发展。
下面是各基础 / 微调 GPT-3 模型的定价:
根据这个价格算笔账,微调后的GPT-3.5 Turbo价格是基础GPT-3.5 模型的8倍!
GPT-4也有微调!
GPT-4用户感觉到背刺了?那倒也不必,因为OpenAI在公告中表示,AI天花板GPT-4的微调马上也会来的,几个月后正式上线!
而且在对GPT-3.5 Turbo微调时,所有微调数据都必须通过“审核”API 和 GPT-4 支持的审核系统,以查看是否与 OpenAI 的安全标准相冲突。OpenAI 还计划在未来推出一个微调 UI,其中包含一个仪表板,用于检查正在进行的微调工作负载的状态。
GPT-3.5的微调价格已经是之前的8倍了,那GPT-4微调会贵多少呢?再加上GPT-4本身就是付费使用,价格再上涨一点,对个人和企业来说都是一笔不小的费用,会不会受到人们欢迎还未可知。
最新活动更多
-
12月12日火热报名中>>> STM32全球线上峰会
-
即日-12.18立即报名>>> 【在线会议】Automation1微纳精密运动控制系统
-
12月19日立即报名>> 【线下会议】OFweek 2024(第九届)物联网产业大会
-
即日-12.26立即报名>>> 【在线会议】村田用于AR/VR设计开发解决方案
-
即日-12.26火热报名中>> OFweek2024中国智造CIO在线峰会
-
1月8日火热报名中>> Allegro助力汽车电气化和底盘解决方案优化在线研讨会
推荐专题
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论