ChatGPT官方API发布：输出100万词只要2.7美金 成本砍掉90%
ChatGPT官方API发布：输出100万词只要2.7美金成本砍掉90%这将大大降低开发人员将ChatGPT集成到自家应用和服务的门槛，构建属于自己的AI聊天机器人。而且OpenAI将ChatGPT从去年12月至今的成本砍掉了90%，令此前许多靠开发私有ChatGPTAPI接口赚差价的中间商们再无用武之地。ChatGPT官方API基于GPT-3.5-turbo模型，是GPT-3.5系列中最快速、最便宜、最灵活的模型。开发者可以通过OpenAIPlayground和OpenAICodex来使用和测试ChatGPTOpenAI。此前一些公司已经率先接入ChatGPTAPI，包括生鲜电商平台Instacart、跨境电商平台Shopify、照片分享应用Snap、单词背诵应用Quizlet等，用于提高客户服务、营销、教育等效率及体验。OpenAI还在不断改进其ChatGPT模型，并希望将增强功能也提供给开发人员。使用该gpt-3.5-turbo模型的开发人员将始终获得OpenAI发布的稳定模型，同时仍然可以灵活地选择特定模型版本。例如，今天发布的gpt-3.5-turbo-0301，它至少会在6月1日之前推出特定版本，OpenAI会将gpt-3.5-turbo在4月更新到新的稳定版本。此外，OpenAI还推出了基于large-v2模型的Whisper官方API。Whisper是OpenAI去年9月发布的开源自动语音识别（ASR）模型。开发者可用该功能来转录或翻译音频，费用为每分钟0.006美元。01.ChatGPT官方API来了！输出100万个Tokens只要2美金OpenAI官方宣布，其发布的ChatGPT模型系列与ChatGPT产品中使用的模型相同，对于许多非聊天应用场景，这仍然是他们的最佳模型。一些早期的开发人员，从“text-davinci-003”模型迁移至“gpt-3.5-turbo”只需根据提示进行少量调整。一般情况下，GPT模型数据使用的是电子邮件文本、Twitter信息、博客、新闻等信息中的非结构化文本，这些文本在模型中表现为一系列的“Tokens”，tokens可以被看作将文本切分成的若干个片段，1000个tokens大约是750个单词。而ChatGPT则改为使用一系列消息和元数据的新格式。在底层，输入仍然以tokens序列呈现给模型，模型使用的原始格式就变为一种聊天标记语言ChatML的新格式。OpenAI创建了一个新端点来与ChatGPT模型进行交互。值得注意的是，虽然0.002美元1000个tokens的价格并不贵，但1000个tokens在实际使用中数量并不算多，发送一段文本供API响应就可能会花费多个tokens。例如一个简单的字符串“ChatGPTisgreat！”，就被编码为六个tokens：“Chat”、“G”、“PT”、“is”、“great”、“!”.OpenAI提供了一种工具来检查解释一串文本需要多少标记，并介绍称一般的经验法则是一个token通常对应于约4个字符。02.为高需用户提供专用实例，性价比更高OpenAI还将为希望控制特定型号版本和系统性能的用户提供专用实例（Dedicatedinstances），也就是希望通过API运行大量数据的开发人员。默认情况下，开发人员是按照需求来付费，并且这些需求会执行在共享的计算基础设施之上。使用专用实例，开发人员将按照时间段支付，分配计算基础设施的费用，而这些基础设施就是专门为这些开发人员保留的。专用实例下，开发人员可以更好地控制使用的模型，包括希望它响应请求需要的时间以及与机器人对话可以持续多长时间等。对于每天运营超过4.5亿tokens的开发人员来说，专用实例可能性价比更高。此外，这一条件下还可以根据硬件性能直接优化开发人员的工作负载，这可以显著降低与共享基础设施相关的成本。03.社交、学习、配送、购物程序均已接入ChatGPTAPI此前已经有几家公司接入ChatGPTAPI来创建聊天界面。照片分享应用Snap，本周推出通过ChatGPTAPI接入的“MyAIforSnapchat+”功能，其提供了一个友好的、可定制的聊天机器人。用户通过手机就可以与它聊天获得建议，并在几秒内为朋友写一个笑话。单词背诵应用Quizlet推出了Q-Chat，可以让学生通过有趣的聊天体验中提供的学习材料，来提出相应问题获得知识。生鲜电商平台Instacart计划在今年晚些时候推出“AskInstacart”，这一功能可以帮助用户在询问食物相关问题时获得一些想法，例如用户可以问“对我的孩子来说，什么是健康的午餐？”跨境电商平台Shopify的新购物助手，将会根据购物者的需求进行个性化推荐，通过扫描数百万种产品来简化应用程序内购物的步骤，以快速找到买家正在寻找的东西。04.语音转文本每分钟仅0.006美元，API数据不用于模型训练除了引人关注的ChatGPTAPI外，OpenAIAI驱动的语音转文本模型也可以通过API接入，该公司正在对其开发人员服务条款进行一些重要更改。开发人员可以使用这一功能来转录或翻译音频，费用为每分钟0.006美元。从技术上讲，Whisper模型是开源的，因此开发人员无需支付任何费用也可以在自己的硬件上运行它。但是，如果在一些特殊情况下，例如开发人员对接入效率的要求较高以及需要在手机等低功率设备上转录。就可以通过OpenAI提供的更强大API。除了开放API外，OpenAI还基于开发人员反馈宣布了一些政策变更：通过API提交的数据不再用于服务改进（包括模型训练），除非相应的公司选择或者统同意加入；为API用户实施默认的30天数据保留政策，并根据用户需求提供更严格的保留选项；通过改进自动监控解锁来删除OpenAI发布前审查；改进开发人员文档；简化其服务条款和使用政策，包括有关数据所有权的条款：用户拥有模型的输入和输出。05.结语：OpenAI为开发者打开AI应用大门此前，一些开发人员已经找到了在自己的应用程序中接入聊天机器人的解决办法，那就是使用OpenAI的常规GPTAPI，但从应用和开发难度来看，都没有达到最佳效果。对于大多人开发人员来说，开发如同ChatGPT这样的自己的聊天机器人模型是完全遥不可及的，但此次官方将ChatGPTAPI正式打开，且其花费的价格并不高，为开发人员构建聊天机器人打开大门。OpenAI的官方博客中也谈道，他们认为人工智能可以为每个人提供难以置信的机会，而实现这一目标的最佳方式就是让每个人都可以利用它进行开发。...PC版：https://www.cnbeta.com.tw/articles/soft/1347275.htm手机版：https://m.cnbeta.com.tw/view/1347275.htm
