1. 背景
在2022年11月中旬，chatgpt这个问答AI开始爆火，由于chatgpt目前仅限于官网网页版访问使用，登录也麻烦。于是有些作者在解析网页后做了可供第三方使用的插件等等，但是这一切在12月13日OpenAI官方加了cf认证后基本告一段落。因此，有些作者转而使用官网提供的低配版chatgpt，也就是用text-davinci-003模型代替的弱化版chatgpt，而OpenAI官网提供了对text-davinci-003模型的API。这里简单说下其API的使用及计费策略。
2. API使用简述
账户注册成功后，我们可以直接使用ChatGPT官网的Web版来玩一下，一般情况下，其回答质量还是蛮高的。不过也不应该盲目的相信ChatGPT的回答，例如，下面的这个回答就是错误的（不知道能不能给官方报一个Bug）：
为什么说错误了呢，因为model参数其实是用来表达自然语言处理模型的（前面讲了目前其官方只是提供了对text-davinci-003模型的API）。以下是我做的一个测试，明显可以看出不能用该字段去表达会话ID：
另外需要说明的是，虽然OpenAI注册和使用不支持中国地区，但是不意味着不支持中文，如果你用中文提问，那么ChatGPT将用中文回答你，对于其他语言也是同样。
2.1 API使用示例
使用其实非常简单，示例如下。
1、API鉴权
使用http Authorization头进行鉴权，值为：申请的API keys。对于API keys的管理官方的描述是：
API 密钥是秘密的！不要与他人共享或在任何客户端代码（浏览器、应用程序）中公开它。生产环境请求必须通过您自己的后端服务器进行路由。
2、参数描述
model ：使用什么模型。
prompt ：上下文内容。
temperature ：字面意思是温度，还没有去查（本文所介绍的所有内容用了1天时间去折腾，目前只能是先去简单了解）
max_tokens：最大Token，首先关于Token我最初的理解是类比词法分析中的Token（之前写了一个demo，里面涉及了分词：《遵循编译原理主要过程实现“打印1+1结果”》https://blog.csdn.net/camelials/article/details/123415475），不过从官方的介绍上来看，这样理解没有问题。需要说明的是该字段影响回答的饱满度，即回答的内容长度不超过该设置。后面我会简单介绍计费相关，最后你一点会觉得：先聊十块钱的，然后发现十块钱不够聊的。因为一次请求所花费的Token数量可不单单只是回答所消耗的Token还有prompt所消耗的Token，这点，从上图的应答就很容易发现（usage里的信息）。
接口调用示例如下图：
2.2 使用API如何串联上下文
从上面我贴的API请求/响应的示例中我们可以看出：好像没有什么地方可以表达会话信息。那么如何使用API如何串联上下文呢？由于没有快速找到相关说明，于是我直接问了ChatGPT自己，得到的答复是：
上面的文字回答可能有些地方存在二意行，于是我接着直接让chatGPT给出java代码。从下面的代码就能看出：串联上下文其实就是简单暴力的将前面的问答内容不断的累加到后面的问题中
3. API计费
官方计费说明简单来说：按照token计费，1000token大约750个单词，当然这里说的英文单词而不是中文。
Prices are per 1,000 tokens. You can think of tokens as pieces ofwords, where 1,000 tokens is about 750 words. This paragraph is 35
tokens.
3.1 计费明细
3.1.1 图片模型计费明细
3.1.2 语言模型计费明细
咋一看，感觉便宜，但是你想想：
1、现在只能使用text-davinci-003模型，0.12刀/k tokens；
2、前面我说的max_tokens参数用途，如果想要详尽的回答，这个值不能限的较小吧？
3、前面说的如何串联上下文只能是简单暴力的将前面的问答内容不断的累加到后面的问题中。
结合这3点，是不是觉得： 不差钱，先聊十块钱的，然后发现十块钱不够聊的？ 因此，从基于ChatGPT应用的产品和技术层面上来说以下两点是需要首先注意的问题：
不能无限制的支持上下文关联，极端情况下，我认为可以在提问提交的按钮左侧增加1个是否关联上下文单选项（默认不选择，而且只能关联上1个对话）
动态控制max_tokens的给值，当然目前我并不能给出较好的解决方案，好像基于提出的问题内容本身，目前难以提前知晓其回答的内容的多与少，如果能知道那么其实我自己的系统也可以算是具备了chatGPT的某些能力，这显然是不现实的。希望有招的同学给点思路，欢迎评论回复。
以上所有内容的折腾，我几乎花费了一整天，写出来也是希望让有需要的同学节省时间和少走弯路。
如果不愿意折腾的伙伴可以联系站长微信购买成品海外帐号：
站长微信：veisun888
相关文章
