丁宇 | DING Yu

让GPT少花钱多干活的技巧

1

分享几个写GPT指令的技巧,主要是怎么少花钱(token)达到相同甚至更好的效果。

2

在让GPT返回特定格式时(比如JSON),不用仔细定义字段和类型,只要举几个例子、说明输入输出是什么样就可以了,GPT能搞定剩下的。

这其实就是实时训练,关键词是in context learning、one/few shots。

3

如果你必须描述格式定义,觉得用自然语言又很麻烦(比如“第一个字段叫name,是个字符串”……),可以用JSON、YAML甚至伪代码,只要描述本身清楚工整就行。

4

指令中不要用JSON,用YAML,效果一样但可节省50%以上的成本(你可以用OpenAI的Tokenizer来对比成本)!

如果一条指令要反复使用,你可以让GPT尽可能压缩其中相同的部分(它自己能懂就行),然后再用压缩版(实际的例子)。

在业务系统中整合GPT时,这个就很实用。

5

更多技巧可以看我的这两篇小文:

  1. 了解如何使用ChatGPT:https://dingyu.me/blog/using-chatgpt
  2. ChatGPT为什么能像人一样聊天:https://dingyu.me/blog/how-does-chatgpt-understand-context