分享几个写GPT指令的技巧,主要是怎么少花钱(token)达到相同甚至更好的效果。
在让GPT返回特定格式时(比如JSON),不用仔细定义字段和类型,只要举几个例子、说明输入输出是什么样就可以了,GPT能搞定剩下的。
这其实就是实时训练,关键词是in context learning、one/few shots。
如果你必须描述格式定义,觉得用自然语言又很麻烦(比如“第一个字段叫name,是个字符串”……),可以用JSON、YAML甚至伪代码,只要描述本身清楚工整就行。
指令中不要用JSON,用YAML,效果一样但可节省50%以上的成本(你可以用OpenAI的Tokenizer来对比成本)!
如果一条指令要反复使用,你可以让GPT尽可能压缩其中相同的部分(它自己能懂就行),然后再用压缩版(实际的例子)。
在业务系统中整合GPT时,这个就很实用。
更多技巧可以看我的这两篇小文: