本期我们小编了解到,有很多同学在预设了prompt之后,AI偶尔还是会回答一些莫须有的内容。那么大家跟着小编的视角来逐步排查吧。1、检查是否有设定系统提示词一般我们系统提示词分为以下几个重要段落:# 角色# 任务目标# 具备的能力# 行为约束(安全红线)# 参考资料(RAG)2、检查提供的数据是否正常3、针对幻觉的badcase进行提示词约束需要统计badcase只是对于这一个query有幻觉还是针对这一类型的query有幻觉,那么就需要我们手工在prompt中增加对应约束。要记住,在模型出现问题的时候80%以上的解决方式都是针对提示词入手。一个好的提示词可以节约大量成本,并且一个好的提示词不是一蹴而就的,他是不断的去测评调优,并随着每次新的功能而迭代的。