常见幻觉

  1. 上下文互相矛盾(早上/下午问不同的问题,会得到不一样的结论)
  2. 与角色定位不符合
  3. 与事实不符合
  4. 不符合常识、常理

原因

  1. 数据质量不好【低质量】、【不准确】
  2. 数据不全面,有偏见,不丰富-【模型偏见】
  3. 大模型训练问题-【过拟合】、【泛化能力弱】(遇到新问题无法常规表现)
  4. 生成文本过程本身的问题(ai本质是根据上下文概率计算出来的,不是思考后的结果)
  5. 提示词问题
  6. 微调过程出现问题

怎么解决