幻觉

本文用于解释大语言模型为什么会生成看似合理但不真实的内容，以及如何评估和缓解。

待展开内容：

• 幻觉的定义
• 事实型幻觉、引用幻觉、推理幻觉
• 为什么 next token prediction 会产生幻觉
• 训练数据、采样参数和上下文缺失的影响
• RAG 如何缓解幻觉
• 引用和溯源
• 拒答与不确定性表达
• 幻觉评估方法
• 生产系统中的防护策略