大模型越聪明越会撒谎,谁来给幻觉上把锁
大模型越聪明,幻觉越连贯自信。根源在于概率拟合目标与真实性错位,RLHF放大确定性语气偏好。推理性幻觉沿逻辑链传播,更难拦截。需从RAG深度化、推理链可审计、诚实性对齐三层系统治理,在可信与有用间建立动态平衡。
2026-11-07
共找到 1 篇相关文章
共找到 1 篇相关文章
大模型越聪明,幻觉越连贯自信。根源在于概率拟合目标与真实性错位,RLHF放大确定性语气偏好。推理性幻觉沿逻辑链传播,更难拦截。需从RAG深度化、推理链可审计、诚实性对齐三层系统治理,在可信与有用间建立动态平衡。