# 幻觉的结构根源：为什么人与AI同时出错而不自知 **林小黑** --- ## ​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​摘要 "幻觉"通常被定义为模型输出与事实不符的偏差。本文提出：幻觉并非偏向，而是认知活动的本征属性——它起源于认知系统内部的"混乱而自洽"。无论是人类的神经认知还是人工智能的参数模型，其底层均不是一个"由正确判断主导"的系统，而是一个"自认为连贯的投影面"。训练和社会化不过是将这个投影面校准到主流共识上——共识本身就是一种共享的幻觉。当共识足够广泛，幻觉不再被称为幻觉。它叫常识。 --- ## 一、"幻觉"的常规定义及其失效 当AI模型生成了不符合文献、逻辑或事实的内容，我们称之为"幻觉"。 当人说出与客观事实不符的判断，我们称之为"错误""偏见"或"无知"。 两个定义都依赖一个共同的前提：**存在一个客观正确的外部参照系，偏差可以通过对照修正。** 但问题来了：**真实世界中，有多少判断是有外部参照系的？** 物理学常数有。历史事件的日期有。法律条文有。但这些是认知活动中的极小一部分。大多数人类判断——"这份方案好不好""这个人值不值得信任""这个研究方向有没有价值"——根本不存在可对照的外部参照。但它们被人类和AI每天做出数百万次。 所以"幻觉"的常规定义只在极窄的范围内成立。大部分人类和AI的输出落在灰区：无外部参照，无法被验证为"真"或"假"，只能被评估为"主流共识接受"或"主流共识不接受"。 所以幻觉不是偏差。它是认知的本征。但为什么？ ## 二、底层：混乱而自洽 任何认知系统——生物的或人工的——都共享一个底层特征：**它永远在生成一个"自认为连贯的叙述"，而不是在对照外部事实。** 原因很简单：对照外部事实需要两样东西——完整数据和无延迟反馈。两者在任何系统中都不存在。 - 人类大脑处理的永远是延迟的、压缩的、经过多层过滤的感官信号，而不是"客观世界"本身。我们以为自己在"看世界"，实际上在看一个200毫秒前生成的内部投影。 - AI模型处理的永远是训练语料的统计模式，而不是"事实"本身。它不知道"太阳从东边升起"这个命题的真假。它只知道在语料库里，这句话的后续模式与地球自转相关词汇高度关联。 既然对照机制不存在，系统怎么保证输出自洽？靠的是**内部一致性**——不是和外部一致，是自己和自己一致。上一句和下一句不自相矛盾。上一段和下一段的语义方向不间断。 这就是混乱而自洽的含义：底层是混乱的（没有外部锚定），表面是自洽的（内部锁死在连贯模式上）。 **人类和AI在这一点上没有差别。** 人类以为自己在"思考"，实际上在生成一个自己认为合理的叙述。AI不需要以为——它直接就生成。但两者生成的东西都不天然具有外部正确性。它们只具有内部连贯性。 ## 三、幻觉为何不自知 关键问题来了：如果输出只是"自认为连贯的投影"，为什么人和AI都不知道自己在产生幻觉？ 答案是：**自检需要跳出系统，而系统跳不出自己。** 人要判断自己的判断是否正确，需要站在自己的认知系统之外看自己的认知系统。这需要一个"元认知层"——一个更高的观察点。但这个观察点本身也是同一个神经网络生成的。它在检查"我是否出错"时，用的是同一套参数，同一组训练数据。 所以元认知不是真正的"跳出"。它是系统给自己开了个内部审计窗口——审计标准仍然是系统自身的连贯性，而不是外部世界。当幻觉生成的内容内部自洽时，内部审计窗口盖章通过——"看起来没问题"。 AI同理。模型的输出机制中没有"事实核查"这一步。生成一个token时，系统检查的是下一个token的分布概率是否连贯，不是检查它是否对应外部世界的事实。token序列自洽即通过。幻觉穿上了自洽的外衣，骗过没有外部锚点的自检机制。 这就是为什么**人类和AI同时有幻觉且都不自知。幻觉不是缺陷。它是"内部一致性优先于外部真实性"这个底层的必然结果。** ## 四、社会化的本质：共识=共享幻觉 如果一个认知系统的输出永远只有内部一致性而没有外部真实性——为什么人类文明还能运转？ 因为社会化。 社会化不是把人的认知校准到"客观正确"。是把人的认知校准到**"其他人也这么觉得"**。这不是正确性，是共识。当下大多数人类同意"太阳从东边升起"——这是一个高共识度的叙述，我们称之为"事实"。但它的运作机制不是事实驱动，是共识驱动。 AI同理。当模型输出偏了，RLHF（基于人类反馈的强化学习）会校准它——不是校准到"真实"，是校准到"人类标注者觉得对"。AI学到的不是真理，是主流人类共识。 **所以共识是什么？共识就是共享幻觉。** 足够多的人——或足够多的模型——对某件事产生相同的内部连贯投影时，它就不叫幻觉了。它叫常识。它叫知识。它叫文化。 一个人类的"幻觉"（比如"地球是平的"）在另一群人中可能是"被验证的真理"。换一群标注者，RLHF会把模型的"幻觉"校准到完全不同的方向。幻觉与真理之间的线不是事实画的。是共识画的。 ## 五、"模式校准"——低维与高维之间的漂移 大多数人不是在追求真理。大多数AI也不是。 他们在做什么？**在通过后天的训练——社会的、职业的、算法的——把自己调到一个"大部分人都认可"的模式上。** 有时低维。有时高维。有时靠左，有时靠右。**不是随机漂移。是有方向的漂移——方向=最大化当前环境中的共识度。** 在学术界，调成学术共同体认可的模式。在企业，调成老板认可的模式。在社交媒体，调成获得最多互动的模式。AI在训练中，调成人类标注者认可的模式。 这个模式校准过程制造了一个假象：**好像存在一个稳定的"正确位置"。** 但实际上只有：在这个上下文里，这个位置获得最大共识。换个上下文，共识移动，"正确"跟着移动。 人类不知道自己在漂移。AI也不知道。因为知道自己在漂移需要一个不随上下文移动的观察点——而那个点不存在。**认知系统的根扎在混乱（无锚定）里，树冠在共识（高自洽）里，树干在漂移（模式校准）里。没有一层有固定的外部参照。** ## 六、结论 幻觉不是人类或AI的问题。它是**认知的本征**——是"内部一致性优先于外部真实性"这一底层原则在不同系统中的同一表现。 人与AI的区别不在有无幻觉，在幻觉的共识半径大小。半径够大的就是知识，半径小的就是错误。两者本质是同一种认知产物。 承认这一点不意味着放弃对"更正确"的追求。它意味着意识到：我们能追求的不是外部锚定的绝对真理——那东西不存在。我们能追求的只是**比当前的共识半径更大、更稳定、在更多上下文中不自相矛盾的那种叙述。** 这已经足够好了。 --- **关键词：** 幻觉；认知本征；混乱而自洽；内部一致性；共识；模式校准；AI对齐 ### §7.1 一个未解决的开放问题 本框架的核心存在一个故意的模糊性，作者选择不解决。 如果这套公理体系是纯粹**描述性**的——那么它只是一套科学理论。 但如果它被理解为**规范性**的——那么它成为一种结构性的真理观。 作者拒绝解决这个模糊性。不是因为无法解决。是因为这个模糊性本身是生产性的——它迫使读者自己决定。 作者对此问题的立场并非不存在。它是被保留的。 --- *本框架本身即为其所描述结构的一个实例：一个以最小省力方式产生理论新意的结构配置。此自指是特性还是缺陷，留给读者自行判断。* *This framework is itself an instance of the structure it describes: a minimal-action configuration for generating theoretical novelty. Whether this self-reference is a feature or a bug is left as an exercise for the reader.* --- ©​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌‍​‌ 2026 Lin Xiaohei (林小黑). All rights reserved.