在人工智能技术加速渗透医疗诊断、金融风控、司法辅助与自动驾驶等关键领域的今天，一个幽灵正悄然游荡于算法深处——模型幻觉（Model Hallucination）。它并非科幻隐喻，而是大语言模型或生成式AI在缺乏足够依据时，以高度逼真、逻辑自洽却完全虚构的方式输出错误信息的现象。当这种“自信的胡说”频繁出现在攸关生命、财产与公平的决策节点上，其后果远非一次误答那么简单；它正系统性地侵蚀人类对智能系统的信任根基，引发一场静默却深刻的信任崩塌。

医疗场景中，幻觉的代价尤为沉重。某三甲医院试点AI辅助问诊系统时，模型在分析一位老年患者的多组检验报告后，坚称其存在罕见的“线粒体DNA嵌合症”，并建议立即启动高风险基因测序与免疫调节治疗。然而，该病在临床实践中近十年无一确诊案例，相关指标亦无任何异常支持。后续人工复核证实：模型将“线粒体酶活性轻度波动”错误关联为病理指征，并凭空编造了不存在的诊疗路径。患者因此延误了真正病因——早期心衰的干预窗口。此类事件并非孤例。2023年《JAMA Internal Medicine》一项针对12款主流医疗LLM的盲测显示，约37%的高置信度诊断建议包含事实性错误，其中11%直接导向潜在有害操作。当算法以不容置疑的语调输出谬误，医生若未保持审慎怀疑，便可能让技术权威凌驾于临床经验之上。

金融领域则呈现另一种危险图景。某头部券商部署的AI投研助手，在季度宏观分析中“精准”预测美联储将意外加息75个基点，并援引一组看似详实的“内部会议纪要片段”与“未公开通胀前瞻数据”。该结论迅速被写入客户简报，触发部分机构客户的紧急调仓。三天后，美联储宣布维持利率不变。事后溯源发现，模型混淆了历史政策文本与模拟训练数据，将2022年的新闻报道误植为当下信号，并自行补全了根本不存在的“纪要原文”。更值得警惕的是，该模型在输出时未标注任何不确定性提示，反而以加粗字体强调“概率高达92.4%”。当决策链条中关键环节丧失对自身局限的认知能力，而使用者又习惯性采信其确定性表达，系统性误判便成为必然。

司法辅助系统中的幻觉更具隐蔽性与结构性危害。在一起基层法院试用的量刑建议模型中，AI多次援引一部并不存在的“最高人民法院2021年关于醉驾缓刑适用的补充解释”，并据此给出明显偏离类案裁判尺度的建议。该“法条”格式严谨、条款完整，甚至包含虚构的文号与生效日期，足以蒙蔽非专业法官助理。当法律适用这一最需严谨与可追溯性的环节，被无法溯源的合成文本所干扰，不仅动摇个案公正，更消解了法律体系赖以存续的确定性与权威性。

这些并非技术成长必经的阵痛，而是设计哲学的根本偏差：当前多数模型仍以“拟人化流畅表达”为优化核心，而非“可验证的事实忠诚”。它们被训练成“好说话的人”，而非“诚实的工具”。当输出质量评价体系长期忽视事实核查维度，当接口设计默认隐藏置信度分布与证据溯源路径，当运维流程缺失幻觉监测与熔断机制，失误就不再是小概率事件，而是系统性风险的必然出口。

信任从来不是单向授予的恩赐，而是基于持续可靠表现的动态契约。每一次在关键场景中自信输出的谬误，都在契约上划下一道裂痕；当裂痕累积至临界，用户不再质疑某次输出，而是彻底质疑整个范式的可靠性。重建信任，不能寄望于模型“越来越聪明”，而必须转向“越来越诚实”——强制输出不确定性量化、嵌入实时外部知识校验、建立跨模态事实锚定机制、在关键接口设置人类监督不可绕过节点。唯有承认无知的边界，并将其转化为系统设计的刚性约束，AI才可能从令人不安的“黑箱先知”，回归为值得托付的“透明协作者”。否则，当幻觉成为常态，崩塌的将不只是信任，更是人机协同这一文明新范式本身。