DeepSeek回应内容返回异常：属特殊字符引发模型幻觉，不涉及安全问题

5月19日，DeepSeek官方发布了一份说明，正式回应了近期用户反馈的模型内容返回异常问题。声明明确指出，该异常是由特殊字符引发的模型幻觉所致，与任何安全问题或用户隐私泄露无关。同时，官方承诺将通过针对性的训练来优化模型表现，以期彻底解决此类问题。

声明中，DeepSeek技术团队解释了排查结果：输入“”等特定字符会触发模型返回异常内容，这被定性为一种由特殊字符诱导的模型幻觉行为。后续的修复路径很明确，即通过增强模型对这类特殊字符的识别与处理能力，来修复已知问题并优化模型在此类边缘场景下的表现。

事件的起因要追溯到此前几天。多位用户在社交媒体和技术论坛上反映，在使用DeepSeek网页版时遇到了一个奇怪的现象。当他们在新建的空白对话框中，仅仅输入“”或类似字符并发送后，模型并没有报错或要求澄清，而是开始输出一段段看似完整、却与当前对话上下文毫无关联的问答内容。这些内容五花八门，涵盖了数学解题、物理概念解释、线性代数、命理推演乃至教育学分析等多个领域。

仔细观察这些自动生成的回答，会发现其措辞方式高度结构化，频繁出现“我们被问到……”或“需要询问……”等书面化、第三人称的引导句式。更让部分用户感到不安的是，在测试中甚至看到了涉及个人生辰八字等敏感信息的生成内容。这不禁让人产生联想：是不是自己的对话被泄露了？或者模型的训练数据发生了外泄？

对此，DeepSeek技术团队给出了一个在AI领域内更为专业的解释——“模型幻觉”。所谓“幻觉”，在人工智能语境下，特指模型生成那些看似合理、但事实上不正确或与输入完全无关信息的行为。具体到这次事件，那个特殊的字符“”，在模型复杂的训练和内部推理过程中，很可能被赋予了一种特殊的使命——作为某种指令标记或分隔符，用于引导模型进入“思维链”推理模式。

于是，当普通用户在前端对话界面意外输入这个字符时，模型便错误地将其识别为来自系统的内部指令。这触发了一种非预期的行为模式：模型可能试图去补全一个它“认为”应该存在、但用户并未实际提供的“问题”。接下来，它便从其庞大的预训练语料库中，依据概率分布，“无中生有”地抽取或生成一段结构化的问答内容进行输出。关键在于，这并非调取了其他用户的实时对话记录，而是模型基于其既有“记忆”（训练数据）所进行的一种惯性补全。

有技术人员为了验证这一解释，在完全断网的本地部署环境中复现了相同现象。这个实验从技术上排除了“实时串入其他用户会话”的可能性。因为在与外界物理隔离的本地环境中，模型输出的内容只能来源于其本身内置的权重和参数，这进一步佐证了“幻觉”而非“泄露”的判断。

“幻觉”：大模型行业的普遍挑战与潜在风险

事实上，“模型幻觉”并非DeepSeek一家独有的问题，它是当前整个大语言模型行业面临的核心技术难题之一。根据上海申银万国证券研究所今年1月发布的一份行业报告，大模型的幻觉主要体现为无中生有、事实错误、语境误解、逻辑谬误等几种形式。其根源错综复杂，可能来自模型架构本身的局限、训练数据质量的参差、奖励目标设计的不完善，以及上下文窗口的限制等多方面因素。报告也指出，通过工程化手段，例如引入RAG（检索增强生成）技术，预计到2026年，AI模型的幻觉问题将得到一定程度的有效控制，在部分严肃应用场景下的可用性正在逐步提升。

然而，现实数据所揭示的挑战依然严峻。多项国际测评数据显示，不同大型语言模型的幻觉率差异巨大。在一般性任务中，多数模型的幻觉率徘徊在20%至27%的区间。但一旦进入法律、医疗等对事实准确性要求极高的高风险领域，模型的幻觉率可能瞬间飙升至69%至88%的惊人水平。国内的研究同样敲响了警钟，清华大学新闻与传播学院新媒体研究中心的一项评测发现，市场上多个热门大模型的事实性幻觉率超过了19%。

更值得警惕的是，AI幻觉正在从一个技术缺陷，演变为一种系统性的风险。今年4月初，《自然》（Nature）和《科学》（Science）等顶级学术期刊几乎同时发声，警告AI大模型的“幻觉”缺陷正被有意或无意地系统化利用。具体而言，这些工具被用于批量生成携带伪造数据、引用根本不存在的“幽灵文献”的科研论文，这对全球学术生态的诚信根基构成了前所未有的污染威胁。这提醒我们，治理模型幻觉，不仅关乎技术体验，更关乎信任与安全的底线。