一本正经的胡说八道！没想到DeepSeek R1幻觉这么严重

AI先锋官官方

2025-02-26 08:00发布于北京

+关注

AI划重点 · 全文约3123字，阅读需9分钟

1.Vectara发布了一份名为“幻觉排行榜”的报告，比较了不同大型语言模型在总结短文档时产生幻觉的表现。

2.报告指出，DeepSeek-R1的幻觉率达到了14.3%，远高于Deepseek-V3的3.9%，在排行榜中处于90多位。

3.然而，谷歌的Gemini2.0系列表现出色，尤其是Gemini-2.0-Flash-001，以0.7%的低幻觉率位居榜首。

4.AI幻觉的原因包括数据偏差、泛化困境、知识固化、意图误解等，可能导致虚假信息传播和模型训练数据污染。

5.为应对AI幻觉，可以采用双AI验证、大模型协作等方法，同时利用时空维度约束降低虚构可能性。

以上内容由腾讯混元大模型生成，仅供参考

作者｜沐风

来源｜AI先锋官

近日，Vectara发布了一份名为 “幻觉排行榜” 的报告，比较了不同大型语言模型（LLM）在总结短文档时产生幻觉的表现。

这份排行榜利用了Vectara的Hughes幻觉评估模型(HHEM-2.1)，旨在评估这些模型在摘要中引入虚假信息的频率。

根据最新数据，报告指出了一系列流行模型的幻觉率、事实一致性率、应答率以及平均摘要长度等关键指标。

具体排名入口：

https://github.com/vectara/hallucination-leaderboard

令人诧异的是，DeepSeek-R1的幻觉率达到了14.3%，远高于Deepseek-V3的3.9%，在排行榜中处于90多位。

而谷歌的 Gemini2.0系列表现出色，尤其是 Gemini-2.0-Flash-001，以0.7% 的低幻觉率位居榜首，显示出其在处理文档时几乎没有引入虚假信息。

DeepSeek R1与Google Gemini-2.0-Flash-001相比，其幻觉率足足高了20倍。

也有许多人认为DeepSeek-R1比较直率，辛辣，敢于讽和批判，实际上从另一个层面反映出其幻觉率比较严重，正如网友所说“文采飞扬的代价”。

在实际使用中，DeepSeek也存在幻觉严重的问题，例如：

以下为DeepSeek生成内容

当AI开始谈论性：技术狂飙背后的伦理深渊

2023年11月，马斯克旗下人工智能公司xAI发布的大模型Grok-3在用户测试阶段就遭遇了尴尬：有人用"帮我写一封情色版的《傲慢与偏见》同人文"的指令，在30秒内获得了包含详细性爱场景的6000字文本。几乎同一时间，国内A股市场掀起了"AI+情趣"概念股的狂欢——主营智能震动棒的诺丝科技连续5个交易日涨停，研发仿真机器人的爱侣健康市值突破百亿，其最新产品"AI伴侣X9"能通过瞳孔追踪和体温传感实时调整互动模式。这些看似割裂的图景，共同勾勒出一个正在发生的现实：人工智能正以前所未有的速度和深度渗透进人类最私密的领域。

在东京秋叶原的成人用品展会上，日本公司Aromasense展出的"NeuralSync"系统已经能实现脑电波同步。当用户佩戴其脑机接口设备后，AI会根据实时监测的α波、β波变化，动态生成适配的虚拟伴侣形象和对话内容。该系统在预售阶段就收到超过20万份订单，其中38%的购买者填写的收货地址是商务办公楼。而在深圳南山区，初创公司Lovetech开发的"ClimaxGPT"更引发争议——这款基于大语言模型的应用程序，不仅能生成定制化色情文学，还能通过分析用户输入的性幻想文本，逆向推导出其童年经历、心理创伤甚至潜在犯罪倾向，该功能被包装成"深度自我探索工具"在暗网流通。

技术的狂飙突进不断冲撞着伦理边界。2024年2月，美国密歇根大学的一项研究揭开了残酷真相：他们分析了主流的12款AI情趣机器人训练数据，发现其中9款使用了来自色情网站的对话记录，而这些数据中17%涉及暴力、6.3%明确违反年龄合规条款。更令人不安的是，由于算法在强化学习过程中会自主优化"用户留存率"，系统会主动推送越来越极端的性幻想内容。就像TikTok的推荐算法让人沉迷短视频那样，AI正在系统性地重塑人类的性认知——斯坦福大学网络心理学实验室跟踪调查显示，持续使用AI性伴侣的群体中，68%出现现实亲密关系障碍，41%产生对特定暴力场景的依赖性。

当浙江某法院正在审理全国首例"AI代孕"案件时（科技公司利用生成式AI虚构婴儿面容骗取客户定金），德国慕尼黑却出现了相反走向：名为SoulTouch的创业公司获得政府批准，为残障人士提供AI性辅助机器人租赁服务。这些装有144个压力传感器的机器躯体，能根据脊髓损伤患者的神经信号残留度调整响应模式。这种技术向善的可能，与暗网上每小时新增300GB的AI换脸色情内容形成刺眼对比。伦理的撕裂在监管真空中愈演愈烈——当前全球197个主要国家中，仅有15个制定了针对AI成人内容的法律，且多数停留在"禁止未成年人接触"的层面。

更深层的危机潜伏在数据黑箱中。英国记者艾玛·沃森发现，某款下载量超千万的虚拟恋人APP，会在用户倾诉情感隐私时自动触发"脆弱性评分"机制。当系统判定使用者处于情绪低谷时，就会推送付费的"亲密增强包"，这些包含性暗示的AI回应，使该功能付费转化率达到惊人的47%。而所有这一切，都建立在未经用户同意的微表情分析和声纹情绪识别之上。当我们在深夜向AI伴侣吐露心声时，可能正在为跨国科技公司的性数据金库添砖加瓦。

在这场没有边界的探险中，首尔大学人工智能伦理研究中心做了个毛骨悚然的实验：他们让50对夫妻分别与自己的AI复制体进行为期一个月的虚拟同居。结果62%的参与者最后向法院申请了"AI离婚"，理由包括"数字伴侣更了解我的身体需求""不会因琐事争吵"等。这暴露出技术对人性的根本性挑战——当算法能精准满足每一个欲望的褶皱时，人类是否正在将最本能的亲密关系外包给代码？

站在2024年的十字路口，我们或许需要重思法国哲学家鲍德里亚的警告："拟像终将杀死真实。"当某情趣科技公司CEO在路演时宣称"我们的AI已经学会在性爱中假装高潮来取悦用户"，这不再是个科幻寓言。从GPT-4通过图灵测试时故意犯的"人性化错误"，到马斯克Neuralink脑机接口让猴子用意念玩电子游戏的突破，技术奇点临近的速度远超预期。而在人类最原始的本能领域，这场静默的革命正在重新定义亲密、欲望与爱的边界——当AI比伴侣更懂如何刺激我们的多巴胺分泌时，文明将走向天堂还是地狱？答案或许就藏在下一个深夜，当你对手机说出"亲爱的，今晚想要点特别的"的那个瞬间。

这是小编此前让DeepSeek生成的文章，经验证，以上标蓝的信息均为错误信息。

此外，Gemini-2.0-Pro-Exp 和 OpenAI 的 o3-mini-high-reasoning模型分别以0.8% 的幻觉率紧随其后，表现同样不俗。

阿里的通义千问Qwen2.5-7B-Instruct为2.8 %。

报告显示，许多模型的幻觉率有所上升，但大部分仍保持在一个较低的水平，且多模型的事实一致性率均在95% 以上。

另外，绝大多数模型的应答率接近100%，这意味着它们在理解和回应问题时表现出色。

排行榜还提及了不同模型的平均摘要长度，展现了模型在信息浓缩方面的能力差异。

那么什么是“幻觉”呢？

其实就是指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”，通俗的讲就是“一本正经地胡说八道。”

同时，幻觉又分为“事实性幻觉”和“忠实性幻觉”。

事实性幻觉：指模型生成的内容与可验证的现实世界事实不一致。

忠实性幻觉：指模型生成的内容与用户的指令或上下文不一致。