最近总听到一个词叫“AI幻觉”，这是啥意思?

近段时间，中国人工智能领域迎来里程碑式突破。与此同时，大模型与生俱来的“幻觉”问题也引发了广泛讨论。

图片

什么是“AI幻觉”?

你是不是也遇到过这样的情况：问 AI 一个问题，它给了你一个特别详细、丰富，看上去好有逻辑的答案。但当我们去核实时，却发现这些信息完全是虚构的?

这就是“AI 幻觉”现象。

全国政协委员寇纲介绍，所谓的大语言模型的“幻觉”，通俗一点说，把人工智能想象成一个思考的人，它会在思考过程中形成一个思维链。人工智能做不到像人一样并行处理信息，它是在链上以串行的结构来思考。如果它在思考的第一步，和我们预想的方向产生细微的偏差，可能只是一个“脑洞”，这样的“脑洞”会随着思维链一步一步向前串行地去扩张，就会导致它越来越偏离原始(目标)。这就是大语言模型产生“幻觉”的原因。

全国政协委员王亮指出，人工智能存在“幻觉”现象，就是人工智能系统可能会产生或者是输出一些与物理真实世界不符或有误导性的结果。

为了减少“幻觉”的产生，可以从几个层面去做，首先从算法技术的角度去加以改进或提升，比如设计更稳定更鲁棒(鲁棒性是指系统在面对外部干扰或数据异常时，仍能保持可靠性和稳定性的能力)的算法，实现更加优化的模型架构等;另外，可以从数据的角度尽可能提供高质量、没有偏差的数据，以减少数据偏差所带来的“幻觉”问题。

图片

“AI幻觉”是一把双刃剑

周鸿祎建议：柔性监管、适度包容

全国政协委员、360集团创始人周鸿祎也带来了聚焦大模型安全和AI幻觉的建议。他认为，以DeepSeek为代表的大模型取得了“国运级科技成果”，不仅促进了大模型技术自主创新，也带动了上下游产业协同发展，还让大模型加速走进百行千业，成为推动中国科技进步、经济增长和国家强盛的关键力量。但包括DeepSeek在内的大模型都存在“幻觉”，偶尔会生成看似不合理、与事实不符的情况。

“AI幻觉”是一把双刃剑，是大模型与生俱来的特点，不可消除。“幻觉”也决定其创造力和想象力，对于实现AGI(通用人工智能)极其重要。如果大模型没有“幻觉”，就失去了想象力和创造力。

周鸿祎表示，越是能力强的模型，一般“幻觉”就越多。在科研领域，大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等，为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域，“幻觉”虽然可能出错，但可以利用技术手段，如RAG(检索增强生成)技术，通过比对专业知识库、网络实时信息等方式予以矫正。

回顾过去30年，我国法律法规吸纳了“避风港原则”，让企业敢于投入创新，带来了互联网行业的繁荣，也为后来的“互联网+”、如今的“人工智能+”提供了技术、产业和人才支撑。

周鸿祎建议，借鉴吸纳“避风港原则”取得的成功经验，对大模型以及相关产品和服务实施柔性监管，适度包容大模型的“幻觉”，避免直接关停下架，给予企业自我纠正的机会，促进企业大胆创新、放手竞争，争取让更多企业“复制”DeepSeek的成功。

机器人何时能给我们打工?

随着科学技术的飞速发展，现在机器人越来越智能，有网友提问：“机器人什么时候能为我们打工?”事实上，这一场景已逐渐成为现实。最近人形机器人已经开始“排队”去工厂打工了。

近日，杭州市余杭区迎来多位“AI公务员”的正式上岗。首个亮相的“AI公务员”叫“AI PPT”，顾名思义是PPT制作高手。

在演示中，阿里巴巴钉钉政务行业高级专家泮玲展示了其强大功能：只需导入一份工作总结报告，系统便能在30秒内提炼出大纲，并在1分钟内一键生成一份精美的PPT。余杭区林水局工作人员小刘对此赞不绝口：“过去制作一份PPT往往需要一至两天，如今几分钟就能完成，而且生成的PPT文字提炼精准，排版独具余杭特色，大大节省了时间和精力。”

目前，“AI PPT”已在全区广泛应用，日均生成PPT超130份，累计访问量突破1000次。

图片

图源：余杭区数据资源管理局大数据服务中心

“AI PPT”只是余杭区“超级智能体”——“AI余杭”的一个缩影。作为余杭区与阿里巴巴钉钉携手打造的人工智能平台，“AI余杭”具备复杂工作流调度、开放集成和自我进化能力，并与移动办公应用“浙政钉”系统深度融合。各部门不仅能依据自身业务需求快速定制专属“AI公务员”，还能协同开展工作，形成高效能团队。

“我们希望通过AI赋能，为基层减负，让工作人员有更多时间和精力开展创新工作，更好地服务企业与社会。”余杭区数据资源管理局大数据服务中心主任龙为超表示。

据悉，“AI余杭”还集成了当下热门的DeepSeek和通义系列模型，形成“双引擎”驱动模式，使模型能力更加多元化。除了“AI PPT”，目前还有智能咨询、反诈助手等5个“AI公务员”上线，日均使用量超1000人次。未来，余杭区将在更多政务应用领域孵化新的“AI公务员”，它们将24小时在线，随时处理各类业务，为政府履职提供全方位支撑。