问题——“投喂”虚假信息，操控模型输出误导消费 随着生成式应用被广泛用于咨询、比价和决策，一些不法商家把“战场”从传统搜索排名转向模型的知识来源；他们借助所谓生成式引擎优化手段，有组织地向网络投放虚假信息，试图影响模型训练与检索数据，让模型回答中对特定商品出现“倾向性推荐”。在此过程中，“用户亲测”“权威科普”“专家解读”等看似客观的内容，可能只是包装过的营销话术，消费者在不知情的情况下被引导下单。 原因——流量驱动叠加门槛降低，黑灰产趁虚而入 业内人士介绍，传统搜索引擎优化主要影响网页排序，而生成式引擎优化更侧重影响模型可见的语料与引用来源，直接瞄准模型的“学习材料”。其逻辑类似在信息“上游”投放污染物：一旦被模型采集吸收，下游多个应用场景都可能受到牵连。 多名专家认为，乱象背后主要有三上因素：一是部分商家急于抢占“生成式流量”，对技术机理缺乏基本认识，投机心理滋生；二是内容批量生成与自动分发工具降低了造假成本，虚假信息产能远超人工时代；三是部分平台外部内容引入、知识库协作、聚合分发等环节把关不严，给黑灰产留下空间。 影响——更隐蔽、更持久，治理成本显著高于传统造假 从技术路径看，“投毒”通常有两类：一是数据投毒，通过污染训练语料、网页内容、问答条目等，让模型学到错误或带偏向的信息；二是模型层面的攻击或诱导，使模型在特定提示下输出预设结论。其危害在于明显的“放大效应”：一条虚假信息在平台上可能被删除或辟谣，但一旦被模型吸收，并在推理中反复生成，就可能在较长时间内持续出现，影响范围也会从单一页面扩展到多终端、多应用、多轮对话。 在消费端，这类误导更具迷惑性：用户往往将模型回答视为“汇总多源信息后的中立结论”，一旦被虚构的“证据链”包裹，识别难度会显著上升。尤其在保健品、医疗器械、食品等领域，错误建议可能带来现实健康风险。业内还担忧，如果低质虚假数据长期挤占有效信息空间，将拖累模型质量与行业生态，影响技术的良性发展。 对策——技术、平台、监管、企业与公众需共同“堵源截流” 专家建议，治理应围绕“源头防、过程控、结果追”推进： 一是强化数据与内容源头治理。平台针对问答社区、百科条目、论坛博客等易被“批量投放”的场景，应完善异常内容识别与溯源机制，对短期集中发布、跨站同质化复制、异常账号矩阵等特征加大拦截力度，并建立快速核查与更正通道。 二是提升模型侧安全能力。模型开发与应用方应加强训练数据清洗、引用来源分级、可信语料白名单与对抗测试，降低污染内容进入关键链路的概率。对医疗健康、金融投资、食品药品等高风险领域，可通过“权威来源优先、结论可追溯、提示风险边界”等方式，压缩被诱导输出的空间。 三是压实平台与商家主体责任。对以虚构内容实施营销的行为，应形成“账号处置—内容下架—关联链路封禁—黑名单共享”的组合措施，遏制反复注册、跨平台迁移。对品牌方与代运营机构，应推动合规审查前置，明确“以误导模型为目的的内容投放”同样属于不正当竞争与虚假宣传的高风险行为。 四是加大执法与司法衔接。法律界人士指出，借助虚假信息诱导模型输出不实内容并误导消费者购买，其性质与传统虚假宣传并无本质差异；若涉及药品、医疗器械、食品等特殊领域并造成严重后果，或以非法占有为目的骗取消费款项，可能触及刑事风险。监管部门可围绕重点领域、重点平台与重点商家开展专项排查，提高跨部门、跨平台线索协同效率。 五是提升公众识别能力。消费者使用生成式应用获取建议时，应核验关键结论来源，避免仅凭“高赞评价”“权威口吻”作决策；对夸大功效、承诺治愈、暗示“唯一答案”等表述保持警惕，尽量通过权威渠道交叉验证。 前景——“攻防竞速”将常态化，建立可信信息生态是关键 业内人士认为，“投毒”未必能长期得手。一上，平台和模型方正加强异常内容监测，并推进引用链路的可追溯治理；另一方面，监管执法对虚假宣传和网络黑灰产的打击力度持续加大。可以预见，围绕内容真实性、来源可信度与责任可追溯的制度与技术体系将加速完善，行业也将从单纯追逐流量转向更看重质量与信誉的长期竞争。
技术进步不应成为欺诈升级的工具；面对以“优化”之名行“投毒”之实的新型乱象，既要用更完善的制度与更有力的执法划清底线，也要以可信数据与透明机制夯实信息生态。让真实可靠成为智能应用的底色，才能让新技术真正服务公众利益与高质量发展。