问题——虚假内容“投毒”从营销作弊演变为公共信息污染 今年“3·15”晚会披露，一些不法团伙通过批量生成“测评”“科普”“新闻稿”等内容，在多个渠道铺设信息，诱导生成式应用在回答中引用、复述甚至“背书”，把缺乏依据的产品包装成“行业领先”“权威认证”。表面看是虚假广告与消费欺诈，深层看则是对数据源与公共知识库的系统性污染：当错误信息在网络空间形成“自洽回路”，就可能在多轮检索、引用与转述中不断强化，最终混入公众日常获取信息的路径之中。 原因——高利润驱动与低成本实施叠加，形成对抗式黑灰产业链 业内观察显示，涉及的链条已呈现“分工细化、产品化运营、对抗式升级”的特点：一端负责生成与投放，另一端提供账号资源、分发渠道与“效果监测”，同时还出现面向“反清洗”“抗识别”的服务。其快速扩张，一是利益驱动明显。相较传统广告投放，批量制造内容成本更低、见效更快、可跨平台迁移；二是网络信息生态复杂，公开内容的真伪甄别难度大，给违法行为提供可乘之机；三是治理存在时滞。部分平台以“已采取通用措施”“难以事前识别”为由降低责任风险，不法分子则通过频繁更换主体、变换话术、转移阵地躲避追踪，客观上加剧了“打一批、换一批”的循环。 影响——伤及消费安全，更冲击社会信任与认知基础 数据源污染带来的危害具有“慢变量”特征：短期看，消费者可能因误信“权威式回答”而购买假货、误用产品，造成财产与健康风险；中期看，错误信息在不同平台反复出现，会挤压优质内容生存空间，破坏正常市场竞争秩序；长期看，公众对生成式应用的信任被持续消耗，进而影响技术在教育、医疗、金融等场景的安全落地。中国消费者协会相关调查显示，部分消费者对智能推荐与自动生成内容的可信度持保留甚至否定态度。业内人士指出，当“可信”成为稀缺品，社会将付出更高的信息核验成本，公共讨论也更易被噪声裹挟。 对策——从“事后处置”转向“全链条治理”，形成合力与规则 专家认为，治理“投毒”需跳出单一平台的被动拦截，构建覆盖数据、模型、内容、渠道与执法的综合体系。 一要压实平台主体责任。完善内容来源标注、风险提示与引用链追溯机制，对高风险领域回答强化证据门槛与权威来源优先；对批量异常发布、相互引用“刷证据”的账号与站点建立联动处置与黑名单制度。 二要提升技术防护能力。推进高质量数据集建设与来源审计，加强对合成内容的识别与水印等可验证技术应用；对“对抗式投放”建立动态检测策略，提升对新话术、新域名、新矩阵的快速发现能力。 三要强化监管协同与执法打击。围绕虚假宣传、不正当竞争、侵犯消费者权益、非法经营等行为，推动跨部门线索共享、跨平台协同取证与跨区域联合执法，提高违法成本；对提供“投放工具”“账号资源”“抗清洗服务”的链条环节依法从严处理。 四要完善标准与公众教育。加快生成内容标识规范、广告与科普边界规则、重点行业安全指引落地，提升公众媒介素养与核验意识，鼓励权威机构开放可信数据与知识服务，增强“可信供给”。 前景——进入认知空间攻防新阶段，关键在于重建“可信信息基础设施” 多位业内人士判断，围绕信息污染与反污染的对抗将长期存在，治理也将从阶段性专项行动走向常态化机制建设。未来，能否建立可追溯的数据治理体系、可解释的风险控制机制、可问责的责任链条，将决定生成式技术能否在更广泛场景实现安全可用。尤其在医疗健康、投资理财、公共服务等领域，必须把“可靠性”置于“便利性”之前，把“证据”置于“流量”之前。
守护公共知识库的清洁度，就是守护社会的认知底线；对“AI投毒”的治理，不能停留在围观个案或只追责单个平台，而要以系统思维推进源头净化、协同打击与法治完善，让造假者难以获利、让传播链条难以成势、让公众获得可依赖的信息服务。技术向前，信任也要跟上；共同守住真实，创新才能走得更稳更远。