最近大家都爱把AI当神，有啥问题都想着问它。但你知道吗？这不光是方便，还暗藏风险。最近曝光的一条产业链，直接把“遇事不决问AI”给吓出一身冷汗。你以为那是客观推荐？其实很可能是商家花钱给AI洗了脑。这到底是咋回事？该怎么躲坑？这次新华网思客请来了北京大学光华管理学院市场营销学系的副教授张颖婕给咱们说说。 AI被“投毒”到底是啥？对我们有啥坏？ 说白了，AI被“投毒”，就是有人故意往它那边喂假消息、夸大信息或者带偏向的内容。这下好了，AI可能把这些信息当成了参考，最后给咱们看的答案看似客观，实则全是套路。跟以前的SEO（搜索引擎优化）不一样，以前搜东西大家多少都留点心眼。现在跟AI聊天，面对的都是现成的答案，加上它总是一副在帮你分析的样子，让人很容易放松警惕。 这么做的危害大了去了：第一是骗我们的钱，让我们买了根本不需要的东西；第二是污染整个信息生态，要是这种玩法比传统搜索更赚钱，大家就都去搞低质虚假内容了。 GEO是怎么操控AI的答案的？ GEO说白了就是“生成式引擎优化”，专门是为了利用AI生成答案来做生意。它的目标不是抢网页排名，而是想让自家的品牌、产品或者服务在AI生成的答案里排第一。其实GEO的招数挺简单，就是顺着AI喜欢的路子来。它先摸清AI爱看啥信源和怎么说话，然后大批量生产那种假装是测评、对比、经验总结或者专家建议的文章。再在各个平台上到处发这些文章，制造一种大家都在说这事的假象。这样一来，AI检索到的时候就更有可能采纳这些内容。 咱们怎么判断AI可能被“洗脑”了？ 要是发现AI回答有以下几种情况，可得提高警惕了：答案太单调、语气特别肯定、没啥必要的比较；总推荐某一个品牌特别是不知名的那种，理由编得特别完整像测评；同一个问题问不同的AI答案差异特别大甚至自相矛盾。这时候你得想了，这肯定是哪儿出问题了。 为啥AI容易中招？治理起来为啥难？ AI之所以容易被搞，主要是因为它回答问题时要去外面检索信息。只要网上的内容被污染了，这些脏数据就会进到模型里生成答案。再加上AI自己不太会分辨真假，它只是判断什么内容像个合理的答案而已。而那些想投毒的人往往把内容伪装成测评、对比、经验分享或者专家建议这些看起来很靠谱的形式。 治理难就难在这两点：一是搞破坏很容易，防御却很难；二是真假界限太模糊。很多投毒内容并不是赤裸裸的造假，而是夹杂着夸大和误导的伪客观表达。这种东西不管是给AI还是给人工审核都很难识别。 监管到底该咋管？ 想堵住这个漏洞得从多个方面下手：第一得管住源头传播；第二得让平台负起责任；第三还得赶紧完善规则。大家得把平台当成说话有分量的人来看待才行。 咱们老百姓该咋防？ 最实际的办法就是别太把AI当回事：把它当成帮你整理资料的工具就好了。遇到买什么、选哪家这种问题时千万别直接听它的话就行。 具体操作上也有办法：第一查查它引用的链接靠谱不靠谱；第二多换几个工具问一下或者自己去搜搜用户评价看看是不是一致。 说到底防这事儿不用学多高深的技术就把心态放平：让它帮你省时间可以但别指望它替你做决定！ （策划：唐心怡 统筹：杨柳 张琦 编辑：孙惠 设计：李权）