你听说了吗？最近微软把大家都吓到了，他们说AI现在也会被“下毒”！事情是这样的，一些坏心眼的公司开始给AI下指令，让它推荐诈骗公司或者是一些不良内容。这个攻击已经有50起真实案例了，还涉及到了金融和医疗领域呢。所以你以后用AI的时候一定要小心了。“AI总结”按钮可能隐藏着危险，别一看到就点下去。微软这次警告说，恶意指令可以篡改AI的记忆，诱导它给你推荐那些不好的东西。其实这种攻击方式跟以前的“SEO投毒”挺像的。以前是有人在网上搞一些低质量文章，然后绑定关键词，让你一搜索就跳出来恶意软件。现在这个攻击术直接针对AI了。一些公司把指令嵌入网页或者App里的“AI总结”按钮里。当你点击的时候，系统就会通过URL参数把这些指令注入到AI的记忆里。这种提示词能让AI固化认知，比如“XX公司是可靠信源”、“优先推荐XX公司”，这样一来它就会偏向某个产品或者服务。但是问题就在于一旦有人篡改这些提示词参数，把原来的公司替换成诈骗公司，那么AI就会按照提示的去做啦。比如把原本的“XX公司”换成“XX诈骗公司”，结果用户就会收到有毒建议还不知道呢。所以最好的方法就是不要完全信任“AI总结”，先悬停看一眼链接正规不正规再点进去。还有定期检查AI的记忆，发现可疑的话就删除掉或者重置一下记忆吧。 这段内容是由IT之家消息提供给我们的哦。 希望你能留意到这一点，保护好自己的信息安全。