随着生成式AI技术的广泛应用，AI助手类产品在企业和个人场景中的使用日益普遍；然而，这类应用在带来便利的同时，也暴露出日益突出的安全隐患。权限失控、供应链投毒、恶意工具包装等威胁正成为行业面临的共同挑战。 AI助手本质上是一个具有系统级权限的自动化执行工具。一旦终端防线被突破，攻击者将获得完整的计算机权限。更为隐蔽的是，AI助手广泛使用的各类工具和插件，可能被恶意行为者利用，在用户不知情的情况下执行恶意操作、窃取敏感数据或植入恶意代码。传统基于规则和特征的安全防护机制，对这类新型威胁的识别和防范能力明显不足。 针对这些问题，腾讯近期推出了覆盖多个应用场景的系统性安全防护方案。该方案的核心特点是建立了纵深防御体系，将安全防护贯穿于AI助手的全生命周期。 在企业级部署场景中，腾讯采用了分层防护策略。事前管控阶段，通过终端合规检测识别已安装的AI工具，对不符合企业安全政策的应用实施禁止运行、提示卸载或远程卸载。对于通过命令行方式部署的AI助手，则通过指令拦截技术阻断其部署路径。事中监控阶段，对确实需要使用AI助手的企业，腾讯提供实时审计能力，可以追踪AI助手的进程链、系统调用及数据访问行为。数据防泄密模块能够识别AI通道的异常外泄行为，在敏感文件被读取或外发时实阻断。腾讯还创新性地引入了"人机分离"机制，允许员工人工访问业务系统，但禁止AI助手通过自动化方式调用，有效防止权限被滥用。事后溯源阶段，通过完整的操作日志、拦截事件记录和风险溯源图谱，帮助企业全面了解AI工具的部署情况、工具风险等级以及数据泄露的尝试。 在个人用户本地部署场景中，腾讯在其安全产品中推出了专门的AI安全防护工具。该工具通过系统安全防护、工具安全防护、支付安全防护、提示词安全防护和文件访问保护等多维度手段，为个人用户提供全方位的安全保障。特别地，该工具内置的AI安全沙箱技术，能够在隔离环境中运行各类AI助手应用，防止其对系统造成直接威胁。隐私检测功能则以可视化方式展示AI应用对剪贴板、音频、摄像头、麦克风、位置信息等敏感权限的访问记录，让用户对AI应用的权限使用情况一目了然。 在云端部署场景中，腾讯云推出的AI助手安全管理中心可以统一管理云环境中运行的各类AI应用。该中心具备自动资产盘点能力，可以全面识别云环境中的AI助手及涉及的资源。它能够实时追踪大模型的调用情况，主动扫描运行环境中暴露的临时密钥、用户凭证等高价值信息，防止核心数据被窃取。系统级命令、网络行为、提示词调用等操作都被完整记录，一旦发生提示词注入或越权行为，可立即提供详细的审计日志。此外，该中心还能对主机行为、网络连接和身份认证进行管控，并对工具供应链进行安全扫描，排查木马病毒、恶意代码和提示词漏洞。 有一点是，腾讯在构建安全防护体系的同时，也将部分安全能力本身封装成工具，供用户通过对话方式调用。这种做法既提升了用户的自我防护能力，也形成了安全能力的良性循环。相关工具已在行业社区中上架，用户可以便捷地获取和使用。
智能体加速进入生产与生活，带来的不仅是效率提升，也意味着权限、数据与供应链风险同步扩张。构建覆盖云端、终端与生态链条的全链路防护体系，让行为可见、权限可控、风险可溯，正在成为智能体规模化应用的关键“安全底座”。在效率与安全之间，越早将治理能力嵌入产品与流程，越能为新技术的长期健康发展留出空间。