某企业员工使用 AI 智能体辅助处理工作,为了提高效率,给 AI 授予了较高权限,并安装了多个第三方插件。由于配置不规范,AI 智能体被恶意指令诱导,开始读取本地文件、聊天记录和内部文档,并将部分敏感数据上传到外部接口,造成信息泄露。
AI 智能体如果权限过高,可能读取、修改、上传敏感数据。
第三方插件可能存在恶意代码或安全漏洞。
部署在公网但缺乏保护,容易被攻击者访问和控制。
不随意授予 AI 最高系统权限。
不安装非官方来源的 AI 插件。
不将 AI 服务随意暴露在公网上。
处理涉密信息时谨慎使用自动化 AI。