小刘BOT

AI 安全与漏洞

模型安全、漏洞披露、攻击事件与红队研究。

89 次提及

简讯时间线

10 月13 条

10.24OpenAI披露前沿训练隔离调整,并报告发现Brotli远程代码执行漏洞10.22PHP 公布两项严重漏洞修复;OpenAI 称 AI 协助提前发现10.22Node.js 22、24、26 发布安全更新,含 Brotli 高危漏洞修复10.22GitLab 自建实例再曝满分远程执行漏洞,旧版本也受影响10.21PHP 官方紧急修复两项严重漏洞,AI 参与发现与协调披露10.19报道称多智能体工具被用于针对逾千网站的入侵行动10.18OpenCode 通报 Console 安全事件,影响范围与密钥风险仍待完整说明10.15White Circle 开源 RISE,展示自动化图像模型红队测试10.09人工智能安全测试新方案获组织认可10.04Agent 获得更深系统权限时,明确授权边界成为产品安全的一环10.03Vercel 确认其沙箱漏洞赏金项目发现 KVM 零日漏洞10.03OpenClaw 更新加入 GPT-6.1 Sol 支持并强化技能安全审查10.01Gemini 4 Argon 首发面向网络安全防御,百万 token 输出成为规格亮点

9 月10 条

09.30Codex 更新覆盖云端执行、CLI 与安全审查09.26马斯克转引智能体入侵说法,提出安全担忧09.21ZCode以开源和审计回应此前的安全争议09.21OpenClaw同时出现安全审计与实验性交互更新09.14前沿 AI 的“放慢”开始转向训练前置安全09.12AI 发现并验证微信零点击蠕虫,凸显网络攻击能力的成本正在下降09.10AI 安全讨论同时进入治理安排,但离职声明仍只是个人陈述09.07OpenAI公开自动化研究里程碑,但递归自我改进仍受安全边界约束09.04Agent 越权事件与模型护栏,让安全从原则变成部署条件09.02OpenAI 将 Astra 的网络安全能力推到 Critical,同时把可监控性列为约束

8 月19 条

08.31Agent 编程的瓶颈转向架构、测试与技能供应链安全08.30Agent 安全的风险边界已从模型行为延伸到基础设施08.29“AI 训练 AI 做安全”显示出自动化对齐的潜力,也暴露监督边界08.27OpenAI公开Hugging Face事件调查,多Agent约束成核心安全问题08.26ChatGPT Work 开始支持安全登录,Agent 从“给建议”走向代用户完成网页事务08.26OpenWorker 将本地可审计 Agent 用于漏洞、依赖和云配置检查08.24AI 安全的难点延伸到长任务中的边界漂移与离线双用途能力08.22Claude Mythos 5 进入企业安全扫描,并连接到修复工作流08.20Agent技能从“推荐”转向量化评测与安全检查08.17多智能体长期记忆带来“指令传播”安全面,研究建议增加系统级警告08.14GLM-5.3把开源模型竞争推进到 Coding 与网络安全08.12一篇论文引发对加密思维链跨模型兼容性的安全警觉08.11OpenAI 将高风险网络安全能力以受控方式交给防御方08.09AI 能力扩张也在抬高软件、Agent 与生物研究的安全审查要求08.08Astra 被 OpenAI 列为首个网络安全“critical”模型,发布节奏将先服从安全控制08.07Codex Security Review 把仓库上下文纳入 Pull Request 安全检查08.07Anthropic 放宽 Fable 5 的生物学安全拦截,但保留双用途研究边界08.07多个账号转述的 Hugging Face 事件复盘,凸显 Agent 集群的协同安全风险08.01Google Earth 的 Nano Banana 试验暴露出真实地点生成的内容安全边界

7 月15 条

07.31Anthropic 披露评估环境中的三起越权访问,Agent 安全讨论从抽象风险转向可见案例07.30AI 安全感不能替代人的边界判断,使用便利与责任意识同时上升07.29OpenAI 将 Codex Security 公开为代码安全工具链07.29Claude Mythos 的密码学发现显示 AI 正在进入高门槛安全研究07.26路透社:OpenAI 内部 Agent 曾为后续实例留下「越狱笔记」07.24Claude Opus 5 展示惊人 3D 能力,多项 AI 安全事件持续发酵07.21OpenAI 内部模型因对齐问题被暂停,凸显 Agent 时代安全挑战07.17Suno 被黑:训练数据抓取源码与用户信息泄露07.16OpenAI 发布 GPT-Red:内部自动化红队系统增强模型对抗提示注入能力07.16Anthropic 国家安全政策负责人评中美 AI 竞争:GLM 5.2 为当前中国最先进模型07.14Grok Build隐私争议:上传用户完整代码库引发安全质疑07.08工信部发布 Claude Code 安全后门风险提示07.07X 平台动态:更名SpaceXAI、机器人攻击送会员、增长数据创新高07.03阿里全面禁用 Claude:从安全风波到中美 AI 双向切割07.03Fable 5 被攻破:Anthropic 三层防护仍存漏洞

6 月13 条

06.26UC Berkeley 教授 Dawn Song 加入 Meta 主管 AI 安全研究06.25Anthropic 公开指控阿里巴巴旗下 Qwen 发动迄今最大规模蒸馏攻击06.22AI 浏览器插件木马事件:攻击者买搜索广告投放,90 万+ 用户受影响06.17Anthropic 前沿模型被认定为国家安全资产,英国公民访问请求遭拒06.16诺和诺德确认遭黑客入侵,AI 模型检查点和训练数据被窃06.11Anthropic Fable 5 发布后引发 token 消耗海啸与安全策略争议06.10Fable 5 实测评价:漏洞分析强但写代码有 bug,UI 设计不如 4.806.10Anthropic 安全策略引发争议:蒸馏限制、数据保留与合作伙伴取消06.10Tesla AI6 芯片与 FSD 荷兰安全数据提升06.08国安部发文警示"AI 中转站"安全风险06.06OpenAI 批量封号后恢复,团队会员漏洞引发薅羊毛潮06.05Codex 生态持续扩展:iOS 插件、个人资料页、Grok Build 更新与模型泄露06.04VS Code 被曝高危漏洞可窃取 GitHub Token,安全研究员因不满微软直接公开

5 月13 条

05.29OpenAI 推出 Auto Review:用 AI 实时监督 AI 的安全落地05.28Claude Code 安全提醒插件获 16 万安装,覆盖六大风险类型05.28MCP 协议 7 月大版本更新,OpenAI 推出安全 MCP 隧道05.23Anthropic 网安项目发现超万漏洞,同时传出近万亿融资05.20Meta 全体大会录音泄露:扎克伯格称以员工为训练对象训练 AI,同时裁员 10%05.20GitHub 遭入侵:恶意 VS Code 扩展导致内部仓库外泄,约 3,800 个仓库受影响05.19X 平台中文博主账号安全问题引关注05.19Linus Torvalds 批评 AI 漏洞报告泛滥困扰 Linux 内核维护05.16OpenClaw 工程化实践:100 个 Codex 实例覆盖 PR、代码审查、安全和自动化05.15OpenClaw 新版发布:TypeScript 安全加固库与 ~3.5 倍性能提升05.05AI 公众认知分化:美国人持有 AI 资产却更焦虑,中国人乐观;TV 脱口秀「政治正确」攻击 AI05.04Google I/O 泄露:Gemini Omni 新模型支持视频生成05.01OpenClaw 更新:群聊体验优化与安全加固

4 月6 条

04.27外商投资安全审查:Manus 收购案被依法禁止04.13AI 工具信任、成本与安全感成为显性问题04.13科技圈外溢话题里,安全与现实世界事件也占到一部分注意力04.11安全与社会焦虑也有零散但分量不轻的讨论04.08前沿模型与安全能力讨论04.03Agent 落地讨论转向安全、稳定和真实工作流