大模型安全

一名 Meta AI 安全研究员在社交平台分享了 OpenClaw 智能体在处理其收件箱时发生的严重失误，引发了开发者对自主 AI 代理安全性和受控性的深度讨论。

OpenAI 向 The Alignment Project 承诺提供 750 万美元资金，以加强对 AI 对齐的独立研究，重点关注通用人工智能 (AGI) 的安全与安全风险。

OpenAI 为 ChatGPT 企业版和团队版用户推出了全新的安全功能，包括“锁定模式”（Lockdown Mode）和“高风险标签”，旨在防御提示注入攻击和未经授权的数据外泄。