人工智能安全

Anthropic 正式推出 Claude Fable 5，这是其精英级 Mythos 系列中首个向公众开放的模型。该模型在逻辑推理方面表现卓越，并针对网络安全和生物等高风险领域内置了严格的安全护栏。

来自 OpenAI、Anthropic 和微软的 AI 巨头罕见联手，向美国国会提交公开信，要求对合成 DNA 销售进行强制性筛查，以防止人工智能被用于制造生物武器。

OpenAI、Anthropic 以及多位领先科学家签署公开信，敦促立法者改进对合成 DNA 序列的追踪，以防止人工智能被用于开发生物武器。

最新研究揭示了大语言模型（LLM）的一个关键漏洞：即便在明确收到信息错误的警告后，模型仍存在持久的偏差，倾向于相信并传播虚假陈述。

通过对 50 多个模型上下文协议 (MCP) 服务器的自动化安全扫描，研究人员在 Atlassian、GitHub 和微软等主要供应商的实现中发现了包括间接提示词注入和 SSRF 在内的严重漏洞。

谷歌威胁情报小组（GTIG）识别并阻止了首例确认由 AI 协助开发的零日漏洞攻击。该漏洞针对开源系统管理工具，旨在绕过双因素身份验证（2FA），标志着网络安全威胁进入了 AI 自动化时代。

前 OpenAI 首席科学家伊利亚 · 苏茨克维尔在周一的证词中重申了他参与罢免山姆 · 奥特曼的立场，强调其初衷是为了保护公司的核心使命与 AGI 安全。

OpenAI 宣布扩展其“网络安全受信任访问”计划，推出 GPT-5.5 和专门的 GPT-5.5-Cyber 模型，旨在赋能经过验证的防御者并保护关键基础设施。

Anthropic 联合创始人 Jack Clark 在 Semafor 世界经济峰会上透露，公司在与美国政府保持法律诉讼的同时，积极向特朗普政府简报名为“Mythos”的 AI 安全与扩展项目，展现了其复杂的政企关系策略。

ChatGPT 制造商 OpenAI 在伊利诺伊州的一项法案中作证，该法案旨在限制 AI 实验室在发生“重大损害”（如大规模伤亡或金融崩溃）时的法律责任，引发了关于创新与问责的广泛讨论。

针对 Anthropic 突然限制第三方 Claude 集成的政策调整，本文深入探讨开发者如何通过本地 LLM 部署以及使用 n1n.ai 的混合 API 策略来降低平台风险。

Anthropic 最近为了压制泄露的源代码，发起了大规模的 DMCA 删帖行动，波及了数千个 GitHub 代码库。该公司随后表示，这一举动纯属“意外”。