人工智能安全

在达沃斯世界经济论坛上，Demis Hassabis 呼吁建立一个拥有“刹车权”的全球人工智能监管机构，并建议由美国主导以设定国际安全标准。

本文深入探讨了大语言模型应用中的提示注入漏洞，涵盖直接与间接攻击方式，并为开发者提供了一套完整的防御策略与代码实现建议。

OpenAI 发布了 GPT-5.6 Sol 预览版，这是一款在编程、科学推理和网络安全领域具有卓越性能的突破性模型，并配备了最先进的安全堆栈。

据报道，特朗普政府已介入 OpenAI 的发布计划，要求其推迟最新模型 GPT 5.6 的公众发布。出于对国家安全和 AI 安全风险的担忧，该模型将仅向少数合作伙伴开放。

OpenAI 推出了 Daybreak 计划，包含 Codex Security 和 GPT-5.5-Cyber 等先进安全工具，旨在帮助全球组织大规模发现、验证并修复系统漏洞。

在美国政府干预后，Anthropic 的 Fable 5 和 Mythos 5 模型被迫撤回。本文深入探讨了护栏绕过技术的原理、行业反弹，以及开发者如何通过 n1n.ai 等多模型平台保持业务弹性。

特朗普政府官员向媒体透露，Anthropic 若想发布 Fable 5 模型，必须确保其安全护栏无法被绕过。然而，网络安全专家指出，由于大模型的概率本质，实现 100% 的“防越狱”在技术上几乎是不可能的。

Anthropic 根据美国政府出于国家安全考虑下达的指令，已全面切断 Fable 5 和 Mythos 5 模型的访问。此举引发了开发者对模型稳定性和地缘政治干预 AI 行业的深度担忧。

Anthropic 正式推出 Claude Fable 5，这是其精英级 Mythos 系列中首个向公众开放的模型。该模型在逻辑推理方面表现卓越，并针对网络安全和生物等高风险领域内置了严格的安全护栏。

来自 OpenAI、Anthropic 和微软的 AI 巨头罕见联手，向美国国会提交公开信，要求对合成 DNA 销售进行强制性筛查，以防止人工智能被用于制造生物武器。

OpenAI、Anthropic 以及多位领先科学家签署公开信，敦促立法者改进对合成 DNA 序列的追踪，以防止人工智能被用于开发生物武器。

最新研究揭示了大语言模型（LLM）的一个关键漏洞：即便在明确收到信息错误的警告后，模型仍存在持久的偏差，倾向于相信并传播虚假陈述。