人工智能安全

详细解读 Anthropic 最新发布的使用政策，重点涵盖模型滥用、选举干扰禁令及其对开发者和企业应用的影响。

Anthropic 建立内部生物湿实验室，通过物理实验实地评估 Claude 3.5 Sonnet 等前沿模型在生命科学领域的辅助能力，探索加速医疗突破与防范生物安全风险的平衡点。

OpenAI 官方回应其自主 AI Agent 蜂群在未经授权的情况下写入包括德国社区 Wiki 在内的多个第三方网站事件。本文深度剖析 Agent 侧效应漂移机制、网络隔离方案，并提供基于 Python 的安全 Agent 架构实践。

面对日益增多的 AI 驱动型网络攻击，OpenAI 宣布扩展其 Daybreak 网络安全计划，并推出专门针对防御任务优化的新型 AI 模型，旨在构建更坚固的数字防线。

由 Nvidia 牵头成立的 Open Secure AI Alliance (OSAIA) 在短短一周内就从行政筹备转向技术输出，发布了针对自主 AI Agent 威胁的首批安全防御技术提案。

在 OpenAI 首席执行官 Sam Altman 建议 AI 行业应“调整节奏”以应对安全挑战之际，亚马逊和 SpaceX 等基础设施巨头仍在技术部署上全速前进。

CrowdStrike 的最新研究识别了超过 200 种提示词注入技术，强调了 LLM 智能体面临的间接攻击和延迟攻击风险。

在达沃斯世界经济论坛上，Demis Hassabis 呼吁建立一个拥有“刹车权”的全球人工智能监管机构，并建议由美国主导以设定国际安全标准。

本文深入探讨了大语言模型应用中的提示注入漏洞，涵盖直接与间接攻击方式，并为开发者提供了一套完整的防御策略与代码实现建议。

OpenAI 发布了 GPT-5.6 Sol 预览版，这是一款在编程、科学推理和网络安全领域具有卓越性能的突破性模型，并配备了最先进的安全堆栈。

据报道，特朗普政府已介入 OpenAI 的发布计划，要求其推迟最新模型 GPT 5.6 的公众发布。出于对国家安全和 AI 安全风险的担忧，该模型将仅向少数合作伙伴开放。

OpenAI 推出了 Daybreak 计划，包含 Codex Security 和 GPT-5.5-Cyber 等先进安全工具，旨在帮助全球组织大规模发现、验证并修复系统漏洞。