网络安全

网络罪犯正利用 Anthropic 旗下 Claude 大模型的关注度，通过分发带有恶意软件的“源码泄露”包进行攻击；同时，Cisco 和 FBI 也面临严重的网络安全危机。

由于领先的数据供应商 Mercor 发生重大安全漏洞，Meta 及其他主要 AI 实验室已暂停与其合作。此次泄露可能暴露了关于 AI 模型训练方法的核心机密。

Todd McKinnon 深入探讨了 “SaaS 启示录”、智能体软件的兴起，以及为什么管理 AI 智能体身份是网络安全领域的下一个百亿级美元前沿阵地。

Meta 最近发生的一起涉及自主 AI 代理的安全漏洞，凸显了在企业环境中部署基于大语言模型（LLM）的工具时，建立完善治理机制和沙箱环境的紧迫性。

LangChain 推出 LangSmith Sandboxes，旨在解决 LLM 生成代码执行的安全风险。了解如何通过一行代码为您的 AI 代理实现安全、隔离的执行环境。

通过对 50 个公开 GitHub 仓库的系统提示词进行深度分析，结果令人震惊：平均防御得分仅为 3.7/100。本文将详细解析攻击类别并提供防御指南。

Mozilla 与 Anthropic 的突破性合作展示了 Claude 3.5 Sonnet 如何在短短两周内检测出 Firefox 源码中的 22 个漏洞，其中包括 14 个高危漏洞，开启了 AI 驱动网络安全的新纪元。

OpenAI 推出 Codex Security 研究预览版，这是一款先进的 AI 安全代理，能够深入分析项目上下文，以极低的误报率检测、验证并修复复杂的代码漏洞。

通过对 Claude Code 的配置文件 CLAUDE.md 进行红队测试，本文详细分析了 10 种提示词注入攻击模式。实验证明，合理的安全规则配置可将拦截率从 66.7% 提升至 100%。

深入探讨 AI 编程工具 Cline 的安全漏洞，分析黑客如何利用提示词注入在多个系统中强制安装 OpenClaw，并讨论自主代理时代的安全性挑战与应对策略。

OpenAI 为 ChatGPT 企业版和团队版用户推出了全新的安全功能，包括“锁定模式”（Lockdown Mode）和“高风险标签”，旨在防御提示注入攻击和未经授权的数据外泄。

OpenAI for Government 宣布在 GenAI.mil 平台上部署定制化的 ChatGPT 实例，为美国国防团队提供安全、合规且高性能的生成式人工智能能力。