红队测试

深入探讨 Anthropic 的 Project Glasswing 计划、Claude Mythos 模型，以及将无限制 AI 访问权限仅限于经过审查的安全研究人员的战略决策。

OpenAI 正式宣布收购领先的开源 AI 安全测试平台 Promptfoo。这一战略举措凸显了在 LLM 开发生命周期中，红队测试和漏洞评估的重要性日益增加。

随着企业在生产环境中部署大语言模型，一种全新的安全学科——LLM 红队测试应运而生。本文深入探讨了 AI 安全评估的方法论、工具选择以及如何利用 n1n.ai 平台构建内部安全团队。