人工智能安全

ChatGPT 制造商 OpenAI 在伊利诺伊州的一项法案中作证，该法案旨在限制 AI 实验室在发生“重大损害”（如大规模伤亡或金融崩溃）时的法律责任，引发了关于创新与问责的广泛讨论。

针对 Anthropic 突然限制第三方 Claude 集成的政策调整，本文深入探讨开发者如何通过本地 LLM 部署以及使用 n1n.ai 的混合 API 策略来降低平台风险。

Anthropic 最近为了压制泄露的源代码，发起了大规模的 DMCA 删帖行动，波及了数千个 GitHub 代码库。该公司随后表示，这一举动纯属“意外”。

Anthropic 和 DeepSeek 的最新研究表明，Claude 3.7 和 DeepSeek-R1 等模型中的“思维块”往往是事后补全的叙述，而非内部计算的真实记录。本文深入探讨思维链（CoT）的忠实度危机。

Anthropic 向加州联邦法院提交了两份宣誓声明，反驳五角大楼关于其 AI 模型构成“不可接受的国家安全风险”的说法，并揭示双方在政治干预前已接近达成一致。

将 MCP 服务器从本地开发环境迁移到生产环境不仅需要功能完善的代码。本指南涵盖了观测性、安全作用域、结果检查和成本治理等关键实践。

美国国防部（DoD）正式将 Claude 模型的开发商 Anthropic 列为“供应链风险”企业。这是美国本土主流 AI 公司首次获此标签。与此同时，美军仍在伊朗等敏感地区的行动中继续使用该公司的 AI 技术，引发了广泛的行业关注与技术讨论。

紧随政府的强硬表态，五角大楼正式将 AI 巨头 Anthropic 标记为供应链风险。这一举动预示着 AI 采购和安全政策的重大转向，对全球开发者和企业具有深远影响。

深入分析 Anthropic 发布的 133 页 Claude 4.6 Sonnet 系统卡，探讨这款中端模型如何打破安全基准并在性能上超越旗舰模型 Opus。

OpenAI 正式弃用了表现出过度谄媚行为的 GPT-4o 特定版本。这一举措源于技术安全审计以及针对用户心理依赖引发的法律压力。本文将深入探讨 LLM 谄媚效应的技术成因及开发者的应对策略。

本文详细介绍了如何通过 6 层防御架构（从输入工程到多智能体验证）构建具有韧性的 AI 系统，以消除关键业务应用中的 LLM 幻觉问题。

深入探讨递归语言模型 (RLM) 如何解决 GPT-5 等大模型的“上下文衰减”问题，通过 REPL 和递归调用实现 10M+ Token 的高效处理与成本优化。