大模型训练

Cloudflare 为 AI 公司设定了 9 月 15 日的最后期限，要求其必须区分搜索爬虫与训练爬虫，否则将在数百万个出版商网站上被默认拦截。

Meta FAIR 的最新研究 Autodata 证明，数据质量不应由静态标准定义，而应由模型行为定义。通过这种方法，一个 4B 参数的小模型在法律推理任务中成功超越了比其大 100 倍的 397B 模型。

AWS 正在改变其战略，计划将其专有的 AI 芯片（如 Trainium 和 Inferentia）直接出售给第三方数据中心，旨在争夺 500 亿美元的市场份额并打破 Nvidia 的 GPU 垄断。

深入了解 TitanCore Core-1，这是一个专为万亿参数 LLM 训练设计的高性能 C++/CUDA 基础设施，通过 ZeRO-3 和自定义融合算子实现 2.6 倍的性能提升。

深入探讨 Unsloth 如何通过 4-bit 量化、FlashAttention-2 和定制化 CUDA 内核，充分释放 NVIDIA GPU 潜力，实现 2-4 倍的训练加速。

由于领先的数据供应商 Mercor 发生重大安全漏洞，Meta 及其他主要 AI 实验室已暂停与其合作。此次泄露可能暴露了关于 AI 模型训练方法的核心机密。

英伟达的网络部门在 Mellanox 收购案和生成式 AI 浪潮的推动下，上季度营收达到 110 亿美元，已成为足以挑战其核心芯片业务的庞然大物。

本文深度评测了 16 个主流开源强化学习 (RL) 库，探讨在 DeepSeek-V3 和 R1 时代，如何针对 RLHF、DPO 和 GRPO 选择最合适的训练框架，并提供实战避坑指南。

美国联邦法官驳回了埃隆·马斯克关于停止执行加州 AB 2013 法案的请求。该法律要求 AI 公司必须公开其模型（如 xAI 的 Grok）所使用的训练数据集详情。

包括环球音乐在内的各大音乐出版商显著升级了针对 AI 初创公司 Anthropic 的法律诉讼，指控其未经授权使用超过 20,000 部受版权保护的作品来训练 Claude AI 模型，并寻求高达 30 亿美元的法定赔偿。

仅有 30 名员工的初创公司 Arcee AI 推出了 Trinity，这是一个拥有 4000 亿参数的开源模型，旨在挑战 Meta 的 Llama 3.1 405B。