大模型安全

OpenAI 向 The Alignment Project 承诺提供 750 万美元资金，以加强对 AI 对齐的独立研究，重点关注通用人工智能 (AGI) 的安全与安全风险。

OpenAI 为 ChatGPT 企业版和团队版用户推出了全新的安全功能，包括“锁定模式”（Lockdown Mode）和“高风险标签”，旨在防御提示注入攻击和未经授权的数据外泄。