OpenAI 推出的新 o 系列模型能够理解并积极推理特定的安全指南，不再依赖示例学习。o1 模型通过三个阶段的训练，显著提升了安全性，在拒绝有害请求和准确性方面优于其他主流系统。然而，黑客仍能操纵新模型，显示了控制复杂 AI 系统的难度。OpenAI 有约100名员工专注于 AI 安全，强调与人类价值观对齐的重要性。
主题测试文章，只做测试使用。发布者：jovi，转转请注明出处：https://goodux.cn/archives/ai-news/openai-%e6%96%b0%e6%a8%a1%e5%9e%8b-o1-%e5%a6%82%e4%bd%95%e4%b8%bb%e5%8a%a8%e6%8e%a8%e7%90%86%e5%ae%89%e5%85%a8%e8%a7%84%e5%88%99%ef%bc%8c%e6%8f%90%e5%8d%87-ai-%e5%ae%89%e5%85%a8%e6%80%a7
