OpenAI公布o1模型新打破 推理时期增强对立鲁棒性 (openai 官网)

OpenAI今天清晨2点公布了一项新技术研讨，经过介入推理时期、算力资源来大幅度优化模型的对立鲁棒性。与传统的对立训练样本方法不同的是，OpenAI提出的新方法不要求对大模型启动专门的对立训练，也不要求延迟了解攻击的详细方式。只要要经过介入推理时期和算力资源，模型就可以更充沛地应用其推理才干表现出更强的鲁棒性。

OpenAI将新技术在o1-preview和o1-mini模型启动了综合实验，结果显示，成功抵御了 Many-shot、Soft Token Attack、Human Red-teaming Attack等多种攻击方法。