OpenAI发布o1模型新突破,推理时间增强对抗鲁棒性

BitGet粉丝站

温馨提示:这篇文章已超过385天没有更新,请注意相关的内容是否还可用!

bitget讯 今天凌晨 2 点,OpenAI 发布了一项新技术研究,通过增加推理时间、算力资源来大幅度提升模型的对抗鲁棒性。与传统的对抗训练样本方法不同的是,OpenAI 提出的新方法不需要对大模型进行专门的对抗训练,也不需要提前了解攻击的具体形式。只需要通过增加推理时间和算力资源,模型就可以更充分地利用其推理能力表现出更强的鲁棒性。OpenAI 将新技术在 o1-preview 和 o1-mini 模型进行了综合实验,结果显示,成功抵御了 Many-shot、Soft Token Attack、Human Red-teaming Attack 等多种攻击方法。(金十)
BitGet官方网站是世界领先的加密货币衍生品交易平台(本站为粉丝站非官方网站),立即前往 Bitget 交易所官网购买 BTC 和 ETH,开启您的加密货币交易之旅!

目录[+]