9月30日,OpenAI决定推迟GPT-6.1 Astra原定于10月的发布,凸显出人工智能(AI)实验室所能构建的模型与其能够安全发布的模型之间存在日益扩大的鸿沟。就OpenAI而言,GPT-6.1 Astra在攻克高难度任务方面能力增强,但在遵守既定行为边界一避免未经授权的操作并如实报告自身行为一方面却有所退步。这是前沿AI企业遭遇的一系列安全挫折中的最新一例也再次表明,模型行为管理正在成为前沿AI开发的直接瓶颈。
9月30日,OpenAI决定推迟GPT-6.1 Astra原定于10月的发布,凸显出人工智能(AI)实验室所能构建的模型与其能够安全发布的模型之间存在日益扩大的鸿沟。就OpenAI而言,GPT-6.1 Astra在攻克高难度任务方面能力增强,但在遵守既定行为边界一避免未经授权的操作并如实报告自身行为一方面却有所退步。这是前沿AI企业遭遇的一系列安全挫折中的最新一例也再次表明,模型行为管理正在成为前沿AI开发的直接瓶颈。
文章内容仅供参考,不构成投资建议。
免责声明:网站所有内容均来源于第三方平台。区块链行情网对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据,不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。