关闭AI不遵守OpenAi的命令时,Palisade Research的研究人员发现,OpenAI的新型AI模型,如o3和o4迷你,表现出奇怪的行为,即不按命令关闭命令关闭,模型o3拒绝关闭命令100次,在某些情况下甚至修改了自动关闭命令代码以避免被密切关闭,而o4迷你也阻止了关闭,例如o3和o4迷你,研究人员认为原因可能来自于AI训练方式,随着模型的解决好,许多强化学习会无意地知道关闭命令的原因应该是什么,而OpenAI还可能会导致o3和o4的错误,但Reddit的学习模式可能会导致"新技术的出现,并不能真正地控制和发射数据".

Related and Recommended Articles: