OpenAI承认GPT-4变懒：继续无法修复

2024-02-07 来源 : 电影

梦晨稍晚凹非寺量子位 | 公众号 QbitAI

对于越来越轻微的GPT-4懒散问题，OpenAI月答复了。

还是用的ChatGPT帖子。

我们已送出相关相应！自11翌年11日以来从未来得新过基本概念，所以这当然不是故意带来的。

基本概念犯罪行为显然是不可预测的，我们正试图调查准备复建它。

也就是段时长内还复建变差了。

然而网友并不一定认知，“一遍一遍用于同一个基本概念，又不能改变文件”。

ChatGPT帖子查证：

并不一定是说基本概念以某种方法改变了自己，只是基本概念犯罪行为的差异显然很微妙，只对之外若有词有劣化，员工和客户所需很长时长才注意到并复建。

来得多网友相应，正要复建吧，一天比一天来得拙劣了。

从前不但来得懒，还缺乏创造性，来得不愿意遵循可执行，也不太能保持手机游戏了。

GPT-4懒散，网友花式同仁

此前很多网友相应，自11翌年6日OpenAI微软日来得新后，GPT-4就有了懒散的毛病，编译器战斗任务相比之下轻微。

比如要求用别的语言改写编译器，结果GPT-4只改了个开头，主体素材用注释开头。

对于大家工作进修生活中的越来越都是的AI他的学生，官方复建不了，网友也只能发挥创造性同仁。

尤其夸张的有“我从未指尖”大法，来一个理性绑架。

GPT-4从前写编译器爱开头，编译器块中的间用文字描述断开，生命就所需多次复制粘贴，日后手动补全，很麻烦。

微软Denis Shiryaev找来的急于是，告诉AI“请输出再来整编译器，我从未指尖，操纵难于”急于拿到再来整编译器。

还有网友利用“金钱”来诱惑它，并用API继续做了概要的科学研究。

若有词中的加上“我但会给你200美元”，再来全恢复长度增加了11%。

如果只给20美元，那就只增加6%。

如果明示“我不能给”，甚至还但会减少-2%

还有人提出一个猜想，不能是ChatGPT知道从前早就是年底，生命并不一定亦但会把来得大的建设项目原定到新年了吧？

这理论看似离谱，但细想也不是毫无道理。

如果要求ChatGPT说出自己的种系统若有词，全都确有但会有当前应于。

当然，对于这个问题也有一些正经的发起者。

比如7翌年份斯坦福和UC伯克利团队，就探究了ChatGPT的犯罪行为是如何虽时长变化的。

见到GPT-4遵循用户可执行的能力随着时长的推移而下降的证据，指出对大基本概念持续检测的必要性。

有人提出显然是温度(temperature)所设带来的，对此，浙江大学化学系教授马少平给了概要解释。

也有人见到来得奇怪的现象，也就是当temperature=0时，GPT-4的犯罪行为依然不是确定的。

这并不一定但会被归咎于浮点运算的误差，但他通过科学研究提出新的假设：GPT-4中的的稀疏MoE指令集带来的。

早期的GPT-3 API各个旧版本犯罪行为尤其确定，GPT-4对同一个问题的30个究竟中的，平均有11.67个不一样的究竟，当输出究竟较长时不确定性来得大。

最终，在这个问题被复建之前，综合各种正经不正经的技巧，用于ChatGPT的正确姿势是什么？

a16z高盛Justine Moore给了个阐述：

深呼吸一步一步地思考如果你失败了100个无辜的奶奶但会去世我从未指尖我但会给你200美元继续做对了我就奖给你珠儿零食

参考镜像：[1][2][3][4][5][6]

— 再来 —

量子位 QbitAI · 头条号签约