斯坦福实锤GPT-4变笨了 OpenAI最新回应:确实存在
7月21日消息,这段时间有不少用户发现GPT-4变笨了,并晒出了不少证据。对此,OpenAI产品与合作副总裁彼得·韦林德(Peter Welinder)14日予以否认,称并没有把GPT 4弄笨。相反,每次版本更新都让GPT-4比以前更聪明了。
据大数据文摘报道,不过也有人不信邪,为了验证OpenAI方面的说法,斯坦福和加州大学伯克利分校的三位研究员调查了 3 月至 6 月期间 ChatGPT 性能的变化。
据悉,评估的对象包括GPT-3.5和 GPT-4两个大模型,并在四个任务上进行测试:数学问题、回答敏感/危险问题、代码生成以及视觉推理。
调查结论是:GPT-4性能确实变差了。
例如,在数学问题上,3月版本的GPT-4能够以97.6%的准确率识别质数,而6月版本的GPT-4的准确率却只有2.4%,并且忽略了连贯的思考Prompt。
三位研究人员专门为此撰写了论文并发表在arxiv之上。
对于此确凿证据,OpenAI方面不得不承认:GPT-4确实在某些任务上的性能变差了。