你有没有遇到过这种情况：做一道难题，反复检查了三遍，还是觉得哪里不对，但就是找不出问题在哪。这时候你会怎么做？多想一会儿，还是直接去问懂的人？
大部分人的直觉是先自己再想想。毕竟多算一遍总没坏处吧。但如果这道题卡住你的不是计算失误，而是你压根没学过某个知识点呢？那你再想十遍,答案也不会从天上掉下来。你缺的不是耐心,是信息。
这正是一群来自KAIST的研究者盯着的问题。他们发现,现在很流行的"让AI多想一会儿"这个套路,其实有一个巨大的盲区没人认真研究过：AI到底什么时候该多想,什么时候该停下来去问别人?
**当"多想一会儿"成了万能药**
这两年AI圈子里最火的一个思路叫做测试时计算扩展。
推理模型*：一类专门设计用来"思考"的大语言模型,它们在给出最终答案前会生成一长串思考过程,类似人做题时打的草稿。
简单说就是让模型在回答之前多"想"一会儿,生成更长的推理过程,或者反复采样多次取最好的结果,又或者让模型自己检查自己写的东西,发现错误就改。这套操作在很多基准测试上确实管用,尤其对那些体积小、跑得快的小模型格外有诱惑力。毕竟大模型又贵又慢,如果能靠"多想"把小模型的水平拉到接近大模型,那简直是白捡的便宜。
问题是,这个"多想就会好"的假设,真的站得住脚吗?
研究团队做了一件挺硬核的事。他们找来两个模型家族,从0.6B到14B不同规模一共八个模型,在竞赛数学题和研究生级别的科学题上跑了几十万次生成,专门去观察模型在思考过程中说"等等""也许""我需要再检查一下"这类犹豫词的时候,后面到底发生了什么。
结果很打脸。这些犹豫词在小模型身上出现的频率,和大模型比起来毫不逊色,甚至更高。但这些犹豫真正转化成正确答案的比例,却随着模型变小急剧下降。换句话说,小模型不是不会怀疑自己,它们知道自己可能错了,只是怀疑完了之后,依然想不出对的答案。
这就好比一个学生做数学题,写到一半停下来说"等等,这里好像不对
天顺优配提示：文章来自网络，不代表本站观点。
