💡Transitioning Builder
AI 擅长回答问题,却不擅长发现问题。
AI 的目标通常是完成指令,而不是解决问题: 当你向 AI 提问时,它的目标不是去审视问题本身是否合理,而是如何最好地完成你所下达的指令。它会默认你设定的前提是正确的,然后在这个框架内尽力提供答案。它不会像人类一样,对问题背后的假设产生困惑或好奇。
所以它是在海量数据中识别模式,并根据用户给出的话,预测出概率角度最合适的回答。
它的所有回答,本质上都是对人类已有知识的排列组合与优化。它没有自我意识,没有主观信念,也就没有质疑的出发点。
所以目前的 Agent 确实在往「主动发现问题」这个方向走,但它目前离「真正的问题发现者」还很远。
比如有些项目是伪需求,或者有更优解,再或者已经有成熟的方案可以借鉴,模型很少会去主动判断;再比如 agent 陷入死循环,改了很多轮仍在同一类解法里打转,不跳脱出来;还有类似于没做的动作却谎称已经做完等等情况出现,让人抓狂
为了减少这种情况的发生,我做了个 npm 包,叫做 agent-evidence-check,在做项目的过程中可以更顺畅,更方便
有很多不成熟的地方,希望能够多交流一下!