Majii正在 Building

💡Transitioning Builder

AI 擅长回答问题,却不擅长发现问题。 AI 的目标通常是完成指令,而不是解决问题:​​ 当你向 AI 提问时,它的目标不是去审视问题本身是否合理,而是如何最好地完成你所下达的指令。它会默认你设定的前提是正确的,然后在这个框架内尽力提供答案。它不会像人类一样,对问题背后的假设产生困惑或好奇。 所以它是在海量数据中识别模式,并根据用户给出的话,预测出概率角度最合适的回答。 它的所有回答,本质上都是对人类已有知识的排列组合与优化。它没有自我意识,没有主观信念,也就没有质疑的出发点。 所以目前的 Agent 确实在往「主动发现问题」这个方向走,但它目前离「真正的问题发现者」还很远。 比如有些项目是伪需求,或者有更优解,再或者已经有成熟的方案可以借鉴,模型很少会去主动判断;再比如 agent 陷入死循环,改了很多轮仍在同一类解法里打转,不跳脱出来;还有类似于没做的动作却谎称已经做完等等情况出现,让人抓狂 为了减少这种情况的发生,我做了个 npm 包,叫做 agent-evidence-check,在做项目的过程中可以更顺畅,更方便 有很多不成熟的地方,希望能够多交流一下!
登录并发表评论

评论 · 0