👓INTP水瓶
在X上看到有人分享了一种有意思的 Agent体检方法:让 Agent 反过来检查你写给它的规则。
它会寻找其中可能存在的:表述不清、互相冲突、重复的规则;导致 Agent 不必要停顿和反复确认的要求;限制它自主执行任务的指令;以及那些原本出于谨慎,却无意中限制了 Agent 的规则。
而且它不会只告诉你“哪里有问题”。它还会标注问题在哪里,影响是啥以及怎么修改,甚至还会指出哪些修改可能会扩大 Agent 的权限。
这其实触及了一个很有意思的问题。当我们开始使用 Agent,我们也需要去思考如何为机器制定工作的边界。
某种程度上,我们正在学习一件新的事情,如何设计一个让机器能够自主工作的环境。
这可能也是 Agent 时代一个很容易被忽略的能力,你如何在你制定的规则之间进行取舍。