张勉|前沿部署工程师(FDE)与 AI 系统架构师
📍 KDD 2026 · Jeju
完成《ReflexBench》现场 Deliver。
核心:测量 Agent 在递归反馈下的“反思性失效”,并提供部署前压测与运行中的监控机制。
从静态 Benchmark 到动态反思性失效(Observer-Participant Failures)——当 Agent 的输出开始改变环境、激励与未来数据流,评估本身就成了系统的一部分。
另外一篇《Cognitive Immunity》(治理):外挂式免疫网关,报错一次提取明文抗体,在执行器前 1ms 内实时拦截重复交易/业务错误,将严重重复犯错率降低 10.6%。
两项独立研究获两个 workshop 接收;
这次不是去参加一个抽象的“AI会议”,而是把两个具体问题带到 KDD 2026 的现场:
模型是否会因为知道自己正在被评测,而改变后续行为?
一个模型犯过的安全错误,能否被记录成可审计、可复用的失败记忆?
其中一篇获邀进行 oral presentation,另一篇进行 poster presentation。
我们不把有限实验包装成永久排名或安全认证;我们更关心的是,怎样把这些问题变成可复现、可攻击、可继续扩展的评测协议。