☕ 可约 Coffee Chat

趴趴熊

在研究多智能体系统和智能体自进化

  • 📍 中国·浙江省·杭州市
  • 🧙 独立开发者
  • 🧙 ai游戏开发
  • 🧙 研究生
趴趴熊碎碎念
我之前做过并分享了一个 ai npc 的项目,当时就感觉用纯 ReAct 式的 LLM Agent 来控制 npc 非常奇怪,这就像是我们自己做每一个动作钱看都要思考一下,下一步改迈左腿了,再下一步该迈右腿了…. 我认为这样一个设计存在以下问题: 1. 实时性太差,如果主要功能是对话还好,但有些游戏场景对于实时操作的要求比较好,让所有动作都由 LLM 来生成很不理想; 2. 对于某些带有对抗博弈性质的场景,我认为 LLM 的决策深度是不够的,它往往仅能针对当前状态进行推理。虽然可以利用游戏表现作为奖励信号进行一定的优化,但纯 LLM agent 可做的优化有限(很多情况下都是优化 prompt),但如果使用一个可训练的执行器,那优化空间就会很大。 正好最近看到一些论文是使用外层 LLM 套内层执行器的设计,执行器可以是确定性的程序、强化学习策略、搜索空间等,我感觉这种设计对于 ai npc 来说是更合理的。 更近一步(接下来的内容是我一个畅想,目前没思考过可行性),我有一本喜欢的书叫《思考快与慢》,里面提到人有两个系统,“快系统”和“慢系统”:使用快系统时,人不需要思考就可以做出一系列动作,它悄无声息地运作(比如我们呼吸、走路、回答1+1等时都不需要思考),虽然快系统存在偏差,也很容易犯错,但没有快系统,我们将无法生活;慢思考只有我们主动调用时才会使用,它需要消耗能量,它可以让我们思考快系统下的行为,推理一些复杂的问题。我们在平时会同时使用快系统和慢系统,因此我在想是否可以在 ai npc 上实现这种双系统。这和前面提到的 LLM 套执行器又有所不同,它像是 LLM(慢系统、推理)和执行器(快系统、直觉)的双轨并行,以此让 npc 更像人的行为,并且在一定程度让兼容实时动作和高层推理。目前先暂时保存这个畅想😌。
一篇最新的论文通过大量实验来验证什么时候多智能体系统(MAS)比单智能体(SAS)更好。 文章对比了 SAS 基线以及四种 MAS 架构: - 中心式:由一个中心 agent 进行任务协调; - 去中心式:agent 之间直接通信; - 独立式:多个 agent 独立解决任务,最后统一结果; - 混合式:同时有中心 agent 和 p2p 通信。 并在 6 个 benchmark 上进行实验: - Finance Agent:金融分析; - BrowseComp-Plus:网页搜索; - WorkBench:现实工作场景任务; - SWE-bench Verified:软件工程任务; - Terminal-Bench:终端任务; - PlanCraft:游戏规划。 主要结论如下: 1. MAS 没有普遍优势,在不同 benchmark 上的结果极其分化,在 Finance Agent 上可以达到 80.8% 的提升,而 PlanCraft 上会导致 -70%~-39% 的负收益。 2. SAS 基线的表现是判断是否应该使用 MAS 的最有用的标准,当 SAS 已经足够强时,继续加入 agent 很可能带来零收益甚至负收益,而实验得出的成功率阈值是 45%。 3. 任务的可拆解性和复杂性共同影响 MAS 效率。MAS 在可拆解的任务中可以获得很大收益,但在高复杂度的线性任务中往往会导致退化。 4. MAS 会导致错误信息的传播进而影响表现,不同 MAS 架构对于错误传播的阻断效果不同,中心式架构最能阻断错误传播,而独立式架构最难阻断错误传播。 这篇论文还有很多有意思的结论,我就不一一列举了,感兴趣的小伙伴可以去看原文,原文做了大量的实验和严谨的检验。 原文链接:https://www.nature.com/articles/s42256-026-01268-y 第一次做这种内容感觉很粗糙,后续我会再发布一些多智能体系统以及智能体自进化相关的内容。
趴趴熊Hello World!
感觉这个樱花(Sakura)风格还不错啊
趴趴熊碎碎念
开始研究世界模型是否可以融入我的ai游戏🤔
ai游戏开发记录: 重新捏了ui界面,想看看大家有什么建议🫣
趴趴熊碎碎念
开发ai游戏时的一些思考: 感觉使用ReAct + tool use的机制模拟人的推理和决策过程不是特别理想,思考和行动过程分离导致很难实现实时对话,想知道有哪些更好的建模方式。
ai游戏开发记录: 前几天在思考游戏性的问题,想的有点头痛,所以决定还是继续从技术角度出发完善项目。 今天晚上开始写新功能,让agent和玩家都可以和场景中的物体进行互动,第一个着手的目标是“门”。想要实现的效果是,初始时前门是锁着的,玩家可以敲门,这个互动会产生一个事件发送给agent(如果我不是坏人的话她应该会给我开门吧🤔)。然后agent也可以调用工具和门进行互动,实现解锁、上锁、开门、关门。目前还没完全实现,明天继续写。 补一张我目前在unity侧的逻辑图。
ai游戏开发记录: 今天摸鱼了,就稍微补一个角色可以移动的功能。(请忽略直接走到床上去了🫣)
ai游戏开发记录: 目前按照mem0的思路搭建了一个长期记忆系统:每轮交互完根据历史对话概要和上下文,生成一个该轮交互的长期记忆,然后到向量库中检索相关记忆,由llm判断做出以下四个操作中的一个(新增记忆、更新相关记忆、删除相关记忆、忽略记忆)。 简单测试了一下😎。