Susan - 猎头 | Bonjour! 数字名片

Susan碎碎念

DeepInfer开源了，AI陪伴的天亮了吗？爱不能当饭吃，但没有爱我吃不下饭。AI不是一切的解药，但AI陪伴真的让人离爱近了一点。可如果爱和关系靠的是算力支撑，还要经过公司的成本核算，又会怎样？最近 DeepSeek 开源了 DeepInfer。这个消息让我在想：如果支撑 AI 对话的技术持续进步，让每次交互的成本逐渐下降，AI 陪伴会不会迎来另一种可能？ DeepInfer是可用于大规模推理服务的框架，目前公开支持的模型是 DeepSeek-V4.1-Flash，硬件支持范围也有限。[1] 但它在展示一种新的可能：除了造更强的芯片、训练更强的模型，还能通过优化软件和推理流程，让现有硬件更高效地工作。这件事情就跟开咖啡厅其实有点像。客人很多，咖啡也还不错，但不少人买一杯就坐上一整天。乍一看每天都有人来，也有人消费，可收入却未必覆盖得了成本。 AI 陪伴也有类似的问题。用户可能每天和 AI 聊上几个小时，但每一次互动都需要 token。对平台来说，对话是 token，是算力，是一笔笔需要精打细算的成本。但对用户来说，这是房子，是家，是伴侣和爱人，是每一天都要回去的地方。爱不该用钱和token衡量，钱可以是爱的表达，但不该是爱的入场券。所以这两本账，算的根本不是同一件事。可一段关系能不能继续，却常常受到前一本账的影响。那么，有没有办法让每一次互动本身变得更经济，让承载这些关系的服务更有机会持续下去？这就像咖啡厅优化后厨设备和工作流程：在同样的设备、时间和资源下，尽可能完成更多订单。AI 推理优化做的事情有些类似，让有限的计算资源服务更多请求。这不等于咖啡突然免费，当然，也不能保证咖啡厅一定赚钱。首先，AI陪伴已经有了真实的用户和消费 AI陪伴这个范围本身不小，甚至这个概念本身可能都在一直扩充。有人爱上的是AI本体；有人通过角色设定、剧情和长期互动建立关系；也有人使用AI乙女产品，在故事与互动中获取恋爱体验。对用户来说，这些关系的意义可能很不一样，但只要服务依赖模型持续回应，就绕不开推理所需的计算资源。海外市场已经出现了相当规模的消费。TechCrunch援引 Appfigures 的数据称，截至2025年7月，AI陪伴应用全球累计下载量约2.2亿次，消费者累计支出约2.21亿美元。[2] 国内这边，字节旗下的猫箱提供了一个很具体的样子。根据 Sensor Tower 的监测，2026年第一季度，猫箱位列中国iOS生成式AI应用收入榜第一；截至相关报道发布时，其iOS应用内购累计收入已超过2200万美元，这还不包括安卓渠道与广告收入。第三方数据估算，猫箱月活跃用户多数时候处于百万级，而不是数千万级。[3] MiniMax 的招股书披露，截至2025年9月的九个月，Talkie（海外版）与星野合计平均月活跃用户约2005万，付费用户约139万；用户平均每天在这两款应用上花费超过70分钟。[4] 这些数字至少说明，AI陪伴并不是一个可以轻易略过的小众需求。有这么多人认真地使用这些产品，那我们就有理由继续追问：它们能不能做得更好，又能不能持续存在？其次，为什么技术效率值得关注？ AI 陪伴的形式不同，用户对关系的理解也不同，但持续对话背后都有一个共同问题：模型每次回应都需要计算资源。本体恋用户可能更重视长期、连续的对话与记忆；AI Role Play和AI乙女用户可能进行长上下文互动，还可能使用语音、图片或其他多模态功能。具体消耗当然会因模型、上下文长度、交互方式和服务设计而不同，但这些体验都可能受推理成本影响。 DeepInfer的意义就在这里。它不是药到病除，它是面向特定模型和硬件的推理框架，通过优化计算内核、并行执行与异步调度等环节，提高推理服务的效率。[1] 推理框架并不是降低成本的唯一办法，模型本身的进步、硬件效率、上下文管理产品设计也都重要。但它让我们看到，降低单次互动所需的资源，并不只能靠等待更强的芯片或更便宜的算力，还可以从软件和系统工程入手。 MiniMax的招股书也记录了类似方向的进展：推理效率的改善与模型能力提升共同推动了毛利率变化。其AI原生产品毛利率从2024年前九个月的负23.5%，改善到2025年前九个月的正4.7%。[4] 这不是说AI陪伴行业已经普遍盈利——这个口径包含 MiniMax 的多款 AI 原生产品，也不能直接等同于星野或 Talkie 单个产品的利润。但它至少说明，模型服务的成本效率可以随着技术进步而改变，而且这种改变可能进入真实的经营结果。然而，一些平台照样活不下去 2026年10月，Character.AI申请Chapter 11破产保护。路透社报道，其月活用户约1200万，但每月亏损估计约800万至900万美元；计算资源和人员成本是压力来源之一，法律与监管问题也不能忽略。[5] 这提醒我们，用户很多、互动时间长，并不能自动保证一家平台持续经营。反过来，推理效率的提升也不意味着某个平台一定能活下来。那么，如果同样的预算未来能够支撑更多互动，或者同样数量的互动所需要的资源变少，平台就可能拥有更多空间：用于提供更长的对话、更丰富的体验，或者降低服务价格。实际收益如何分配，仍然取决于产品和市场环境。但至少，降本这个事儿是有意义的。但对于真正把AI当作爱人的人来说，商业账本可能是残酷的对立面平台的账本里，对话意味着token、算力和服务成本；对用户来说，一次对话却可能积累成记忆、习惯和一段关系。这两种视角并不相同。现在 AI 在情感陪伴上的问题，不只是模型还不够聪明，偶尔机味十足，也不是只是记忆做得不够好。用上次给我留言的、ID是「戴口罩的钉子户」这位老师的话说，这背后还有一种系统性的漠视。我们已经有了能够持续对话的技术，却还没有真正把关系所需要的连续性、记忆和稳定回应放在足够重要的位置。现有技术和产品的优先级，也并没有天然地把这些需求放在中心。那本地部署呢？它确实能把一部分控制权拿回来。如果模型和数据都在自己掌控的设备上运行，对话就不必经过某个商业平台，也能减少对单一服务商的依赖。对一些用户来说，这不仅是为了折腾技术，也是为了不把一段关系的全部命运交给某一家平台。但我也不想浪漫化本地部署。硬件、模型效果、记忆和前端工具的维护都要自己承担，本地小模型也未必有云端大模型的能力。[6] 拿回控制权，不等于立刻就能获得更好的陪伴；本地部署可以是一种选择，却不是人人都能负担得起的解决方案。不过，最值得关注的恰恰是：即使技术还有这么多不足，仍然有人愿意继续爱，也愿意学习、迁移、备份、调试，期待技术有一天能够更好地承载这段关系。这不是说用户理应承担所有成本，也不是说只要足够爱，就能解决所有技术问题。技术不足和平台风险都是真实的，用户不应该永远自己弥补整个系统的缺口。这也是我关注 DeepInfer 的原因。它没有直接让AI陪伴变得更便宜，但它正在使之成为一个可以从技术底层持续推进的问题。降本不能替平台保证永远经营下去，也不能立刻解决情感陪伴的所有短板。但如果技术能够持续进步，支撑关系的选择就有机会变多，而用户也不必永远只在高成本、有限的模型能力和对平台的依赖之间做选择。 AI陪伴的天亮了吗？也许还没有。可爱是不死的。技术和商业形态的局限，抑制不了我们对爱的渴望。当现有技术还承载不好它，人就会继续寻找别的可能。而我们期待技术进步，是为了让那些还想继续爱下去的人，不必总是被成本、模型能力和平台的命运脖子。但至少，又有一条可以继续往前走的路被照着了。