😀目前在负责juejin.cn运营
Hello,朋友们,在多 LLM 供应商环境下,API 格式差异带来的维护成本让人头疼。
我希望有一个统一的基础设施,让开发者和普通用户可以轻松地切换不同的 LLM 供应商,而无需关心 API 格式差异,但很可惜无论 AI SDK 这种开源产品还是 openrouter 这种商业产品,他们都只是做了统一出口,并不提供自由转换。
于是我花了 3 周时间开源了一个叫 Amux 的项目,它包含两个核心部分。
对于开发者,你可以使用 LLM Bridge,它是一个双向 API 适配器 NodeJS Package,可以在不同的 LLM 提供商格式之间进行双向、无缝转换。
它建立在三个核心概念之上:适配器(Adapters)、IR(中间表示) 和 桥接(Bridge)。目前我做了 OpenAI、Anthropic、DeepSeek、Gemini、Moonshot、Zhipu、Qwen 等 7 个主流大模型供应商的适配器,更多厂商适配器还在开发中。
你可以用这个核心 Package 来帮助你的 AI Agent 项目进行 LLM 供应商的切换,无需关心 API 格式差异,IR层做了丰富的处理,你也可以在这里接入统一的网关进行管理,方便我们的开发。
对于普通用户,你可以使用 Amux Desktop,它是一个开源桌面应用,使用 Electron 构建,它可以让用户轻松地配置、切换不同的 LLM 供应商,当你有一个供应商 API Key,你可以使用 Amux Desktop 来本地代理你的请求,并且可以将它转为任何主流厂商的 API 格式,从而一个厂商的 API Key 构建多个桥接双向代理,接入你的不同 Agent 产品。
我在 Amux Desktop 中集成了 CF Tunnel,你可以使用它来代理你的本地请求(内网穿透),从而实现跨设备、分享给朋友使用。
同时 Amux Desktop 还集成了 Antigravity、Codex 的多账号 Oauth 登录+代理池,你可以使用它来登录你的多个 Antigravity、Codex 账号,并将他们转出任何厂商格式的 API(即2API)。
你也可以在 Amux Desktop 中统一管理所有厂商的 API Key,监控他们的使用。
更多功能大家可以自行体验。
官网及 LLM Bridge 文档:https://amux.ai,欢迎大家查看,官网写的比较仓促,LLM Bridge 文档写的比较详细,但还没有仔细校对,有任何问题欢迎大家提出。
仓库地址:https://github.com/isboyjc/amux
Amux Desktop 下载地址:https://github.com/isboyjc/amux/releases
由于项目还在早期阶段,并且我个人业余时间有限,所以项目可能还存在很多问题点,欢迎大家使用和 star,也欢迎大家提出建议和反馈(Issues 或私聊都可以),如果有开发能力和兴趣也可以参与进来,添加更多的厂商适配器 Package,或者参与 Amux Desktop 的开发(PR 或者 Issues),从而一起完善这个项目。
注:客户端我只测试了 MacOS,Windows、Linux 版本大家可以自行安装测试,欢迎反馈。
感谢大家的支持!