对接多个大模型供应商令人头疼
每个供应商都有自己的请求/响应格式。OpenAI 用 messages,Claude 用 content blocks。
切换供应商意味着重写整个代码库。迁移需要数周时间。
支持多个供应商会成倍增加代码复杂度和测试工作量。
大模型集成所需的一切
任意格式之间无缝转换
核心包无运行时依赖
为任意供应商创建自定义适配器
原生 SSE 支持实时响应
跨供应商完整支持函数/工具调用
支持视觉和图像功能
看看有多简单
// 使用 OpenAI 格式,调用 Claude API
const bridge = createBridge({
inbound: openaiAdapter,
outbound: anthropicAdapter,
config: { apiKey: process.env.ANTHROPIC_API_KEY }
});
// 你现有的 OpenAI 风格代码无需修改
const response = await bridge.chat({
model: 'gpt-4',
messages: [{ role: 'user', content: 'Hello!' }]
});谁能从 Amux 中受益
用单一 SDK 集成多个大模型供应商。切换模型无需修改代码。
实现供应商容灾、优化成本、保持供应商灵活性。
轻松对比模型。在不同供应商间运行相同提示词进行基准测试。