开源项目

maximhq/bifrost

最快的企业AI网关（比LiteLLM快50倍），具有自适应负载均衡器、集群模式、护栏、1000多种型号支持和< 100 µs开销， 5k RPS。

GoApache-2.06,816 stars945 forks672 issues

项目简介

maximhq/bifrost 是一个用 Go 编写的开源项目，在 GitHub 上归入「后端库」这一类。目前累计 6,816 个 Star、945 次 Fork，许可协议为 Apache-2.0。

它的核心定位是：最快的企业AI网关（比LiteLLM快50倍），具有自适应负载均衡器、集群模式、护栏、1000多种型号支持和< 100 µs开销， 5k RPS。官方仓库把它描述为这样的工具，我们在收录时按中文语境重新整理了这个说法，方便你快速判断它是否匹配手头的需求。

从仓库标签看，这个项目主要围绕 ai-gateway、gateway、gateway-services、generative-ai、guardrails 展开。如果你正在这几个方向上找现成的实现，它值得先浏览一遍 README 与示例目录。

仓库原文：Fastest enterprise AI gateway (50x faster than LiteLLM) with adaptive load balancer, cluster mode, guardrails, 1000+ models support & <100 µs overhead at 5k RPS.

关键信息

6,816Star 数

945Fork 数

672未关闭 Issue

主要语言	Go
开源许可	Apache-2.0
仓库创建	2025-03-19
最近推送	2026-07-27
收录时间	2026-07-27
仓库地址	https://github.com/maximhq/bifrost
克隆命令	`git clone https://github.com/maximhq/bifrost.git`
项目官网	https://www.getmaxim.ai/bifrost

适合什么场景使用

想找现成方案

直接看 README 的功能清单与快速开始，判断能否替换掉你正在手写的部分。

想读源码学习

star 数与近期推送时间能说明项目是否活跃，挑最近半年仍有提交的模块读更划算。

想接入生产

先确认许可协议与 issue 的处理速度，再评估维护成本，不要只看 star 数量。

技术标签

ai-gateway
gateway
gateway-services
generative-ai
guardrails
llm
llm-cost
llm-gateway

项目简介

关键信息

适合什么场景使用

技术标签

同类项目