ModelFaucet 中文概览

ModelFaucet（模型水龙头）让每一款软件都成为 AI 的最后一公里渠道。

ModelFaucet 是一个开源 LLM 分发网关和可嵌入 SDK。它让网站、应用、插件、桌面软件或垂直 SaaS 能够以原生体验集成 AI 功能，同时自动记录 token 用量，并把收入分成归因到软件开发者或分发渠道。

当前状态：1.2.0 source GA website and scenario demo release，包含 Control API、Gateway、SDK、React package、Local Bridge、数据库 schema、hosted deployment checks、Compose validation、scoped developer API tokens、独立 GitHub Pages 官网和生产运维预期的稳定公共契约。

它包含什么

1. 可嵌入 AI SDK        在任意应用内添加 AI 功能。
2. LLM Gateway          通过统一 API 路由到云端模型提供商。
3. BYOK                 允许终端用户使用自己的 API key。
4. Local Bridge         支持 Ollama、vLLM、LM Studio 和局域网模型。
5. Usage Ledger         记录 token 用量、成本、价格和毛利。
6. Revenue Sharing      自动给渠道/开发者钱包记账。

快速开始

cp .env.example .env
docker compose up -d postgres redis litellm
pnpm install
pnpm db:migrate
pnpm db:seed
pnpm dev

如果要使用平台云端路由，请在 .env 中配置服务端 provider key，例如：

OPENAI_API_KEY=<your-test-key>

不要提交 .env。真实 provider key 只能存在服务端。没有 provider key 时，可以使用 BYOK 或 Local Bridge。

安全边界

• 不把真实 provider keys 放进客户端。
• BYOK mode 不做隐藏收费。
• 云端服务不访问用户私有网络。

完整中文 README 见 README.zh-CN.md。

公开官网和场景模型位于 GitHub Pages 根路径。本地全链路验证见 本地 Smoke Test。

Billing 和 settlement 操作见 Billing 和 Settlement。

安全不变量和 abuse model 见 Threat 和 Abuse Model。

托管 beta 部署契约见 Hosted Beta。

1.x GA 契约见 稳定性政策、迁移和升级、生产参考架构、部署验证、治理和支持 和 发布策略。

Developer token 认证和租户隔离见 Developer Auth。

后续版本规划见 版本路线图。