返回教程列表
freellmapi开源项目教程，免费16亿token

freellmapi开源项目教程，免费16亿token

cxk1993·2026-08-15教程

FreeLLMAPI 教程

免费大模型 API 聚合网关：把 29 家厂商的免费额度打包成一个 OpenAI 兼容接口

📌 基本信息

  • GitHub: https://github.com/tashfeenahmed/freellmapi
  • Stars: 18.2k ⭐
  • License: MIT
  • 核心口号: 每月 40 亿 Token！29 家免费 LLM 提供商！358 个免费模型端点！一个 OpenAI 兼容接口！
  • 语言: Node.js（Node 20+）
  • 官方目录: https://freellmapi.co/models

🎯 它能做什么

各家 AI 厂商都有免费额度，但单独用都不够塞牙缝。FreeLLMAPI 把它们全部聚合到一个 /v1 端点：

Google / Groq / Cerebras / Mistral / OpenRouter / Cloudflare / Cohere
Z.ai (智谱) / NVIDIA / HuggingFace / ModelScope (Qwen3·DeepSeek V4·GLM-5)
+ 还有 17 家免费提供商 + 自定义 OpenAI 兼容端点（本地 Ollama 等）

✨ 核心特性

特性说明
🧠 智能路由自动选最佳模型，429/5xx 自动切换下一个提供商
🔁 故障转移最多重试 20 次，自动冷却限流的 Key
📊 用量追踪每个 Key 的 RPM/RPD/TPM/TPD 实时追踪，永不超限
🔐 密钥加密AES-256-GCM 加密存储，只暴露一个统一 freellmapi-... Token
🖥️ 管理面板React UI：管理 Key、调整优先级、测试对话、p50/p95 延迟分析
🌐 60 种语言自动检测浏览器语言
🖼️ 多模态图片生成、语音合成、Embedding 全支持
🤝 工具调用OpenAI 风格 tools 自动兼容

🚀 快速开始

方式一：Docker 一键部署（推荐）

# 一键安装（设置 ~/freellmapi，生成加密密钥，拉镜像，启动容器）
curl -fsSL https://freellmapi.co/install.sh | bash

# 打开管理面板
# → http://localhost:3001

方式二：Windows 桌面版

从 Releases 页面 下载 .exe 安装包，托盘运行。

⚙️ 使用流程

  1. 打开面板 → http://localhost:3001
  2. Keys 页面 → 添加你的各家免费 API Key
  3. Fallback Chain 页面 → 调整优先级（想先用什么模型排前面）
  4. Keys 页面头部 → 获取统一 API Key（freellmapi-...）
  5. 任何 OpenAI 客户端 → base_url 改成 http://localhost:3001/v1，API key 填统一的

💻 接入示例

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",  # 只需要改这里
    api_key="freellmapi-your-unified-key",  # 统一的 key
)

# 其他全自动：路由、限流、重试都不用管

🛠️ 各家 AI 编程工具自动配置

# Claude Code
npx freellmapi setup-claude

# Codex CLI
npx freellmapi setup-codex

# Cline / Continue / Aider / OpenCode / Goose / Qwen Code ...
npx freellmapi setup-cline
npx freellmapi setup-continue
npx freellmapi setup-aider

🧠 高级功能

  • Fusion 多模型合成: 请求虚拟 fusion 模型，路由器并行分发多个模型，judge 模型综合答案
  • Anthropic 格式: /v1/messages 走 Anthropic 线格式，Claude Code 也能用
  • Gemini 原生: /v1beta 接口（generateContent）
  • Ollama 模拟: 给 Zed / JetBrains 等本地模型客户端
  • Prompt 压缩: 可选，自动去重、过滤工具输出、压缩 JSON

⚠️ 注意事项

  • 仅限个人实验和学习，不适合生产环境（免费额度不稳定）
  • 每个厂商的 ToS 仍然适用——流量只是被代理了
  • 模型目录每日自动同步更新（freellmapi.co 签名目录）

📚 相关文档

  • 安装部署: https://github.com/tashfeenahmed/freellmapi/blob/main/docs/install.md
  • API 参考: https://github.com/tashfeenahmed/freellmapi/blob/main/docs/api.md
  • 客户端接入: https://github.com/tashfeenahmed/freellmapi/blob/main/docs/clients.md
  • 完整模型目录: https://freellmapi.co/models