tashfeenahmed/freellmapi
7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
🤖 深度介绍
它是什么
FreeLLMAPI 是一个聚合了 34 家免费 LLM 提供商、635 个免费模型端点的统一 API 网关。它将所有免费模型收敛到单个 /v1 端点背后，兼容 OpenAI API 格式，同时支持接入任何自定义的 OpenAI 兼容端点。
核心亮点
- 海量免费额度：每月可处理 74 亿 tokens，满足个人实验需求
- 智能路由与自动故障转移：请求自动分发至可用模型，单点故障不影响整体服务
- 加密密钥管理：API 密钥加密存储，保障调用安全
- 零成本接入：MIT 许可，TypeScript 编写，可自托管部署
为什么火
在 LLM API 费用高昂的背景下，该项目将分散的免费资源整合为统一入口，极大降低了个人开发者尝试大模型的门槛。单日 612 星的增长速度，印证了开发者对"免费 + 聚合 + 高可用"组合的强烈需求。
适合谁用
- 个人开发者：低成本构建 AI 原型或 Side Project
- 研究者：批量测试不同模型效果，无需逐一注册各家服务
- 教育场景：教学演示时无需为 API 费用担忧
快速上手
git clone https://github.com/tashfeenahmed/freellmapi
cd freellmapi && npm install && npm run build
# 配置环境变量后启动服务
npm start
# 调用示例（OpenAI 兼容）
curl http://localhost:3000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"any","messages":[{"role":"user","content":"Hello"}]}'
部署后即可通过标准 OpenAI SDK 无缝切换至免费模型池。