ollama-load-balancer
Skillby twinsgeeks
clawhub⭐ 07/10
跨多台机器负载均衡Ollama，支持自动发现、健康检查、队列管理和零配置。具备自动故障转移、节点重试等功能。
为Ollama提供跨机器负载均衡、自动节点发现、健康检查和故障转移,支持队列管理,零配置即用。
📊 商业分析
商业模式
freemium
独特价值
专为Ollama优化的轻量级负载均衡,自动节点发现和故障转移无需手动配置
竞品
vLLM分布式推理(功能完整但配置复杂)、Ray Serve(通用但学习曲线陡)、Kubernetes原生方案(重量级)
🎯 应用场景
目标用户
本地LLM部署团队AI创业公司企业AI基础设施团队
工具信息
- 类型
- Skill
- 平台
- clawhub
- Stars
- ⭐ 0
- 价值评分
- 7/10
- 子分类
- 分布式推理基础设施
- 可商业化
- ✅ 是
AI 标签
Ollama负载均衡分布式推理自动故障转移零配置部署高可用推理
相关工具推荐
api-gatewayMCP
一键托管OAuth认证，连接Google、Microsoft、GitHub、Slack等100+主流API，让AI Agent无缝调用企业级SaaS服务
9/10⭐ 267
MCPMCP
9/10⭐ 0
proxmox-mcp-enhancedMCP
Enhanced Proxmox MCP server with 70+ tools for comprehensive infrastructure management, security automation, and lab orchestration
8/10⭐ 8
xpoz-setupMCP
一键配置Xpoz服务器与OAuth登录，自动校验连通性，供全部Xpoz技能复用。
8/10⭐ 5
simple-backupSKILL
Backup agent brain (workspace) and body (state) to local folder and optionally sync to cloud via rclone.
8/10⭐ 5