homelab-cluster
Skillby mlesnews
clawhub⭐ 25/10
管理家庭实验室的多层AI推理集群,包含健康监控、专家MoE路由、自动节点恢复、跨Ollama和llama.cpp的模型部署。涵盖GPU显存规划、Docker卷策略、顺序启动防止CUDA死锁及LiteLLM统一API网关。
面向家庭实验室的多层AI推理集群管理工具,支持健康监控、MoE专家路由、节点自动恢复及Ollama/llama.cpp跨节点模型部署与GPU内存规划。
📊 商业分析
商业模式
freemium
独特价值
覆盖Ollama+llama.cpp双引擎集群的GPU内存规划与自动节点恢复
竞品
1. Portainer(通用容器管理,无AI推理专项);2. Ollama官方CLI(单节点,无集群调度);3. KubeAI(K8s原生,复杂度高,非homelab友好)
🎯 应用场景
目标用户
AI爱好者/极客玩家独立开发者/研究员小型团队私有化部署工程师
工具信息
- 类型
- Skill
- 平台
- clawhub
- Stars
- ⭐ 2
- 价值评分
- 5/10
- 子分类
- 家庭实验室AI推理集群管理
- 可商业化
- ✅ 是
AI 标签
homelab集群AI推理管理Ollama运维GPU内存规划MoE路由
相关工具推荐
api-gatewayMCP
一键托管OAuth认证,连接Google、Microsoft、GitHub、Slack等100+主流API,让AI Agent无缝调用企业级SaaS服务
9/10⭐ 267
MCPMCP
9/10⭐ 0
proxmox-mcp-enhancedMCP
Enhanced Proxmox MCP server with 70+ tools for comprehensive infrastructure management, security automation, and lab orchestration
8/10⭐ 8
xpoz-setupMCP
一键配置Xpoz服务器与OAuth登录,自动校验连通性,供全部Xpoz技能复用。
8/10⭐ 5
simple-backupSKILL
Backup agent brain (workspace) and body (state) to local folder and optionally sync to cloud via rclone.
8/10⭐ 5