homelab-cluster

Skill

by mlesnews

clawhub25/10

管理家庭实验室的多层AI推理集群,包含健康监控、专家MoE路由、自动节点恢复、跨Ollama和llama.cpp的模型部署。涵盖GPU显存规划、Docker卷策略、顺序启动防止CUDA死锁及LiteLLM统一API网关。

面向家庭实验室的多层AI推理集群管理工具,支持健康监控、MoE专家路由、节点自动恢复及Ollama/llama.cpp跨节点模型部署与GPU内存规划。

📊 商业分析

商业模式
freemium
独特价值
覆盖Ollama+llama.cpp双引擎集群的GPU内存规划与自动节点恢复
竞品
1. Portainer(通用容器管理,无AI推理专项);2. Ollama官方CLI(单节点,无集群调度);3. KubeAI(K8s原生,复杂度高,非homelab友好)

🎯 应用场景

目标用户
AI爱好者/极客玩家独立开发者/研究员小型团队私有化部署工程师

📦 安装方式

openclaw install mlesnews-homelab-cluster
🔗 安装/下载链接 →