local-llm-router
Skillby twinsgeeks
clawhub⭐ 07/10
跨多设备本地LLM推理的智能路由系统，通过7维信号评分引擎（热状态、内存等指标）为每个请求自动选择最优机器。
智能路由本地LLM推理请求至最优设备,7信号评分引擎综合热状态、内存、延迟等因素自动选择最佳推理节点,支持多设备协同推理。
📊 商业分析
商业模式
freemium
独特价值
多设备本地推理自动路由,无需手动配置,自适应负载均衡
竞品
vLLM(推理框架为主),Ray Serve(通用分布式),Ollama(单机本地化)
🎯 应用场景
目标用户
AI创业公司边缘计算开发者私有化部署企业
工具信息
- 类型
- Skill
- 平台
- clawhub
- Stars
- ⭐ 0
- 价值评分
- 7/10
- 子分类
- 本地LLM推理优化
- 可商业化
- ✅ 是
AI 标签
本地推理多节点路由负载均衡Ollama集成推理优化
相关工具推荐
skill-creatorSKILL
由Anthropic官方出品，支持从零创建AI Skill、编辑优化现有Skill、运行评估测试并进行方差分析的性能基准对比，实现AI能力工程化闭环管理。
9/10⭐ 86,759
conversation-memorySKILL
为LLM对话提供短期、长期、实体三层持久化记忆系统，让AI真正记住用户，支持跨会话上下文延续与知识积累。
9/10⭐ 22,346
self-improvingSKILL
具备自我反思、自我批评、持续学习与记忆组织能力的自进化Agent，自动评估并永久改进输出质量，无需人工反复校正。
9/10⭐ 638
proactive-agentSKILL
将AI Agent从被动任务执行者升级为主动预判伙伴，内置WAL协议、工作缓冲区与自主定时任务，支持持续自我改进的智能体框架
9/10⭐ 628
cellcogSKILL
DeepResearch Bench排名第一的全模态AI代理框架。通过多代理编排实现深度推理与文本、图像、音频、视频等全模态融合,支持复杂任务自动化。
9/10⭐ 6