flash-moe-inference
Skillby adisinghstudent
clawhub⭐ 07/10
纯C/Metal实现,支持在MacBook本地运行397B参数MoE大模型,通过SSD流式加载实现内存高效推理,无需云服务完全离线
📊 商业分析
商业模式
freemium
独特价值
首个在MacBook本地运行397B超大MoE模型,零云依赖离线推理能力
竞品
llama.cpp(开源本地推理)、MLX(苹果优化框架)、Ollama(模型管理平台)
🎯 应用场景
目标用户
AI研究员独立开发者隐私敏感企业边缘计算方案商
工具信息
- 类型
- Skill
- 平台
- clawhub
- Stars
- ⭐ 0
- 价值评分
- 7/10
- 子分类
- 大模型本地推理引擎
- 可商业化
- ✅ 是
AI 标签
本地推理MoE模型Metal优化MacBook离线LLM
相关工具推荐
skill-creatorSKILL
由Anthropic官方出品,支持从零创建AI Skill、编辑优化现有Skill、运行评估测试并进行方差分析的性能基准对比,实现AI能力工程化闭环管理。
9/10⭐ 86,759
conversation-memorySKILL
为LLM对话提供短期、长期、实体三层持久化记忆系统,让AI真正记住用户,支持跨会话上下文延续与知识积累。
9/10⭐ 22,346
self-improvingSKILL
具备自我反思、自我批评、持续学习与记忆组织能力的自进化Agent,自动评估并永久改进输出质量,无需人工反复校正。
9/10⭐ 638
proactive-agentSKILL
将AI Agent从被动任务执行者升级为主动预判伙伴,内置WAL协议、工作缓冲区与自主定时任务,支持持续自我改进的智能体框架
9/10⭐ 628
cellcogSKILL
DeepResearch Bench排名第一的全模态AI代理框架。通过多代理编排实现深度推理与文本、图像、音频、视频等全模态融合,支持复杂任务自动化。
9/10⭐ 6