llm-perf-estimator
Skillby zhangyu68
clawhub⭐ 17/10
根据模型架构、GPU规格和量化格式，估算LLM推理性能指标，包括首token延迟（TTFT）、解码速度和显存占用。
根据模型架构、GPU规格和量化格式，综合预估LLM推理的首Token延迟、解码速度及显存占用，辅助硬件选型与部署规划。
📊 商业分析
商业模式
freemium
独特价值
一站式预估TTFT、解码速度与显存，辅助GPU选型决策
竞品
LLM-Viewer（开源可视化工具，侧重计算图分析）、Can it run LLM（简易网页工具，仅判断能否运行）、Hugging Face Model Memory Calculator（仅估算显存，缺少TTFT和吞吐量预测）
🎯 应用场景
目标用户
AI工程师与MLOps团队大模型创业公司技术负责人云服务GPU资源采购决策者
工具信息
- 类型
- Skill
- 平台
- clawhub
- Stars
- ⭐ 1
- 价值评分
- 7/10
- 子分类
- LLM推理性能评估与优化
- 可商业化
- ✅ 是
AI 标签
LLM推理优化GPU选型显存估算模型量化评估性能基准预测
相关工具推荐
skill-creatorSKILL
由Anthropic官方出品，支持从零创建AI Skill、编辑优化现有Skill、运行评估测试并进行方差分析的性能基准对比，实现AI能力工程化闭环管理。
9/10⭐ 86,759
conversation-memorySKILL
为LLM对话提供短期、长期、实体三层持久化记忆系统，让AI真正记住用户，支持跨会话上下文延续与知识积累。
9/10⭐ 22,346
self-improvingSKILL
具备自我反思、自我批评、持续学习与记忆组织能力的自进化Agent，自动评估并永久改进输出质量，无需人工反复校正。
9/10⭐ 638
proactive-agentSKILL
将AI Agent从被动任务执行者升级为主动预判伙伴，内置WAL协议、工作缓冲区与自主定时任务，支持持续自我改进的智能体框架
9/10⭐ 628
cellcogSKILL
DeepResearch Bench排名第一的全模态AI代理框架。通过多代理编排实现深度推理与文本、图像、音频、视频等全模态融合,支持复杂任务自动化。
9/10⭐ 6