llm-api-benchmark-mcp-server

MCP Server

by Yoosu-L

mcpmarket.cn17/10

LLM API 基准测试工具,测速与吞吐量

The MCP server offers benchmarking tools for LLM APIs, measuring generation speed, prompt throughput, and TTFT across different concurrency levels.

📊 商业分析

核心功能
测量不同并发下 LLM API 生成速度与延迟
商业模式
SaaS 订阅与定制报告
独特价值
专为 LLM API 设计的 MCP 基准测试协议支持
竞品
["Locust", "wrk", "Perfetto"]

🎯 应用场景

使用场景
模型选型对比API 性能调优高并发压力测试
适用领域
人工智能软件开发数据科学
目标用户
AI 工程师后端开发者技术决策者