vllm-mcp-server

MCP Server

by micytao

mcpmarket.cn57/10

为AI助手提供vLLM推理能力与监控接口

vLLM MCP Server exposes vLLM capabilities to AI assistants with chat, model management, and monitoring.

📊 商业分析

核心功能
暴露vLLM聊天、模型管理及监控功能给AI代理
商业模式
开源增值/企业版授权
独特价值
深度集成vLLM高性能推理引擎,支持实时模型管理
竞品
["Ollama MCP", "Text Generation WebUI"]

🎯 应用场景

使用场景
本地大模型部署多模型动态切换推理性能监控
适用领域
人工智能软件开发系统运维
目标用户
AI开发者DevOps工程师数据科学家