MCP NVIDIA NIM
Servidor MCP em TypeScript para Orquestração Resiliente de Modelos NVIDIA Cloud
Servidor Model Context Protocol (MCP) de alta resiliência que atua como barramento e orquestrador de modelos de IA da NVIDIA Cloud API, com rate limiting deslizante de 40 RPM, failover com cadeias de fallback e suíte de testes em matriz CI/CD.
Visão Geral
O mcp-nvidia-nim é um servidor MCP (Model Context Protocol) de código aberto em TypeScript projetado para conectar agentes autônomos e IDEs (Google Antigravity, Claude Desktop, Cursor) diretamente ao catálogo de modelos em nuvem da NVIDIA NIM Cloud API.
Criado para atender demandas críticas de pair programming e automação com IA, ele disponibiliza ferramentas especializadas para revisão de código em profundidade (Poolside Laguna XS, Mistral Large), raciocínio analítico e arquitetural (Nemotron-3 Ultra 550B), visão computacional multimodal (Llama 3.2 90B Vision) e extração estruturada de documentos.
Arquitetura & Engenharia de Resiliência
- Rate Limiting Deslizante em Fila FIFO: Implementação de fila FIFO em memória com janela deslizante de 60 segundos limitada a 40 RPM (cota oficial gratuita da NVIDIA), evitando erros de quota mesmo sob disparos assíncronos e concorrentes de ferramentas.
- Cadeias de Fallback Automático (Zero-Downtime Failover): Roteador inteligente que intercepta erros HTTP (404, 403, 500 ou timeouts) e chaveia a requisição para um modelo alternativo de capacidade equivalente sem interromper a execução do agente.
- Probes Sintéticos de Saúde & Guardrails: Ferramenta de diagnóstico ativo com piso de reserva de quota (
minRpmReserve = 15) e cache TTL de 10 minutos, garantindo que testes sintéticos de disponibilidade nunca canibalizem o trabalho do desenvolvedor. - CI/CD Automatizado & Matriz de Testes: Pipeline em GitHub Actions validando tipagem estrita, linting e suíte de 26 testes automatizados nas versões 20, 22 e 24 do Node.js a cada commit e pull request.