luizpulz
arrow_back Voltar para os projetos
Logo MCP NVIDIA NIM

MCP NVIDIA NIM

Servidor MCP em TypeScript para Orquestração Resiliente de Modelos NVIDIA Cloud

Servidor Model Context Protocol (MCP) de alta resiliência que atua como barramento e orquestrador de modelos de IA da NVIDIA Cloud API, com rate limiting deslizante de 40 RPM, failover com cadeias de fallback e suíte de testes em matriz CI/CD.

Ano 2026
Papel Desenvolvimento Backend & Ferramentas de IA
Stack Principal
TypeScript Node.js MCP NVIDIA NIM CI/CD Vitest

Visão Geral

O mcp-nvidia-nim é um servidor MCP (Model Context Protocol) de código aberto em TypeScript projetado para conectar agentes autônomos e IDEs (Google Antigravity, Claude Desktop, Cursor) diretamente ao catálogo de modelos em nuvem da NVIDIA NIM Cloud API.

Criado para atender demandas críticas de pair programming e automação com IA, ele disponibiliza ferramentas especializadas para revisão de código em profundidade (Poolside Laguna XS, Mistral Large), raciocínio analítico e arquitetural (Nemotron-3 Ultra 550B), visão computacional multimodal (Llama 3.2 90B Vision) e extração estruturada de documentos.

Arquitetura & Engenharia de Resiliência

  • Rate Limiting Deslizante em Fila FIFO: Implementação de fila FIFO em memória com janela deslizante de 60 segundos limitada a 40 RPM (cota oficial gratuita da NVIDIA), evitando erros de quota mesmo sob disparos assíncronos e concorrentes de ferramentas.
  • Cadeias de Fallback Automático (Zero-Downtime Failover): Roteador inteligente que intercepta erros HTTP (404, 403, 500 ou timeouts) e chaveia a requisição para um modelo alternativo de capacidade equivalente sem interromper a execução do agente.
  • Probes Sintéticos de Saúde & Guardrails: Ferramenta de diagnóstico ativo com piso de reserva de quota (minRpmReserve = 15) e cache TTL de 10 minutos, garantindo que testes sintéticos de disponibilidade nunca canibalizem o trabalho do desenvolvedor.
  • CI/CD Automatizado & Matriz de Testes: Pipeline em GitHub Actions validando tipagem estrita, linting e suíte de 26 testes automatizados nas versões 20, 22 e 24 do Node.js a cada commit e pull request.