NVIDIA libera Run:ai open source para gerenciar GPUs grátis

Tecnologia

NVIDIA disponibiliza gratuitamente ferramenta para otimizar uso de GPUs em ambientes Kubernetes, facilitando projetos de inteligência artificial.

A NVIDIA liberou nesta semana o código-fonte completo da plataforma Run:ai como software open source sob licença Apache 2.0 no GitHub, permitindo que desenvolvedores e equipes de plataforma de IA passem a orquestrar GPUs em clusters Kubernetes sem pagar assinatura e com liberdade para inspecionar, customizar e hospedar a solução por conta própria.

Run:ai vira open source e foca em GPUs NVIDIA

Voltada ao agendamento e gerenciamento de workloads de inteligência artificial em GPUs, a Run:ai funciona sobre o Kubernetes, adicionando um plano de controle para submissão de tarefas, definição de cotas e monitoramento de uso, além de serviços de cluster com agendamento “consciente” de GPU. Segundo a empresa, “a plataforma Run:ai open source coloca o agendamento de GPUs em produção, cotas e gerenciamento de workloads nas mãos dos desenvolvedores”.

O lançamento reforça o posicionamento da NVIDIA no centro das pilhas modernas de IA: a plataforma suporta apenas aceleradores da própria marca. Em modo de produção com GPUs reais, é obrigatório o uso de Linux, Docker e NVIDIA Container Toolkit. A própria companhia frisa que “o modo com GPUs reais requer Linux, Docker e NVIDIA Container Toolkit; AMD e Intel não são suportados”.

A abertura vem sem suporte empresarial incluído, mas integra a Run:ai ao ecossistema DSX AI Factory e à estratégia de combinar base open source com ofertas comerciais em camadas superiores.

Componentes modulares e uso em Kubernetes

Para facilitar a adoção em ambientes já existentes, a NVIDIA dividiu a plataforma em quatro componentes independentes, que podem ser implantados separadamente em clusters Kubernetes locais ou em nuvem. O plano de controle centraliza o envio de workloads, o gerenciamento de recursos e o acompanhamento de métricas, enquanto serviços que rodam em cada cluster acrescentam lógica de agendamento voltada a GPUs, dividindo e priorizando recursos entre times e projetos.

A Run:ai pode ser acessada por uma interface web, por linha de comando, via API REST e também por um servidor MCP, que permite integração com assistentes de IA para interação automatizada com o ambiente. A empresa destaca que a plataforma não substitui o Kubernetes, mas o complementa, oferecendo uma camada de gerenciamento específica para workloads de IA em GPU.

A implantação pode ser feita diretamente a partir do código-fonte ou por meio de um Helm chart da comunidade hospedado no NGC, em uma edição que dispensa assinatura paga, embora sem suporte empresarial direto da NVIDIA.

Desenvolvimento local com simulação de GPUs

Um dos destaques práticos do lançamento é o ambiente de desenvolvimento local simplificado. Um único script, o local-dev.sh, monta toda a infraestrutura de testes em um laptop ou servidor sem GPU. “O script local-dev.sh cria um cluster Kind com simulação de 8 GPUs Tesla-A10, dispensando hardware real”, descreve a NVIDIA.

Na prática, o roteiro constrói cerca de 50 serviços escritos em Go dentro de containers e cria um cluster Kind Kubernetes com 5 nós, fixado em uma versão específica do orquestrador. Um operador de GPU falso simula 8 GPUs Tesla-A10, permitindo que desenvolvedores testem integrações, automações e fluxos de trabalho completos antes de levá-los a clusters com hardware real.

Quando é hora de ir para produção com GPUs físicas, basta acionar a opção que ativa o operador oficial de GPU e rodar em infraestrutura compatível com NVIDIA, respeitando os pré-requisitos de sistema operacional e containerização.

Entenda o contexto

Plataformas de orquestração de workloads em Kubernetes, como Volcano, Kueue e YuniKorn, já oferecem mecanismos de fila e agendamento avançados. A NVIDIA, porém, posiciona a Run:ai como uma camada mais ampla: além do scheduler, entrega uma plataforma completa de gerenciamento por cima dele, com recursos de controle de cotas, governança, observabilidade e interfaces voltadas a times de ciência de dados e MLOps.

Ao tornar essa pilha aberta sob licença Apache 2.0, a empresa reduz barreiras de entrada para centros de pesquisa, universidades, startups e empresas que buscam autonomia em seu stack de IA, ao mesmo tempo em que fortalece o lock-in no ecossistema de GPUs NVIDIA. Usuários de aceleradores AMD e Intel, por outro lado, ficam de fora desse movimento.

Parcerias comerciais e ecossistema DSX

Mesmo com o código aberto e disponível para auto-hospedagem sem pagamento de licenças, a NVIDIA mantém um cinturão comercial ao redor da Run:ai. O ecossistema DSX conta hoje com 8 parceiros de adoção gerenciada — Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud e vCluster — que oferecem implantação e suporte comerciais da plataforma em diferentes cenários de nuvem e data centers privados.

Para clientes que exigem contratos de suporte direto, governança corporativa e integrações de nível avançado, as edições pagas continuam sendo ofertadas em pacotes como NVIDIA AI Enterprise, NVIDIA Mission Control e marketplaces de nuvem selecionados. Assim, a empresa combina a flexibilidade do open source com opções de serviço para ambientes críticos.

Ferramentas adjacentes: Model Streamer e Grove

O pacote anunciado também inclui projetos que complementam a execução de modelos em GPU. Um deles é o Model Streamer, responsável por enviar os pesos de modelos diretamente para a memória da GPU, reduzindo o tempo de carregamento. Frameworks como vLLM e SGLang já trazem suporte via uma opção específica de carregamento.

Benchmarks publicados pela Microsoft, usando máquinas virtuais com GPUs NVIDIA H100, apontaram ganho expressivo: carregamento de modelos entre 3 e 6 vezes mais rápido com o Model Streamer em relação ao carregador padrão, com o throughput subindo para 80 Gbps, contra cerca de 40 Gbps na rota tradicional. “Benchmarks da Microsoft mostraram carregamento 3 a 6 vezes mais rápido com Model Streamer em VMs NVIDIA H100”, resumiu a gigante de software.

Outro componente, o Grove, orquestra workloads de inferência formados por múltiplos componentes, disparando etapas como prefill e decode em unidades atômicas. A proposta é simplificar pipelines complexos de inferência, em que diferentes fases do processamento do modelo precisam escalar de forma coordenada.

Impacto para times de IA e próximos passos

Para equipes que administram clusters Kubernetes com GPUs, a abertura da Run:ai significa acesso a uma plataforma de orquestração madura sem custos de licença, com possibilidade de auditoria de código, ajustes finos a necessidades internas e integração com ferramentas próprias. Setores intensivos em IA, como tecnologia, saúde, finanças e automação industrial, tendem a se beneficiar de um controle mais granular de agendamento, cotas e monitoramento de uso.

A reação inicial na comunidade de desenvolvedores e administradores de Kubernetes é favorável, especialmente entre quem valoriza transparência e autonomia em infraestrutura de IA. A expectativa é de aumento na adoção em ambientes locais e em nuvem, além de contribuições da própria comunidade para novos recursos e integrações com outras peças do ecossistema open source.

O movimento também deve pressionar concorrentes na corrida por plataformas de orquestração de IA: ao abrir a Run:ai, a NVIDIA fortalece seu ecossistema e sinaliza que pretende sustentar a liderança em soluções de infraestrutura para inteligência artificial, combinando base aberta com ofertas comerciais de suporte e operação em escala.

Fonte: matéria original