A NVIDIA disponibilizou toda a plataforma Run:ai como código aberto, incluindo quatro componentes modulares que podem ser usados de forma independente ou em conjunto. Com essa mudança, recursos maduros de agendamento e compartilhamento de GPUs saem de um produto comercial fechado e passam à governança da comunidade. Assim, as empresas podem adotar, auditar, ampliar e combinar esses recursos com as ferramentas de Kubernetes que já utilizam. Para as equipes de compras e arquitetura, isso reduz o risco de integração e abre caminho para modelos de implantação gerenciados por parceiros ou apoiados pela comunidade.

O KAI Scheduler é um agendador nativo do Kubernetes e compatível com GPUs, que oferece agendamento em grupo, distribuição de cargas considerando a topologia e alocação por compartilhamento justo para cargas de trabalho de IA. Ele foi projetado para coexistir com os recursos padrão do Kubernetes ou substituir a camada de agendamento, conforme a necessidade do cliente. O GPU Fractioning Operator aproveita o isolamento de memória nativo do CUDA 13.4 para disponibilizar frações rígidas de GPU aos pods e exportar métricas por pod. Juntos, esses recursos permitem que as empresas executem cargas de trabalho variadas — notebooks interativos, trabalhos de treinamento e inferência — com limites de memória e decisões de posicionamento previsíveis.

Os benefícios práticos para quem opera a infraestrutura podem ser medidos. O particionamento reduz a memória ociosa das GPUs e permite executar cargas de trabalho menores sem reservar dispositivos inteiros, melhorando a utilização e diluindo os custos de hardware. O KAI Resource Management associa cotas a equipes e projetos, tornando transparentes e aplicáveis as garantias e os limites de capacidade e reduzindo conflitos por recursos e interrupções inesperadas. O Workload Map padroniza a observabilidade e as operações de ciclo de vida em diferentes CRDs, simplificando os procedimentos de SRE e a alocação de custos. O resultado é uma redução do custo efetivo de hardware e operações multi-inquilino mais fluidas.

Abrir o código aumenta a transparência, mas não elimina a complexidade operacional. As equipes precisam avaliar a maturidade de cada componente, especialmente no que diz respeito a políticas de compartilhamento justo em grande escala e configurações entre clusters. Os modelos de suporte variam: as versões comunitárias nos repositórios e os produtos comunitários do NGC não incluem suporte empresarial pago da NVIDIA, a menos que ele seja contratado separadamente. É necessário validar em um ambiente de testes a segurança, a frequência de atualizações e a compatibilidade com versões específicas do CUDA e dos drivers (no caso do particionamento). Por fim, as organizações devem confirmar os termos da licença e quaisquer contratos específicos aplicáveis à redistribuição de pacotes.

Comece aos poucos e avance gradualmente. Faça um piloto do GPU Fractioning Operator em um cluster de desenvolvimento para medir o comportamento do isolamento de memória e as métricas exportadas. Em seguida, avalie o KAI Scheduler em um namespace não crítico, testando o agendamento em grupo e o posicionamento com consciência de topologia em trabalhos representativos. Adicione o KAI Resource Management quando já conhecer o comportamento básico do agendamento e quiser associar cotas às equipes e unidades da organização. Use o Workload Map para simplificar integrações com ferramentas de monitoramento, custos e backup. Para obter resultados mais rapidamente, considere uma implantação feita por um parceiro do ecossistema — sobretudo se precisar de automação do ciclo de vida ou modelos de isolamento entre inquilinos.