Mercados
S&P 5007.341▼ 1,03%Nasdaq24.328▼ 0,74%Dow Jones50.759▼ 1,64%Ibovespa169.817▲ 0,31%FTSE 10010.690▼ 1,76%DAX26.045▼ 2,08%Nikkei58.697▼ 0,28%DólarR$ 5,78▲ 0,21%EuroR$ 6,35– 0,00%BitcoinR$ 372.586▼ 0,39%Powered by WIREDESK OSS&P 5007.341▼ 1,03%Nasdaq24.328▼ 0,74%Dow Jones50.759▼ 1,64%Ibovespa169.817▲ 0,31%FTSE 10010.690▼ 1,76%DAX26.045▼ 2,08%Nikkei58.697▼ 0,28%DólarR$ 5,78▲ 0,21%EuroR$ 6,35– 0,00%BitcoinR$ 372.586▼ 0,39%Powered by WIREDESK OS
Powered by WIREDESK OS
Lançamentos de IA

Orquestração autônoma em Kubernetes reduz 80% do custo de IA

Na KubeCon + CloudNativeCon NA, ScaleOps defende que só a orquestração autônoma em Kubernetes dá conta da carga imprevisível de agentes de IA, cortando custos e falhas.

Orquestração autônoma em Kubernetes reduz 80% do custo de IA

Tecnologia

ScaleOps apresenta solução para gerenciar cargas variáveis de IA com eficiência e economia em Kubernetes.

Leia também: Retenção de dados em IA: entenda os 2 modelos e riscos reais

Agentes de inteligência artificial estão derrubando previsões de infraestrutura em nuvem, e a resposta, segundo o fundador da ScaleOps Inc., Yodar Shafrir, passa por orquestração autônoma em Kubernetes capaz de ajustar recursos em tempo real e cortar de 70% a 80% os custos de computação.

Durante transmissão exclusiva da KubeCon + CloudNativeCon NA, em novembro, em estúdio da SiliconANGLE Media nos Estados Unidos, Shafrir detalhou como agentes de IA criam picos repentinos de uso de CPU e memória, intercalados com longos períodos ociosos, e por que isso torna configurações estáticas ineficientes, elevando gastos e derrubando aplicações.

Agentes de IA deixam infraestrutura mais complexa e cara

Shafrir descreveu um cenário em que agentes de IA ficam à espera de um comando humano ou de outro agente, consultam um modelo de linguagem e então disparam uma sequência intensa de tarefas. Para as equipes de plataforma, isso significa provisionar capacidade para o pior pico possível, mantendo memória e CPU reservadas enquanto o agente está parado.

“Agents and all the agent workloads pretty much made everything way more complex when managing infrastructure”, afirmou o executivo. “Today, the compute cost has grown dramatically. Everything that agents execute eventually runs on compute.”

O impacto na confiabilidade também é significativo. Segundo Shafrir, “we actually see that agents crash due to not having enough resources 80% more often compared with traditional microservices”. Cada falha obriga a repetir etapas, consumir novamente tokens de modelos e ampliar ainda mais a conta de nuvem.

Como a orquestração autônoma ajuda o Kubernetes a lidar com agentes de IA?

A proposta da ScaleOps é usar orquestração autônoma para que o próprio Kubernetes tome decisões de recursos em tempo real, sem depender de ajustes manuais. A plataforma observa o comportamento de cada aplicação, agente e servidor de protocolo de contexto de modelo e recalibra continuamente CPU, memória, número de réplicas e posicionamento nos nós do cluster.

“We understand for every application: What is it connected to? What does it communicate with? What is the business state of every application? We learn from historical patterns”, explicou Shafrir. A partir desses padrões históricos, o sistema antecipa picos e redistribui capacidade antes que a sobrecarga provoque quedas.

A companhia afirma que esse modelo corta custos de nuvem entre 70% e 80%, ao reduzir a superalocação e evitar reruns de tarefas após falhas. Clientes corporativos como Adobe Inc. e Salesforce Inc. estão validando a solução inicialmente em modo somente leitura, nos ambientes mais críticos, para acompanhar sugestões de ajuste sem aplicá-las automaticamente e ganhar confiança antes da adoção plena.

Entenda o contexto

O Kubernetes virou padrão de fato para rodar aplicações em contêineres e sustentar projetos de IA em produção. Mas os mecanismos tradicionais de escalonamento — baseados em limiares fixos de uso de CPU e memória — foram pensados para microsserviços com comportamento mais previsível, não para agentes que alternam longos períodos de espera com rajadas de processamento intenso.

Para atender esses picos, times de operações costumam inflar a capacidade de forma preventiva, o que encarece a infraestrutura. Quando, mesmo assim, o dimensionamento fica abaixo da necessidade real, o resultado são falhas em cadeia, latência alta e perda de confiança em aplicações críticas.

Recursos ociosos viram combustível para outras cargas

Além do ajuste fino automático, a ScaleOps implementou mecanismos para reaproveitar recursos que ficariam parados. Quando um agente está ocioso, a plataforma libera sua CPU e memória para outras cargas de trabalho dentro do mesmo cluster, mantendo o ambiente mais “cheio” sem comprometer a disponibilidade.

A empresa também usa swap de memória de forma agressiva e controlada, fornecendo memória adicional apenas quando necessário. Segundo a ScaleOps, a combinação dessas técnicas torna a execução de agentes até 90% mais eficiente, sem exigir mudanças na plataforma Kubernetes subjacente.

A lógica é tratar a infraestrutura como um pool dinâmico e compartilhado, em que nenhuma reserva permanece estática por muito tempo. Em vez de dimensionar cada serviço para o pico teórico, o orquestrador aprende o comportamento real das cargas e faz o balanceamento em milissegundos.

Quais são os benefícios da orquestração autônoma para o Kubernetes no contexto de IA?

Para ambientes Kubernetes que concentram aplicações de IA, a orquestração autônoma promete três ganhos principais: redução expressiva de custos, menos falhas e uso mais racional da capacidade já contratada.

No bolso, a ScaleOps fala em corte de 70% a 80% nos gastos com nuvem ao calibrar dinamicamente CPU, memória e réplicas conforme os picos e vales dos agentes. Na confiabilidade, a expectativa é reduzir drasticamente as quedas hoje ligadas à falta de recursos, que ocorrem 80% mais frequentemente em agentes do que em microsserviços tradicionais, segundo dados internos da empresa.

Do ponto de vista operacional, equipes de SRE e plataformas deixam de ajustar limiares e regras manualmente e passam a atuar mais na supervisão do que na configuração diária. Shafrir resume essa virada: “We are now in a phase where humans and all the traditional scaling capabilities that existed in the past are pretty much irrelevant for today’s world because they’re too static and they require a human to go and configure them. When things are so dynamic, it no longer works the same way.”

Pressão sobre modelos tradicionais de operação

O avanço desse tipo de tecnologia tende a reposicionar o papel das equipes de operações e fornecedores que ainda dependem de scripts estáticos e regras fixas de escalonamento. Em ambientes dominados por agentes, esses modelos não conseguem acompanhar a complexidade e a variabilidade das cargas.

As primeiras reações do mercado, com grandes clientes corporativos testando a solução em cenários de alta exigência, indicam que a orquestração autônoma caminha para se tornar padrão de gestão de infraestrutura para agentes de IA. A expectativa é que os próximos passos incluam ampliação do uso em produção, integração com outros tipos de carga e uma corrida de concorrentes para oferecer recursos semelhantes em plataformas de nuvem e observabilidade.