AWS lança TorchNeuron para desafiar Nvidia e atrair startups IA
AWS apresenta TorchNeuron, ferramenta que leva aplicativos em PyTorch para o chip Trainium com uma linha de configuração, reduzindo custos e a dependência do hardware da Nvidia.
Tecnologia
Nova ferramenta da AWS facilita uso do chip Trainium, reduzindo custos e a dependência da Nvidia para startups de IA.
Leia também: TorchNeuron leva AWS Trainium nativo ao PyTorch
A Amazon Web Services (AWS) lançou nesta segunda-feira (19) o TorchNeuron, ferramenta que permite rodar aplicativos de inteligência artificial escritos em PyTorch diretamente no chip Trainium com apenas uma linha de configuração, num movimento para reduzir a dependência do hardware da Nvidia e atrair startups de IA para a sua nuvem.
Ferramenta liga PyTorch ao Trainium com mínimo ajuste
O TorchNeuron é baseado no próprio PyTorch, framework open source usado para construir, treinar e executar modelos de IA. Segundo a AWS, cerca de 85% dos aplicativos de IA hoje são escritos em PyTorch, o que torna a compatibilidade direta com o Trainium um atalho importante para adoção do chip.
Em vez de reescrever código, desenvolvedores passam a adaptar apenas uma configuração para executar seus modelos no Trainium. Na prática, isso reduz a barreira para que startups testem e migrem workloads que hoje rodam, em grande parte, em GPUs Nvidia apoiadas no ecossistema CUDA.
“Você está construindo na AWS. Você não está apostando em um provedor de computação de uso único e correndo para construir todo o resto em torno dele”, afirmou Colin Brace, VP de Tecnologia Software da AWS Annapurna Labs, unidade que desenvolve os chips customizados da empresa.
Entenda o contexto
A Nvidia consolidou sua posição no mercado de hardware para IA ao integrar profundamente seu software CUDA ao PyTorch, o que transformou suas GPUs em padrão de fato entre desenvolvedores. Grande parte das nuvens especializadas em IA também nasceu em torno dessa combinação.
Com o TorchNeuron, a AWS tenta quebrar esse ciclo, oferecendo um caminho direto para rodar PyTorch em seu próprio chip, dentro da infraestrutura da nuvem da empresa. Outras fabricantes de hardware, como AMD e Apple, também vêm oferecendo rotas de portabilidade via configurações em PyTorch, mas a AWS aposta na combinação de chip proprietário e integração com sua plataforma global de nuvem.
Qual é a estratégia da AWS com o TorchNeuron?
O objetivo central é oferecer às startups uma alternativa integrada de hardware e nuvem que concorra com o domínio da Nvidia, prometendo melhor relação entre custo e desempenho e redução de dependência de um único fornecedor.
Brace destaca que o Trainium foi desenhado para ser uma única plataforma tanto para treinamento quanto para inferência de modelos de IA, o que, segundo ele, melhora a economia do processamento como um todo. “Trainium’s value is price-performance plus the fact that it’s one platform for both training and inference, which improves the economics across a full workload”, disse.
A leitura da AWS é que, mesmo que o preço por token isolado não seja o mais baixo do mercado, a combinação de chip próprio, integração com serviços da nuvem e facilidade de escalar do protótipo à produção traz vantagens para fundadores que precisam crescer rápido sem montar infraestrutura paralela.
Deepgram vira vitrine de desempenho
Como vitrine da nova estratégia, a AWS aponta a Deepgram, provedora de aplicativos de voz em IA. Após migrar seus workloads de áudio para o Trainium usando PyTorch nativo com suporte da AWS, a empresa passou a processar 70% mais áudio por dólar, mantendo a precisão exigida em produção.
“Look at Deepgram — they moved to Trainium using native PyTorch, support and they’re processing 70% more audio per dollar at production-grade accuracy”, afirmou Brace. O ganho é particularmente relevante em segmentos intensivos em processamento, como reconhecimento de voz, visão computacional e grandes modelos de linguagem.
Aposta em PyTorch mais neutro em relação ao hardware
O movimento da AWS não se limita ao TorchNeuron. A empresa afirma que está contribuindo com mudanças diretamente no código-fonte do PyTorch para remover trechos que amarram o framework a chips específicos, com o objetivo de torná-lo mais agnóstico em relação ao hardware.
A proposta é que desenvolvedores possam trocar com mais liberdade entre diferentes fornecedores de chips e nuvem, inclusive concorrentes da própria Amazon, sem ficar presos ao ecossistema da Nvidia. “The real story is removing the lock-in that kept developers from having a real choice at all”, resumiu Brace.
Se essa estratégia avançar, o impacto pode ir além da disputa por chips: a própria base de desenvolvedores e o ecossistema de software para IA tendem a ficar mais fragmentados e competitivos, abrindo espaço para novos players em hardware e serviços.
Desafios e próximos passos
Para a Nvidia, a ofensiva pesa justamente em um de seus principais diferenciais: a integração entre CUDA, PyTorch e suas GPUs. A empresa não se manifestou até o momento sobre o lançamento do TorchNeuron, mas a pressão por inovação e por um ecossistema mais aberto tende a crescer.
Para a AWS, o desafio será transformar o interesse inicial em adoção em escala, especialmente entre startups que hoje rodam grande parte de seus modelos em infraestrutura Nvidia e podem relutar em mexer em ambientes já estáveis. A promessa de migração com mínima alteração de código reduz esse atrito, mas não elimina a necessidade de testes, ajustes de configuração e monitoramento de desempenho.
Nos próximos meses, a expectativa é de ampliação do número de cases como o da Deepgram e de novas contribuições ao PyTorch para ampliar a compatibilidade com diferentes hardwares. Se a aposta vingar, o mercado de hardware para IA pode ficar menos concentrado, com mais opções de preço, desempenho e fornecedores para os desenvolvedores.
Fonte: matéria original
