Mercados
S&P 5007.417▼ 1,92%Nasdaq24.510▼ 2,49%Dow Jones51.608▼ 1,41%Ibovespa169.295▼ 1,83%FTSE 10010.882▼ 0,19%DAX26.599▼ 0,57%Nikkei58.957▼ 1,18%DólarR$ 5,78▼ 0,03%EuroR$ 6,37▼ 0,06%BitcoinR$ 375.917▲ 0,22%Powered by WIREDESK OSS&P 5007.417▼ 1,92%Nasdaq24.510▼ 2,49%Dow Jones51.608▼ 1,41%Ibovespa169.295▼ 1,83%FTSE 10010.882▼ 0,19%DAX26.599▼ 0,57%Nikkei58.957▼ 1,18%DólarR$ 5,78▼ 0,03%EuroR$ 6,37▼ 0,06%BitcoinR$ 375.917▲ 0,22%Powered by WIREDESK OS
Powered by WIREDESK OS
AIDevOps

Uber cria framework para controlar segurança de agentes de IA

Uber apresenta framework de segurança em três camadas para governar agentes autônomos de IA do registro à auditoria, mirando riscos como injeção de comandos e desvios de objetivo.

Uber cria framework para controlar segurança de agentes de IA

Inteligência Artificial

Uber desenvolve sistema robusto para monitorar e garantir a segurança de agentes autônomos baseados em IA.

Leia também: Era dos semicondutores muda economia e tecnologia até 2030

A Uber Engineering passou a governar seus agentes autônomos de IA com um novo framework de segurança que acompanha todo o ciclo de vida desses sistemas — do registro inicial ao monitoramento pós-implantação — para decidir, em cada passo, se a ação proposta pela máquina é mesmo aceitável no contexto em que será executada.

Framework atua antes, durante e depois da implantação

O ponto de partida do modelo é a etapa de pré-implantação. Todo agente precisa ser registrado no Uber AI Registry, onde ganha uma identidade clara: quem é o responsável, qual é a persona que ele representa, quais intenções estão permitidas, que restrições se aplicam, de quais ferramentas depende e qual é sua classificação de risco. Esse cadastro é automatizado pelo sistema Argus, que vasculha código-fonte, prompts, configurações, dependências, endpoints expostos e caminhos de invocação em busca de fraquezas de segurança. A mesma lógica vale para servidores MCP e ferramentas usadas pelos agentes.

Na execução em tempo real, entra a segunda camada: a autorização comportamental. Em vez de apenas checar se um usuário ou serviço “tem permissão” para acessar um recurso, o framework avalia se a ação que o agente quer tomar faz sentido diante do pedido do usuário, do propósito daquele agente, de suas permissões e do contexto da interação.

Essa autorização comportamental se apoia em três peças: o próprio AI Registry, que concentra políticas, personas, intenções e restrições; os AI Guards, que analisam interações e ações propostas; e os Agent Guard runtime hooks, ganchos inseridos em pontos críticos da execução que chamam os AI Guards e só deixam a ação prosseguir se o veredito for favorável.

Depois que o agente entra em produção, a terceira camada assume: a de garantia contínua. Nessa fase, o foco está em observabilidade de ponta a ponta, trilhas de auditoria, explicabilidade das decisões de segurança e capacidade de “replay” das interações. Os registros unem chamadas de ferramentas, decisões de guardrails e ações dos agentes em um traço único de execução, que pode ser reexecutado quando políticas são ajustadas, para testar se os novos controles funcionariam melhor diante de situações já vividas.

Entenda o contexto

A Uber desenvolveu esse framework porque controles clássicos de identidade e autorização — pensados para usuários humanos e serviços bem delimitados — não dão conta de agentes de IA que raciocinam sobre dados externos e podem agir no mundo real. Esses agentes estão sujeitos a ameaças como injeção de comandos em prompts, envenenamento de ferramentas e memória, sequestro de objetivos, desvio de comportamento ao longo do tempo e ações disparadas por alucinações do modelo.

Ao amarrar cada agente a intenções explícitas, restrições claras e uma visão contínua do que ele faz em produção, a Uber busca reduzir a chance de que uma simples chamada de API se transforme em um comando perigoso, ou que um conteúdo malicioso desvie o sistema de seu objetivo original. O impacto é direto em áreas em que a empresa já opera com forte automação, como transporte, logística, atendimento ao cliente e operações internas, e interessa a empresas que lidam com agentes que podem tomar decisões e executar ações de forma relativamente autônoma.

Especialistas elogiam detalhamento, mas veem custo alto

A proposta vem sendo debatida em plataformas profissionais como o LinkedIn e em publicações técnicas voltadas para uma comunidade de mais de 250.000 desenvolvedores sêniores. Um dos pontos que mais chamam atenção é o grau de detalhamento exigido na definição de cada agente.

Para Tristan G., oficial sênior de tecnologia da ONU, o maior diferencial está justamente nesse nível de especificidade: “per-agent personas, intents, constraints and calibration is what adds the most value, they also come at a significant cost, as the effort scales with the number of workflows”. Em outra análise, ele destaca que, na prática, o controle mais forte foi restringir os agentes a limites explícitos: “The strongest control was restricting agents to explicit constraints, which is least privilege rather than a new idea. For me, the open question is how this works for agents you don’t build, such as vendor or SaaS agents where you can’t insert your own enforcement hooks.”

O arquiteto de IA Pratik Dhanave faz avaliação semelhante. Para ele, a lição mais eficaz do framework é a que, à primeira vista, parece menos glamourosa: “The lesson they call least glamorous is the one they rate most effective: explicit intents and constraints per agent. Not generic thresholds, which failed because every agent has a different purpose and risk profile. The cost is flexibility, and they say it is worth paying.”

Na prática, isso significa que a Uber abre mão de modelos de proteção genéricos em favor de políticas sob medida, mais trabalhosas de definir, mas alinhadas ao propósito e ao risco de cada agente específico.

Desafio é escalar modelo e lidar com agentes externos

Se o framework ajuda a reduzir riscos de segurança, ele também traz novos desafios. Um deles é a complexidade de criar, manter e calibrar políticas próprias para cada agente, em vez de aplicar um conjunto único de regras para todo o parque de IA. Em ambientes com dezenas ou centenas de workflows, o esforço tende a crescer rápido, tanto em carga de trabalho para times de desenvolvimento quanto em necessidade de ferramentas de governança mais maduras.

Outro ponto sensível é a aplicabilidade da abordagem fora do ambiente controlado da própria Uber. Como lembra Tristan G., o modelo se apoia em hooks de execução e componentes internos, o que funciona bem para agentes desenvolvidos “em casa”, mas é difícil de replicar em agentes externos, oferecidos por fornecedores ou serviços SaaS, onde não há como inserir mecanismos próprios de fiscalização e bloqueio.

Há ainda o equilíbrio fino entre rigidez e usabilidade. Políticas muito duras podem gerar excesso de falsos positivos, interromper fluxos legítimos e aumentar a frustração de times de produto. Controles frouxos demais, por outro lado, deixam passar comportamentos perigosos. A Uber também precisa administrar a latência introduzida por cada checagem adicional em tempo de execução e reduzir o atrito para desenvolvedores que configuram e integram o framework em novos projetos.

Segundo a empresa, o framework está em evolução contínua. A prioridade agora é ampliar capacidades de análise, monitoramento e atualização de políticas, além de reduzir o esforço de configuração sem abrir mão da proteção. A expectativa no setor é que a abordagem sirva de referência para outras companhias que experimentam agentes autônomos, ajudando a pautar tanto boas práticas técnicas quanto futuras discussões regulatórias sobre uso seguro de IA em larga escala.