Empresas precisam controlar criação de agentes de IA, diz CGO da Sensedia

É preciso pensar sobre os custos e as ameaças quando o assunto é a adoção de aplicações de inteligência artificial nas empresas. Isso porque estamos diante de um risco de segurança exponencialmente maior do que aquele enfrentado pelas APIs, no início de sua adoção. É o que pensa Marcílio Oliveira, cofundador e CGO da Sensedia. Para o executivo, as companhias devem se perguntar se estão preparadas para o mundo agêntico, para esse tipo de arquitetura e, consequentemente, para a adoção de LLMs e agentes de IA. “Não quero ser o cara que, na festa de 15 anos da filha, só pensa no boleto. Mas acho que precisamos pensar um pouco sobre isso: no meio da festa da IA, precisamos pensar nos custos e nos riscos que estão diretamente associados à adoção e maior uso das LLMs e dos agentes”, alerta o executivo, durante o Apix Stories Rio de Janeiro, realizado nesta terça-feira, 29. “E se você não sabe quantos agentes foram criados na sua empresa, você não deve criar o próximo”, afirmou. “A gente está diante de um risco de segurança exponencialmente maior, principalmente quando a gente fala de agentes autônomos”, completou. Oliveira explicou que é essencial que os executivos controlem a criação de agentes nas empresas. O controle e a governança são essenciais para o bom desenvolvimento dessas ferramentas. “A métrica ‘número de agentes’ é a KPI errada se quisermos saber sobre maturidade”, comentou. O cofundador da Sensedia lembrou que o mundo empresarial saiu de uma IA de copilot, ou seja, aquela que orienta o funcionário, para uma IA de automação, “com agentes autônomos, velocidade e escala jamais vista por qualquer outro consumidor de APIs, por exemplo. Se uma API exposta é um risco, um MCP é dez vezes mais arriscado porque agora, quem está consumindo ele tem capacidade de aprendizado e tentativa e erro jamais visto”, disse. Oliveira entende que a adoção é inevitável, mas é preciso haver uma preocupação com o FinOps de tokens, assim como ocorreu na adoção da nuvem. Sensedia indica Para isso, a Sensedia recomenda a criação de guardrails e padrões para proporcionar mais segurança e, assim, aprovar mais projetos. A empresa também aposta em sua arquitetura de Agent Enterprise, que ajuda a incorporar à arquitetura da empresa esses controles essenciais, além de valorizar o uso de mais de um LLM, gateways e o bom gerenciamento das APIs. “APIs descontroladas vão gerar dados inseguros e a empresa vai gerar contexto em cima dos MCPs, e eles terão problemas de segurança também. E, além disso, é preciso pensar em como garantir segurança, controle de orçamento e tráfego em cima dos MCPs. Acessar o dado é tranquilo. Hoje, o desafio está no contexto, em como organizar dados, e existem padrões de MCPs que fazem isso”, disse. Oliveira lembrou um caso do McDonald’s, nos Estados Unidos, que publicou um MCP para os usuários fazerem um pedido por meio de chat, mas acabou subvertendo seu uso. “Se você pedisse para ele mandar um código Python de como montar um cardápio, ele mandava. Isso é falta de contexto”, exemplificou, ao explicar como os prompts em MCPs podem se tornar maliciosos. Em conversa com esta publicação, Oliveira comentou também dois fatores que acabam atrapalhando a adoção de IA generativa nas empresas: o modelo de cobrança por tokens, “uma unidade abstrata” e a pressão por uma adoção radical da IA, num primeiro momento “custe o que custar”. Agora, porém, estamos em um período em que os projetos precisam ser viáveis. “As métricas de IA, de retorno sobre o investimento e eficiência, têm limitações. Ou seja, tem um teto, um limite, de economia e de eficiência, mas o que muda são os projetos relacionados a benefícios de negócio. E esses projetos precisam ser calibrados em relação ao custo. A falta de controle do custo está sendo assustadora. Percebeu-se que é muito difícil fazer uma estimativa de custo. O que a Sensedia tem percebido é que isso acabou gerando um gargalo na esteira de projeto das empresas porque faltam precisão ou segurança, visibilidade de quanto vai custar aquele projeto, por mais que os benefícios sejam claros”, explicou. Para ajudar seus clientes, a Sensedia orienta o uso de práticas estratégicas como: - o roteamento inteligente entre diferentes LLMs, já que cada uma tem um ponto forte; - o emprego de cache semântico, capaz de reduzir a necessidade de consultas repetidas às LLMs e, com isso, diminuir o consumo de processamento; - o monitoramento rigoroso para garantir previsibilidade e economia. Além disso, Oliveira reforça que uma infraestrutura tecnológica sólida, com dados organizados e APIs bem governadas, permanece indispensável para sustentar inovações com segurança e eficiência.