Na era da inteligência artificial (IA), os tokens são os reis — a unidade de cobrança que move todo modelo de linguagem, e também a métrica que mais assusta departamentos financeiros ao redor do mundo, sem que ninguém consiga explicar direito por que o gasto sobe tão rápido. Para Manisha Khanna, head de marketing de produto para IA da SAS, essa relação entre empresa e token tem um paralelo bem mais simples do que parece.
Para ela, o gasto crescente com tokens não é, em si, o problema — é apenas o sintoma mais visível de uma falha estrutural muito maior na forma como as empresas implementam IA.
“É como dar um brinquedo divertido para uma criança. Eu mesma uso muitos tokens só porque gosto dos resultados que vejo da tecnologia — não necessariamente porque vou usá-los no meu próprio ambiente de trabalho”, diz Khanna, em entrevista exclusiva à EXAME. “Mas isso se torna perigoso quando você aplica isso a um ambiente corporativo: pense em grandes empresas reguladas e com governança. Se elas estão vivendo esse excesso de tokens, é porque estão fazendo muita experimentação.”
Segundo Khanna, um dos erros mais comuns é usar modelos de linguagem para tarefas que exigiriam sistemas determinísticos — ou seja, sistemas com resultado previsível e replicável, ao contrário da natureza probabilística dos grandes modelos de IA.
“Vejo muitos clientes tentando usar modelos de linguagem grandes para fazer análises que exigiriam sistemas determinísticos, quando poderiam rodar essas análises como faziam antes, com previsibilidade de custo”, afirma. “Estamos tentando usar a tecnologia certa nos lugares errados, esquecendo que as arquiteturas ainda não estão bem definidas — não é uma ferramenta que você aplica como um martelo em tudo.”
Para ela, essa confusão explica boa parte da imprevisibilidade que hoje assombra times financeiros e de tecnologia dentro das empresas. “O custo de implementações de agentes é muito imprevisível hoje. Se eu me colocasse no lugar de um CFO ou CIO, veria uma situação bem difícil na hora de mapear esse cenário”, diz.
Khanna aponta ainda um segundo problema, tão relevante quanto o custo: a falta de confiança nos próprios resultados que a IA entrega.
Segundo ela, um estudo recente mostrou que profissionais tendem a ignorar ou sobrepor decisões de sistemas de IA já em produção — mesmo quando o objetivo declarado da empresa é justamente dar mais autonomia a esses sistemas.
“Imagine um analista de fraude que recebe um resultado da IA dizendo que determinado caso é fraudulento, com 80% ou 90% de confiança — na maioria das vezes, ele vai contrariar essa decisão”, diz. “De um lado, falamos de autonomia altíssima; do outro, os humanos não conseguem confiar e criam esse reflexo de sempre sobrepor os resultados da IA.”
A red flag do corporativo
Para Khanna, a forma como uma empresa formula a primeira pergunta sobre um projeto de IA já revela se ele tende a fracassar.
Segundo ela, quando o board pergunta “quanto vamos economizar com a tecnologia” logo de início, isso costuma sinalizar problema.
“Sempre é um sinal de alerta, porque eu tenho dificuldade quando a conversa é só sobre economia de custo. Já estive em situações em que tentei reorientar essa conversa, porque às vezes as pessoas relacionam isso diretamente a corte de quadro de funcionários”, diz. “Isso poderia significar várias coisas — poderia significar que estou aumentando a rentabilidade, beneficiando a empresa de forma mais ampla. Mas essa conversa de ‘economia’ sempre é, sim, um sinal de alerta para mim.”
Para Khanna, o erro não está em buscar eficiência, mas em tratar cortes de pessoal como o objetivo principal de qualquer projeto de IA.
“Não acredito que tecnologias como IA agêntica devam ser usadas para reduzir o quadro de funcionários. Humanos sempre serão importantes”, afirma.
Segundo ela, mesmo com a autonomia crescente dos sistemas de IA, ainda existe — e deve continuar existindo — um “humano no processo” para verificar os resultados entregues pela tecnologia, especialmente em setores altamente regulados, onde decisões automatizadas afetam milhões de pessoas.
“Pode ser que, com o tempo, essas regras mudem e pareçam diferentes. Mas se estamos falando de ‘economia’ versus ‘realocação’, isso definitivamente é um sinal de alerta para mim. E eu sempre questiono quando vejo isso acontecendo”, diz.
Governança como parte do sistema, não uma etapa posterior
Khanna também chama a atenção para uma mudança em curso na forma como empresas pensam em governança de IA.
Segundo ela, o modelo tradicional — pensado para sistemas de IA mais previsíveis e centralizados — já não dá conta da realidade atual, em que qualquer funcionário pode criar seu próprio caso de uso de IA dentro da empresa, gerando o que ela chama de “dispersão” (sprawl).
“Se alguém em nível de C-level for chamado por um regulador hoje e perguntado onde estão as implementações de IA na empresa, muitos clientes têm dificuldade de responder”, diz.
Para ela, a solução passa por incorporar a governança diretamente dentro das próprias plataformas de IA usadas pelas empresas, em vez de tratá-la como uma camada externa de controle.
“Essa é a situação intrigante em que estamos: com tanto envolvimento, 40% dos projetos sendo cancelados, porque as pessoas não estão vendo valor, não estão vendo o retorno”, diz.
Segundo ela, esse dado não é motivo para desistir da tecnologia, mas um alerta sobre a forma como ela vem sendo adotada. “Existe algo fundamentalmente errado, que eu adoraria que mais gente apontasse, para que as pessoas tenham a clareza que precisam e possam tomar as decisões e os investimentos certos”, afirma.
Khanna afirma que o problema nunca foi a tecnologia em si — foi a pressa em implementá-la sem responder às perguntas mais básicas: por que essa IA está sendo usada, para quem ela gera valor, e quem, dentro da empresa, continua responsável pelo resultado final.
Fonte: Exame