Por que a IA erra contas simples (e como se proteger)

Um gerente comercial que conheço colou a tabela de vendas do trimestre no ChatGPT e pediu o total por vendedor com a variação percentual. A resposta veio linda: tabela formatada, análise por pessoa, até uma recomendação no final. Ele apresentou na reunião de segunda. Na terça, o financeiro apontou que dois totais estavam errados e uma variação percentual estava fora por uns oito pontos. Nada absurdo a ponto de gritar. Errado o suficiente pra queimar o filme dele.

A pergunta que ele me fez é a que você provavelmente tem: como uma tecnologia que escreve pareceres e passa em prova de medicina tropeça numa soma de coluna? A resposta direta: porque um modelo de linguagem gera texto prevendo a próxima palavra provável, e uma conta é apenas texto pra ele. Quando você pergunta quanto é 7 x 8, ele responde 56 porque viu essa combinação de texto milhares de vezes no treinamento, e ela ficou gravada como padrão. Ele recupera o padrão da conta em vez de calcular ela.

Pra contas famosas, o padrão existe e a resposta sai certa. Pra sua planilha específica, com seus números específicos que nunca apareceram juntos na história da internet, o modelo faz o que sempre faz: gera a resposta que parece certa. Uma soma plausível, com cara de soma, formatada como soma. E “plausível” em matemática é sinônimo de errado.

Por que ele acerta o difícil e erra o fácil?

Essa é a parte que confunde todo mundo. A mesma ferramenta que explica cálculo integral erra a soma da sua tabela de despesas. Parece contraditório, mas segue a lógica do treinamento à risca: explicar cálculo integral é tarefa de linguagem, e existem milhares de explicações excelentes gravadas nos padrões do modelo. Somar os SEUS números é tarefa de aritmética inédita, sem padrão pronto pra recuperar.

É como aquele seu amigo que fala de economia com brilhantismo num churrasco, cita autor, contextualiza a taxa de juros, mas na hora de rachar a conta do churrasco de cabeça, com 9 pessoas e duas cervejas de diferença, erra o troco. Discurso e aritmética são habilidades separadas, em gente e em máquina. No modelo de linguagem, uma delas simplesmente veio de fábrica muito melhor que a outra, e saber qual muda seu jeito de usar a ferramenta.

Tem ainda um agravante técnico: o modelo enxerga texto em pedaços chamados tokens, e números longos são fatiados de formas imprevisíveis. O 1.234.567 pode virar dois ou três fragmentos. Fazer aritmética sobre fragmentos de dígitos é operar de luva de boxe. Expliquei essa mecânica no artigo sobre o que é token.

Isso é o mesmo problema da alucinação?

É primo-irmão. Nos dois casos, o modelo gera a resposta mais plausível quando a correta está fora do alcance, e entrega com a mesma confiança de sempre. A diferença é o disfarce: a alucinação inventa fatos e citações; o erro de conta inventa aritmética. O número errado é mais traiçoeiro por um motivo cruel: número parece objetivo. Um parágrafo suspeito desperta seu ceticismo; uma tabela formatada com totais desliga ele.

Minha regra desde os tempos de Movestax, quando usei IA pra construir produto de verdade: número gerado por modelo de linguagem é rascunho de número até segunda ordem. Sem exceção pra apresentação de segunda-feira.

Quais erros mais enganam na prática?

Depois de anos revisando trabalho feito com IA, meu ranking dos erros numéricos mais traiçoeiros tem três campeões.

Porcentagem lidera com folga. Variação percentual, margem sobre custo versus margem sobre venda, aumento composto: são contas de duas etapas, e previsão de texto tropeça na segunda etapa. O resultado costuma vir próximo do certo, e próximo é o pior cenário, porque passa na sua leitura dinâmica.

Datas vêm em segundo. Quantos dias entre 15 de março e 28 de julho, que dia da semana cai tal data, quantos meses de contrato faltam. O modelo responde na hora, com convicção, e erra com frequência incômoda, porque calendário é aritmética disfarçada de texto.

Médias fecham o pódio, principalmente as ponderadas. Pedir “o ticket médio dos três produtos” quando os volumes são diferentes é convite pra receber a média simples, que é a conta errada com aparência de certa.

O padrão dos três: são contas de aparência inofensiva, curtas demais pra despertar desconfiança. Ninguém confere “uma continha de porcentagem”. É exatamente por isso que elas passam.

Se ela erra conta, como tanta gente usa IA pra análise de dados?

Porque existe um jeito certo, e ele muda tudo: fazer a IA escrever código pra calcular, em vez de “calcular” com previsão de texto. Quando você usa o recurso de análise de dados do ChatGPT ou similar, anexando o arquivo em vez de colar os números soltos, o modelo escreve um pequeno programa, o programa faz a conta, e o computador executando código não erra aritmética. O modelo entra com o que faz bem, entender seu pedido e estruturar a análise, e delega o cálculo pra quem nunca erra.

A distinção pra você memorizar: IA prevendo texto erra conta; IA escrevendo código que calcula acerta. Boa parte das ferramentas atuais faz essa troca automaticamente em tarefas claramente matemáticas, mas o comportamento varia, e confiar na sorte é péssima estratégia. Peça explicitamente: “use código pra calcular” ou “faça essa análise executando as contas, e me mostre como calculou”. Pra planilhas, montei um guia completo em IA pra análise de dados.

Como se proteger sem abrir mão da ferramenta

Três hábitos, todos baratos. Uma: conta importante entra por arquivo, com pedido explícito de cálculo por código, em vez de números colados no meio da conversa. Dois: confira uma amostra sempre. Você não precisa refazer as 50 linhas; refaça duas na calculadora. Se as duas batem, a estrutura provavelmente está certa; se uma falha, descarte tudo. Três minutos que salvam reuniões, e reputações, que custam bem mais caro que reuniões. Três: nunca apresente um número que você não consegue explicar como foi calculado. Se a IA não mostrou o caminho da conta, pergunte. A responsabilidade pelo número que sai com seu nome segue sendo sua, e essa parte nenhum modelo assume por você.

Faça isso agora

Teste de dez minutos pra ver o fenômeno com os próprios olhos. Abra o ChatGPT e cole umas 15 linhas de números inventados, tipo uma lista de despesas com valores quebrados: 1.247,83, 892,17, por aí. Peça o total direto na conversa. Depois, na mesma conversa, peça: “agora refaça esse cálculo usando código e compare com sua resposta anterior”.

Com alguma frequência, os dois resultados vão divergir, e a própria IA vai reconhecer o erro da primeira versão. Quando você presencia isso uma vez, o hábito de pedir cálculo por código se instala sozinho. É a vacina mais barata que conheço contra número errado em relatório, e teria poupado o gerente da abertura deste artigo de uma terça-feira bem desagradável no financeiro.

Saber onde a IA tropeça vale tanto quanto saber onde ela brilha, e o método completo pra usar as duas informações no seu dia a dia está no IA sem Enrolação. É o material que eu gostaria de ter entregado pro gerente da história antes daquela reunião de segunda. Está em ia.thiagocaserta.com/comprar.