Os erros de IA que custam caro não parecem erro
Quando se fala em erro de IA, todo mundo pensa em invenção: o modelo cita um livro que não existe, um número que ninguém publicou. Esse erro é chato, mas é o mais barato de todos — ele parece errado. Você lê, estranha, confere.
Os que custam caro são os outros. Esta semana construí uma ferramenta pequena — ela lê o que algumas comunidades estão discutindo e me diz sobre qual assunto vale escrever. Umas duzentas linhas, escritas junto com um assistente de IA, que é como eu trabalho hoje: eu digo o que quero, ele escreve, eu confiro. Ela funcionou de primeira, cuspiu um ranking bonito, e estava errada de três jeitos diferentes. Nenhum dos três se parecia com erro.
Não conto isso como ressalva. Conto porque é a parte que explica o resto: em todos os três, o que falhou não foi a escrita do código — foi o que eu disse que queria.
O primeiro: ela mediu o que era fácil medir
O ranking ordenava assuntos por "sinal": quantas vezes aquele assunto apareceu, ponderado pelo alcance de onde apareceu. O assunto no topo tinha doze sinais. Parecia sólido.
Doze sinais eram seis conversas, e metade da força vinha de uma — uma discussão antiga com oitenta mil visualizações, da qual a ferramenta tinha pescado três trechos diferentes. Cada trecho entrou contando oitenta mil. O ranking não media assunto repetido; media uma conversa grande se disfarçando de seis.
O detalhe importante: eu tinha escrito, no documento que define o critério, que o que importa é a repetição entre conversas. A ferramenta fazia o contrário do que eu havia especificado — e o resultado não denunciava isso, porque um número plausível saiu.
O segundo: ela apagou o rastro
Consertar a contagem deveria custar dois minutos: mudar como os números são somados. Custou onze, porque a ferramenta somava enquanto ia chamando o modelo, sem guardar as respostas. Para mudar a soma, tudo tinha que ser perguntado de novo.
É uma decisão de estrutura que parece detalhe quando se escreve, e vira pedágio toda vez que se muda de ideia. E com IA você muda de ideia o tempo todo — é o modo de trabalho, não uma falha de planejamento. Guardar a resposta crua e calcular depois custa três linhas na hora certa.
O terceiro: ela classificou por palavra, não por conceito
Uma das categorias era "o fluxo de trabalho que a IA encurta". Entraram atalhos de teclado, expansores de texto, automações de e-mail — coisas boas, todas sem nenhuma IA envolvida. A categoria dizia "fluxo de trabalho", e o modelo casou com a palavra.
Não foi burrice do modelo. Foi definição frouxa minha: eu descrevi a categoria pelo que ela parecia, não pelo que ela exigia. A correção foi uma frase — estes temas exigem que a IA esteja no item, explicitamente — e o vazamento parou.
O que os três têm em comum
Nenhum é alucinação. Todos são erros de especificação que produzem um resultado plausível.
É por isso que revisar o texto que sai não pega esse tipo de coisa. O texto está bem escrito, o número tem a cara certa, o código roda. O erro está entre o que você quis dizer e o que você disse — e o modelo executou fielmente a segunda coisa.
O que passei a fazer, e é pouco
Conferir a primeira saída contra o critério escrito, não contra a impressão. Eu tinha o critério em texto. Bastou ler os dois lado a lado para o erro aparecer em trinta segundos. Não li, porque o resultado parecia bom — e é exatamente aí que mora o problema.
Separar quem pergunta de quem conclui. Quem chama o modelo grava a resposta crua e para por aí. Quem calcula lê o arquivo. Com os dois juntos, cada mudança de critério paga a conta inteira de novo.
Definir categoria pelo que ela exige, não pelo que ela parece. Se a definição não diz o que obriga, o modelo casa com a palavra mais próxima. E vai fazer isso de novo amanhã.
Onde isso não funciona
Nada disso pega erro de julgamento. Se o critério estiver errado no papel, conferir a saída contra ele confirma o erro com mais confiança — e essa é a falha mais cara das três, porque agora tem processo por trás.
E há um custo real: guardar tudo cru e conferir a primeira saída deixa o trabalho mais lento no começo. Vale quando o resultado vai decidir alguma coisa. Para um script que se joga fora no dia seguinte, é cerimônia.
O que não mudou
Nenhum desses três erros me fez construir menos com IA. A ferramenta ficou pronta numa tarde — sem ela seriam dias. O que mudou foi onde eu olho: não é a saída que engana, é a especificação que eu não reli.