5 defesas contra alucinações de código (e por que apenas 3 funcionam)

Na semana passada contei como minha IA inventou uma estrutura JSON completa e a envolveu em DTOs, fixtures e testes que passaram. 90 testes no verde. Tudo mentira. Esse post foi o diagnóstico. Este é o tratamento. Depois de descobrir o desastre, fiz o que faz qualquer engenheiro com orgulho ferido: investigar obsessivamente durante dias para que não volte a acontecer. Li papers, testei ferramentas, analisei dados reais das minhas APIs, e construí um sistema de defesas para minha app. ...

16 de fevereiro de 2026 · Fernando

Silent failure: quando sua IA inventa e os testes dizem que tudo está bem

Ontem descobri que metade de um módulo da minha app estava baseado em dados inventados. Não por um júnior distraído. Pela minha IA. O pior não é que inventou. O pior é que tudo compilava e os 90 testes passavam. A ficção coerente Estou construindo BFClaude-9000, um app de barra de menu para macOS que monitora a cota do Claude Max. Parte da funcionalidade requer distinguir se uma conta do Claude é paga ou gratuita, chamando a API de claude.ai. ...

13 de fevereiro de 2026 · Fernando