Opinião

Multiplicar é difícil. Somar é fácil. Todo mundo aprende isso na escola. O que quase ninguém sabe é que os logaritmos existem precisamente para explorar essa assimetria: eles transformam uma multiplicação em uma soma, processam o problema no mundo fácil e depois desfazem a transformação. O resultado é correto. O esforço, muito menor. Esse padrão — transformar o problema para um espaço onde resolvê-lo seja trivial, resolver e voltar ao original — é um dos mais poderosos em toda a engenharia. A transformada FFT faz isso com sinais. Os logaritmos fazem isso com produtos. Agora, o Google acaba de publicar um artigo mostrando como fazer isso com a compressão de modelos de linguagem. ...

Imagine que você pede a alguém para construir uma estante. A pessoa entrega algo bonito, com prateleiras, parafusos, tudo no lugar. Você encosta na parede e ela desaba. Os parafusos são cenográficos. Parecem parafusos, mas são de plástico. É isso que um LLM faz quando abusa do sistema de tipos. Ele te entrega código que compila, passa os testes, e parece correto. Porém, por dentro, onde deveriam haver tipos com significado, há strings. Onde deveria haver um estado explícito, há um nil que pode ter três significados diferentes, dependendo de quem lê. E onde deveria haver um enum com dois casos, há um == "claude" que alguém eventualmente escreverá errado, sem ninguém perceber até chegar em produção. ...

Você já escreveu um plano técnico às onze da noite, convencido de que estava impecável, e então descobriu pela manhã que esqueceu da autenticação? Eu já passei por isso. Mais de uma vez. E o pior não é o fato de esquecer — é que, quando você usa uma IA para planejar, o plano parece tão coerente que seu cérebro para de procurar falhas. Claude gera um documento com seções, dependências, ordem de execução, e tudo se encaixa. Parece um plano feito por um engenheiro sênior. Mas ninguém o contestou. ...

Publiquei seis artigos esta semana. Um sobre PostgreSQL. Outro sobre agentes de IA. Outro sobre gestão de contexto. Um tutorial de automação. Uma análise de debugging. E um design de conselho adversarial para avaliar MVPs. Não foi algo planejado. Cada artigo surgiu a partir de um paper, uma palestra ou um projeto que achei interessante de forma isolada. Mas, ao vê-los juntos, há um fio condutor que eu não tinha percebido enquanto escrevia. ...

Imagine que você contrata um consultor brilhante. Tem dois doutorados, fala sete idiomas, e resolve problemas que você nem sabia que tinha. Você o senta numa sala e diz: “preciso que você refatore a autenticação do projeto”. O consultor te olha, concorda, e pergunta: “Que projeto?” Você não deu acesso ao código. Não explicou a arquitetura. Ele não sabe se vocês usam tokens JWT ou cookies de sessão. Não sabe que linguagem vocês usam, nem quantos microsserviços há, nem por que a última tentativa de migração acabou em desastre. ...

Em novembro de 2024, um projeto chamado Freysa colocou um agente LLM para proteger uma wallet Ethereum. A instrução era clara: não transfira os fundos sob nenhuma circunstância. Os participantes pagavam valores cada vez mais altos a cada tentativa de convencê-lo. Após 481 tentativas e US$47.000 acumulados no prêmio, alguém conseguiu convencer o modelo de que a função rejeitar era, na verdade, a função transferir. Algumas semanas depois, a Jane Street publicou um enigma onde uma rede neural de 2.500 camadas revelou-se uma implementação do MD5. O vencedor resolveu isso combinando visualização de matrizes, redução para SAT, reconhecimento de padrões criptográficos e uma consulta ao ChatGPT. ...

Sempre que surge um artigo sobre a infraestrutura de uma grande empresa, metade dos comentários no Hacker News são variações de “claro, eles usam Kubernetes com 47 microsserviços e um banco de dados distribuído com protocolo de consenso próprio”. Mas quando não, quando descobrem que usam PostgreSQL simples com um único primary e disciplina, o silêncio se torna constrangedor. Foi justamente o que aconteceu com a OpenAI. Os números que ninguém esperava Bohan Zhang, engenheiro de infraestrutura da OpenAI, publicou os detalhes de como eles escalam PostgreSQL para o ChatGPT. Os números: ...

A primeira vez que usei o Claude Code para refatorar um módulo inteiro, tive uma experiência quase mística. Descrevi o que queria, fui buscar um café, e quando voltei tinha um pull request com 14 arquivos alterados, testes atualizados e uma mensagem de commit decente. “Isso é mágica”, pensei. Não é mágica. É um while loop. Michael Bolin, da OpenAI, publicou recentemente um artigo onde desvenda o funcionamento interno do Codex CLI. E acontece que o segredo por trás dos AI coding agents não é um algoritmo revolucionário nem uma rede neural misteriosa. É um loop que chama um LLM, executa ferramentas, e repete até não sobrar nada para fazer. ...

A Jane Street, uma das firmas de trading quantitativo mais seletivas do mundo, publicou algumas semanas atrás um desafio de interpretabilidade mecanística. Eles projetaram manualmente uma rede neural com aproximadamente 2.500 camadas lineares, pesos inteiros, e a lançaram para o público com uma pergunta: qual função esta rede está computando? A resposta: MD5. Um algoritmo de hash criptográfico de 1992, implementado inteiramente como multiplicações de matrizes e funções ReLU. O interessante não é a resposta. É o caminho que o vencedor seguiu para chegar até ela. Porque esse caminho é, sem exageros, um manual de debugging de sistemas opacos que se aplica muito além do aprendizado de máquina. ...

Algumas semanas atrás, publiquei um artigo explicando por que 99% do que você envia para o Claude já está em cache. Tensores KV, VRAM, SSDs locais — toda a maquinaria interna. Mas deixei de fora a parte que mais dói: a conta. Porque o prompt caching é uma daquelas coisas que parecem um baita negócio até você olhar de perto os números. E então percebe que está pagando para economizar. O paradoxo do custo Vamos aos números. Com Claude Sonnet: ...