OpenAI escala PostgreSQL para 800 milhões de usuários com um único writer (e sem sharding)

Sempre que surge um artigo sobre a infraestrutura de uma grande empresa, metade dos comentários no Hacker News são variações de “claro, eles usam Kubernetes com 47 microsserviços e um banco de dados distribuído com protocolo de consenso próprio”. Mas quando não, quando descobrem que usam PostgreSQL simples com um único primary e disciplina, o silêncio se torna constrangedor. Foi justamente o que aconteceu com a OpenAI. Os números que ninguém esperava Bohan Zhang, engenheiro de infraestrutura da OpenAI, publicou os detalhes de como eles escalam PostgreSQL para o ChatGPT. Os números: ...

11 de março de 2026 · Fernando

Por que 99% do que você envia para o Claude já está em cache

Estou construindo um app que monitora meu consumo de tokens no Claude Code. Alguns dias atrás, olhando os números brutos, me deparei com isso: cacheReadInputTokens: 4.241.579.174 inputTokens: 1.293.019 Quatro bilhões e duzentos milhões de tokens lidos do cache. Um milhão e trezentos mil tokens “frescos”. Isso é um 99,97% de cache hit. Minha primeira reação foi pensar que algo estava quebrado. Ninguém tem 99% de cache. Nem Redis. Nem Cloudflare. Nem sua mãe quando ela diz que já sabe o que você vai pedir para comer. ...

19 de fevereiro de 2026 · Fernando