As colisões adversárias que quebraram o sistema CSAM da Apple (e por que importam além da Apple)
Este post é a continuação técnica de “64 bits decidem o que você pode subir na internet”. Se você não leu esse post, leia primeiro. Aqui assumimos que você entende o que é um hash perceptual e por que PhotoDNA, PDQ e NeuralHash são parentes próximos. No dia 5 de agosto de 2021, a Apple anunciou o NeuralHash. No dia 18 de agosto —treze dias depois—, um pesquisador sob o pseudônimo Asuhariet Ygvar publicou no GitHub a engenharia reversa completa do modelo extraído de binários do iOS. Poucos dias depois, dois pesquisadores independentes —Brad Dwyer e outros— publicaram colisões: duas imagens visualmente distintas com o mesmo hash. O sistema que a Apple prometia com uma taxa de falsos positivos de “um por trilhão de contas por ano” provou ser vulnerável usando hardware comum. ...