Les collisions adversariales qui ont brisé le système CSAM d'Apple (et pourquoi elles importent au-delà d'Apple)
Ce billet est la suite technique de “64 bits déterminent ce que vous pouvez téléverser sur Internet”. Si vous ne l’avez pas encore lu, commencez par là. Ici, nous supposons que vous comprenez ce qu’est un hachage perceptuel et pourquoi PhotoDNA, PDQ et NeuralHash sont des proches cousins. Le 5 août 2021, Apple a annoncé NeuralHash. Le 18 août — treize jours plus tard — un chercheur sous pseudonyme Asuhariet Ygvar a publié sur GitHub une ingénierie inverse complète du modèle extrait des binaires iOS. Quelques jours après, deux chercheurs indépendants — Brad Dwyer et d’autres — ont publié des collisions : deux images visuellement distinctes produisant un même hachage. Le système qu’Apple promettait avec un taux de faux positifs de “un sur un milliard de comptes par an” s’est avéré attaquable avec du matériel grand public. ...