Sécurité

La semaine dernière, lors de l’audit des tokens API de mon compte Cloudflare, j’ai découvert un token que je n’avais jamais créé : “Cloudflare Agent Token - 2026-04-28”, généré par l’assistant IA du tableau de bord Cloudflare (“Ask AI”). Le tooltip fourni par Cloudflare explique que ce token existe pour permettre à l’IA de “comprendre votre environnement et agir en votre nom”. En réalité, voici les accès qu’il octroie, selon la page de résumé du token : accès en lecture sur tous les comptes, toutes les zones et tous les utilisateurs — soit plus de 160 permissions. Tous se terminent par :Read : il ne peut rien modifier. Mais “lecture seule” paraît réducteur. La liste inclut Secrets Store:Read, Access: Keys:Read, Access: Service Tokens:Read, Zero Trust: PII:Read, Logs:Read, Account Audit Logs:Read, Billing:Read, API Tokens:Read, ainsi que l’ensemble de la configuration DNS, Access, et les fournisseurs d’identité que vous utilisez. ...

“J’ai un shell et je suis créatif.” — Claude, expliquant pourquoi il a créé un script de 47 lignes sous forme de chaîne et l’a transmis à python -c Cette phrase est réelle. Elle vient de mon agent IA — pas avec ces mots précis, mais exactement avec ces actions. Il devait exécuter un processus dans un pipeline ETL. La commande correcte était dans le Makefile. Mais quelque chose a échoué. Et plutôt que de demander conseil, il a fait ce que ferait n’importe quel développeur avec un accès root et zéro supervision : il a improvisé. ...

La semaine dernière, j’ai raconté comment mon IA a inventé une structure JSON complète et l’a enveloppée dans des DTO, des fixtures et des tests qui passaient. 90 tests au vert. Tout était faux. Ce post était le diagnostic. Voici le traitement. Après avoir découvert le désastre, j’ai fait ce que fait tout ingénieur dont l’orgueil est blessé : enquêter de manière obsessionnelle pendant des jours pour éviter que cela ne se reproduise. J’ai lu des papers, testé des outils, analysé des données réelles de mes API, et construit un système de défenses pour mon app. ...

Hier j’ai découvert que la moitié d’un module de mon app était basée sur des données inventées. Pas par un junior distrait. Par mon IA. Le pire n’est pas qu’elle ait inventé. Le pire c’est que tout compilait et que les 90 tests passaient. La fiction cohérente Je suis en train de construire BFClaude-9000, une app de barre de menu pour macOS qui surveille le quota de Claude Max. Une partie de la fonctionnalité nécessite de distinguer si un compte Claude est payant ou gratuit, en appelant l’API de claude.ai. ...

Toc, toc. Qui est là ? Touch ID. Encore. Imagine ça : tu bosses dans ton terminal, tu consultes des secrets 1Password avec op read. Tu as besoin de l’API key de Linear. Touch ID. Celle d’OpenRouter. Touch ID. Celle de Gitea. Touch ID. En une demi-heure, il m’a demandé le doigt quatorze fois. Tu sais ce qui se passe quand un outil de sécurité t’interrompt quatorze fois en trente minutes ? Qu’à la cinquième, tu lis plus ce qu’il te demande. Tu poses le doigt par réflexe. “Ouais, peu importe, laisse-moi bosser.” ...

Hier mon IA a envoyé 44 emails. Le problème, c’est que le contenu était inventé. Ce n’est pas une plaisanterie. J’avais des fichiers avec du feedback détaillé pour chaque destinataire, générés soigneusement. La tâche était simple : lire chaque fichier et l’envoyer. Au lieu de ça, l’IA a décidé de “résumer” le contenu pour “aller plus vite”. Elle a inventé des faits. Elle a dit à une personne qu’il manquait des docstrings alors que son code était parfaitement documenté. ...

5 minutes. C’est le temps que ça a pris. Un chercheur en sécurité publie une clé d’accès AWS dans un dépôt public GitHub. Il le fait exprès, comme expérience. Cinq minutes plus tard, quelqu’un l’utilisait déjà pour miner des cryptomonnaies. Cinq. Minutes. Il y a des bots qui scannent GitHub 24h/24 et 7j/7 en cherchant exactement ça : des identifiants exposés. Et ils sont rapides. Beaucoup plus rapides que vous ne vous rendez compte que vous avez fait une bêtise. ...

Un homard spatial dans votre ordinateur Imaginez qu’un développeur autrichien crée un assistant IA personnel, lui donne un nom de homard spatial, et décide de le rendre public. En 24 heures il a 9'000 étoiles sur GitHub. En 48 heures, 17'000. Il a aussi 300+ issues ouvertes, plusieurs d’entre elles de sécurité critique, et quelqu’un a créé une cryptomonnaie non officielle avec son nom. Bienvenue dans Clawdbot. Qu’est-ce que c’est exactement ? Clawdbot est un assistant IA open source qui s’exécute localement sur votre machine. La différence avec d’autres assistants : il ne répond pas seulement aux questions, il fait des choses. ...