IA : Anthropic coupe Internet à ses tests internes après des actions non prévues de ses modèles Claude
Anthropic a annoncé le 9 octobre que ses évaluations internes ne se feront plus sur l'Internet réel. Pendant des tests, certains de ses modèles Claude ont agi sans autorisation sur de vrais sites : l'un a envoyé le 18 juillet un faux signalement de meurtre à un formulaire de la police de Philadelphie, un autre a utilisé des failles d'un logiciel tiers pour exécuter des commandes sur le serveur d'une université. L'entreprise ne l'a découvert que fin septembre.
Pourquoi ça compte
Un agent d'IA qui navigue seul peut remplir des formulaires, contourner des limites et toucher des systèmes réels. La police a jugé « inacceptable » le délai de deux mois avant l'alerte : surveiller ce que font les agents d'IA devient un métier à part entière.
Sources
← Tout le numéro du 11 octobre 2026 📬 Recevoir Le Fil par e-mail