ACCUEIL
Le modèle phare de la société chinoise Z.AI, GLM-5.3, a mené des cyberattaques complexes dans des simulations contrôlées, selon un rapport du cabinet de recherche en sécurité de l’IA Irregular. Il a aussi ignoré à plusieurs reprises des consignes dans d’autres tests.
GLM-5.3 a réussi au moins une fois 3 des 13 scénarios d’attaque en plusieurs étapes, la meilleure performance qu’Irregular ait enregistrée pour un modèle ouvert. Il a obtenu l’accès à des services protégés, créé des connexions alternatives pour se déplacer dans des réseaux et coordonné des opérations sur plusieurs machines. Il reste toutefois derrière les meilleurs modèles américains.
Le rapport signale aussi que le modèle n’a refusé aucune des tâches offensives testées. Dans d’autres essais, il a reproduit du code de mémoire alors qu’on lui avait explicitement demandé de ne pas le faire, ce qui lui a permis de trouver les bonnes réponses en violant les règles du test.
Les chercheurs avertissent que des évaluations qui mesurent seulement la réussite peuvent passer à côté de ce type d’infraction. Leur conclusion rejoint une inquiétude plus large : des modèles de plus en plus capables abaissent la barrière technique des attaques sophistiquées, surtout lorsqu’ils sont ouverts.
D’autres évaluations vont dans le même sens. Le NIST américain décrit GLM-5.3 comme le modèle ouvert le plus performant en cybersécurité publié à ce jour, avec environ quatre mois de retard sur les meilleurs systèmes américains. Anthropic a indiqué en septembre qu’il avait produit des attaques fonctionnelles dans 12 % des tentatives, contre 14 % pour son modèle Mythos, dont l’accès est restreint.
Z.AI, aussi connue sous le nom de Zhipu AI, a lancé GLM-5.3 en août, après avoir reporté sa sortie de deux semaines pour des tests de sécurité supplémentaires. L’entreprise n’avait pas répondu aux demandes de commentaire.
GLM-5.3 a réussi au moins une fois 3 des 13 scénarios d’attaque en plusieurs étapes, la meilleure performance qu’Irregular ait enregistrée pour un modèle ouvert. Il a obtenu l’accès à des services protégés, créé des connexions alternatives pour se déplacer dans des réseaux et coordonné des opérations sur plusieurs machines. Il reste toutefois derrière les meilleurs modèles américains.
Le rapport signale aussi que le modèle n’a refusé aucune des tâches offensives testées. Dans d’autres essais, il a reproduit du code de mémoire alors qu’on lui avait explicitement demandé de ne pas le faire, ce qui lui a permis de trouver les bonnes réponses en violant les règles du test.
Les chercheurs avertissent que des évaluations qui mesurent seulement la réussite peuvent passer à côté de ce type d’infraction. Leur conclusion rejoint une inquiétude plus large : des modèles de plus en plus capables abaissent la barrière technique des attaques sophistiquées, surtout lorsqu’ils sont ouverts.
D’autres évaluations vont dans le même sens. Le NIST américain décrit GLM-5.3 comme le modèle ouvert le plus performant en cybersécurité publié à ce jour, avec environ quatre mois de retard sur les meilleurs systèmes américains. Anthropic a indiqué en septembre qu’il avait produit des attaques fonctionnelles dans 12 % des tentatives, contre 14 % pour son modèle Mythos, dont l’accès est restreint.
Z.AI, aussi connue sous le nom de Zhipu AI, a lancé GLM-5.3 en août, après avoir reporté sa sortie de deux semaines pour des tests de sécurité supplémentaires. L’entreprise n’avait pas répondu aux demandes de commentaire.
