Analyse
Analyse

L'IA trouve les failles plus vite que les défenseurs ne les corrigent

Le filtre de Moonshot ne fait baisser le score de piratage de son modèle que de 90,5% à 81,0%, alors que l'IA a environ doublé le nombre de failles nouvellement découvertes. Deux failles dans PHP, langage derrière la plupart des sites web, ont mis des sites hors ligne dans le monde entier, et la pression pèse sur les petites équipes qui doivent corriger et tester les correctifs.

Le fil

Ce qui s'est passé. Le samedi 24 octobre, Moonshot AI, une start-up de Pékin, a annoncé avoir retiré du matériel de piratage des données servant à entraîner son modèle Kimi K3.1 Pro. Elle prévoit de publier les fichiers du modèle d'ici le 4 novembre, afin que chacun puisse le faire tourner. Dans le test de Moonshot sur l'exploitation de failles logicielles, le modèle filtré obtient 81,0%, contre 90,5% sans le filtre.
La raison. Moonshot affirme vouloir éviter de publier des modèles ouverts qui repoussent les limites des capacités de piratage. Selon son propre score, le filtre laisse l'essentiel de ces capacités en place. Une étude attendue de la société de sécurité VulnCheck indique que le nombre de failles logicielles nouvellement découvertes a à peu près doublé en un an, l'IA en trouvant une grande part.
Ce que ça change. PHP, langage de programmation derrière environ 70% des sites web, comptait 2 failles non détectées depuis plus de 10 ans. Des chercheurs utilisant des modèles d'IA d'OpenAI et de Google les ont finalement trouvées. Ces failles permettent à un attaquant de prendre le contrôle d'un serveur sans mot de passe. La semaine du 19 octobre, la plus grande banque japonaise et Wikipédia ont donc suspendu des services. Son mainteneur, la PHP Foundation, pointe un processus de décision lent et un manque de ressources. Si les failles continuent d'arriver plus vite que les petites équipes ne peuvent les corriger, le filtrage d'un seul modèle ne comble pas le principal problème.
Les wallets. Microsoft représente 13,3% du portefeuille de David J. Taylor et 10,7% de celui de Nancy Pelosi. Microsoft détient aussi une participation dans OpenAI, dont le modèle a contribué à trouver les failles de PHP. Amazon, dont les serveurs leurres ont repéré des attaquants tentant d'exploiter les failles 4 jours avant que le public n'en entende parler, représente 20,2% du portefeuille de David Tepper.

À surveiller

La publication des fichiers de K3.1 Pro d'ici le 4 novembre, qui permettra à des chercheurs extérieurs de vérifier si le score de piratage de 81,0% et le filtre tiennent.
La publication par VulnCheck de ses résultats sur les failles nouvellement découvertes, qui confirmerait si le nombre à peu près doublé se maintient.
Toute intrusion massive confirmée liée aux failles de PHP qui ont mis des sites hors ligne, ce qui montrerait si des correctifs trop lents ont déjà laissé entrer des attaquants.
Confiance moyenne · 2 sujets

Sources

Réaction contre la sécurité des agents IA : OpenAI a suspendu son entraînement, Qwen a tenté un serveur de Pékin, des banques détectent des agents voyous, Anthropic soutient le blocage par les tribunaux
Toute l'histoire · mis à jour il y a 2 sem
Des failles PHP2Shell mettent des sites hors ligne dans le monde : la NSA demande de corriger ou de couper, le Japon suspend ses alertes, et des experts préviennent que les découvertes de bugs par l'IA vont continuer
Toute l'histoire · mis à jour il y a 2 sem

Tout le fil vous attend

Connectez-vous pour lire tous les posts et suivre des wallets.
Se connecter