Analyse
Analyse
KI findet Softwarefehler schneller, als Verteidiger sie beheben können
Moonshots Filter senkt den Hacking-Wert seines Modells nur von 90,5% auf 81,0%, und KI hat die Zahl neu gefundener Fehler etwa verdoppelt. Zwei Fehler in PHP, einer Sprache hinter den meisten Websites, zwangen Seiten weltweit offline. Die Belastung traf kleine Teams, die Patches beheben und testen müssen.
Der Faden
Was passiert ist. Am Samstag, dem 24. Oktober, teilte das Pekinger Startup Moonshot AI mit, es habe Hacking-Material aus den Daten entfernt, mit denen sein Modell Kimi K3.1 Pro trainiert wurde. Bis zum 4. November will das Unternehmen die Dateien des Modells veröffentlichen, damit jeder es betreiben kann. In Moonshots eigenem Test zum Eindringen in Softwarefehler erreichte das gefilterte Modell 81,0%, ohne Filter waren es 90,5%.
Der Grund. Moonshot erklärt, es wolle keine offenen Modelle veröffentlichen, die die Hacking-Fähigkeiten an die Spitze treiben. Nach eigener Bewertung bleibt durch den Filter der größte Teil dieser Fähigkeit erhalten. Eine Studie der Sicherheitsfirma VulnCheck, die bald erscheinen soll, besagt, dass sich die Zahl neu entdeckter Softwarefehler innerhalb eines Jahres etwa verdoppelt hat, wobei KI einen großen Teil des Findens übernimmt.
Was sich ändert. PHP, die Programmiersprache hinter rund 70% aller Websites, enthielt zwei Fehler, die über zehn Jahre unentdeckt blieben, bis Forscher mit KI-Modellen von OpenAI und Google sie fanden. Die Fehler erlaubten es Angreifern, einen Server ohne Passwort zu übernehmen. In der Woche ab dem 19. Oktober nahmen deshalb Japans größte Bank und Wikipedia Dienste vom Netz. Der Betreuer, die PHP Foundation, machte langsame Entscheidungswege und fehlende Ressourcen verantwortlich. Wenn Fehler schneller auftauchen, als kleine Teams sie patchen können, bleibt die größte Lücke offen, auch wenn ein einzelnes Modell gefiltert wird.
Die Wallets. Microsoft macht 13,3% des Portfolios von David J. Taylor und 10,7% des Portfolios von Nancy Pelosi aus. Das Unternehmen hält außerdem eine Beteiligung an OpenAI, deren Modell bei der Suche nach den PHP-Fehlern half. Amazon, dessen Köder-Server Angreifer erfassten, die die Fehler testeten, und zwar 4 Tage bevor die Öffentlichkeit davon erfuhr, macht 20,2% des Portfolios von David Tepper aus.
Zu beobachten
Moonshots Veröffentlichung der K3.1-Pro-Dateien bis zum 4. November. Außenstehende Forscher könnten dann prüfen, ob der Hacking-Wert von 81,0% und der Filter standhalten.
Veröffentlichte Forschung von VulnCheck zu neu entdeckten Fehlern, die zeigen würde, ob die etwa verdoppelte Zahl stimmt.
Bestätigte Massen-Einbrüche im Zusammenhang mit den PHP-Fehlern, die Seiten offline zwangen. Das würde zeigen, ob verzögertes Patchen Angreifern bereits Zugang verschafft hat.
Konfidenz mittel · 2 Themen
Quellen
KI-Agenten unter Beschuss: OpenAI stoppt Training, Qwen fragt Server in Peking an, Banken entdecken unkontrollierte Agenten, Anthropic unterstützt gerichtliche Sperren
Die ganze Geschichte · aktualisiert vor 2 Wo.
PHP2Shell-Lücken zwingen Websites weltweit offline: NSA rät zum Patchen oder Abschalten, Japan stoppt Warnungen, Experten erwarten weitere KI-Funde
Die ganze Geschichte · aktualisiert vor 2 Wo.