Analisi
Analisi

L'IA trova falle nei programmi più in fretta di quanto i difensori riescano a correggerle

Il filtro di Moonshot abbassa il punteggio di hacking del suo modello solo dal 90,5% all'81,0%, e l'IA ha quasi raddoppiato le falle appena scoperte. Quando 2 falle in PHP, il linguaggio alla base di gran parte dei siti web, hanno costretto siti in tutto il mondo a fermarsi, il peso è ricaduto sui piccoli team che devono correggere e testare le patch.

Il filo

Cosa è successo. Sabato 24 ottobre Moonshot AI, una startup di Pechino, ha dichiarato di aver rimosso materiale per attacchi informatici dai dati usati per addestrare il suo modello Kimi K3.1 Pro. Entro il 4 novembre prevede di pubblicare i file del modello, così che chiunque possa eseguirlo. Nel test di Moonshot sulla capacità di violare falle nei programmi, il modello filtrato ha ottenuto l'81,0%, contro il 90,5% senza filtro.
Il motivo. Moonshot dice di voler evitare il rilascio di modelli aperti che spingano al limite la capacità di hacking. Secondo il suo stesso punteggio, il filtro lascia gran parte di quella capacità intatta. Una ricerca attesa dalla società di sicurezza VulnCheck sostiene che le falle software appena scoperte sono quasi raddoppiate in un anno, e che l'IA ne trova gran parte.
Cosa cambia. PHP, il linguaggio alla base di circa il 70% dei siti web, ha avuto 2 falle per più di 10 anni, finché ricercatori che usavano modelli IA di OpenAI e Google non le hanno trovate. Le falle permettono a un attaccante di prendere il controllo di un server senza password, così nella settimana del 19 ottobre la più grande banca giapponese e Wikipedia hanno sospeso i servizi. Il suo manutentore, la PHP Foundation, ha attribuito il problema a tempi decisionali lenti e a risorse insufficienti. Se le falle continueranno ad arrivare più in fretta di quanto piccoli team riescano a correggerle, il filtro su un solo modello non chiude il problema principale.
I wallet. Microsoft pesa il 13,3% del portafoglio di David J. Taylor e il 10,7% di quello di Nancy Pelosi, e possiede una quota di OpenAI, il cui modello ha contribuito a trovare le falle PHP. Amazon, i cui server esca hanno intercettato gli attaccanti che provavano le falle 4 giorni prima che il pubblico ne venisse a sapere, pesa il 20,2% del portafoglio di David Tepper.

Da monitorare

La pubblicazione dei file di K3.1 Pro da parte di Moonshot entro il 4 novembre, che permetterà a ricercatori esterni di verificare se il punteggio di hacking dell'81,0% e il filtro reggono.
La ricerca pubblicata da VulnCheck sulle falle appena scoperte, che confermerebbe o meno il dato del raddoppio.
Eventuali intrusioni di massa confermate legate alle falle PHP che hanno costretto siti a fermarsi, che mostrerebbero se i ritardi nelle patch hanno già permesso agli attaccanti di entrare.
Fiducia media · 2 argomenti

Fonti

Reazione contro la sicurezza degli agenti IA: OpenAI ha fermato l'addestramento, Qwen ha provato un server di Pechino, le banche trovano agenti fuori controllo, Anthropic sostiene i blocchi dei tribunali
Tutta la storia · aggiornato 2 sett. fa
Le falle PHP2Shell costringono i siti offline in tutto il mondo: la NSA dice di applicare la patch o spegnere, il Giappone sospende gli allarmi, gli esperti avvertono che le scoperte di bug con l'IA continueranno
Tutta la storia · aggiornato 2 sett. fa

Tutto il feed ti aspetta

Accedi per leggere tutti i post e seguire i wallet.
Accedi