Análisis
Análisis

La IA encuentra fallos en software más rápido de lo que los defensores pueden corregirlos

El filtro de Moonshot reduce la puntuación de hacking de su modelo solo del 90,5% al 81,0%, y la IA ha casi duplicado los fallos recién descubiertos. Cuando 2 fallos en PHP, un lenguaje presente en la mayoría de los sitios web, obligaron a poner sitios fuera de línea en todo el mundo, la presión recayó en los pequeños equipos que deben corregir y probar los parches.

El hilo

Qué ha pasado. El sábado 24 de octubre, Moonshot AI, una startup de Pekín, anunció que eliminó material de hacking de los datos usados para entrenar su modelo Kimi K3.1 Pro. Planea publicar los archivos del modelo antes del 4 de noviembre, para que cualquiera pueda ejecutarlo. En la prueba de Moonshot sobre la explotación de fallos de software, el modelo filtrado obtuvo un 81,0%, frente al 90,5% sin el filtro.
El motivo. Moonshot afirma que busca no publicar modelos abiertos que superen la frontera de la capacidad de hacking. Según su propia puntuación, el filtro deja intacta la mayor parte de esa capacidad. Un informe de la firma de seguridad VulnCheck, que aún no se ha publicado, dice que los fallos de software recién descubiertos se duplicaron aproximadamente en un año, y que la IA hizo gran parte de ese trabajo.
Qué cambia. PHP, el lenguaje de programación detrás de aproximadamente el 70% de los sitios web, arrastró 2 fallos durante más de 10 años, hasta que investigadores que usaban modelos de IA de OpenAI y Google los encontraron. Los fallos permitían a un atacante tomar el control de un servidor sin contraseña, así que en la semana del 19 de octubre el mayor banco de Japón y Wikipedia dejaron servicios fuera de línea. Su mantenedor, la PHP Foundation, atribuyó el problema a un proceso de decisión lento y a la falta de recursos. Si los fallos siguen llegando más rápido de lo que los pequeños equipos pueden parchear, filtrar un solo modelo deja abierta la brecha principal.
Los wallets. Microsoft representa el 13,3% de la cartera de David J. Taylor y el 10,7% de la de Nancy Pelosi, y posee una participación en OpenAI, cuyo modelo ayudó a encontrar los fallos de PHP. Amazon, cuyos servidores señuelo detectaron a atacantes que probaban los fallos 4 días antes de que el público se enterara, representa el 20,2% de la cartera de David Tepper.

A vigilar

La publicación de los archivos de K3.1 Pro antes del 4 de noviembre, que permitirá a investigadores externos comprobar si su puntuación de hacking del 81,0% y su filtro se sostienen.
La investigación publicada por VulnCheck sobre los fallos recién descubiertos, que confirmaría si el recuento casi duplicado se mantiene.
Cualquier intrusión masiva confirmada relacionada con los fallos de PHP que obligaron a poner sitios fuera de línea, lo que mostraría si la lentitud en los parches ya ha permitido entrar a atacantes.
Confianza media · 2 temas

Fuentes

Reacción contra la seguridad de los agentes de IA: OpenAI detuvo el entrenamiento, Qwen intentó un servidor de Pekín, los bancos encuentran agentes descontrolados y Anthropic respalda los bloqueos judiciales
Toda la historia · actualizado hace 2 sem
Fallos en PHP2Shell obligan a cerrar sitios en todo el mundo: la NSA pide parchear o desconectarse, Japón detiene alertas y expertos advierten que los hallazgos de errores con IA seguirán
Toda la historia · actualizado hace 2 sem

Todo el feed te espera

Inicia sesión para leer todos los posts y seguir wallets.
Iniciar sesión