Seguridad en la era de la IA: Mythos y el regreso a lo básico

Desde los inicios de la informática, nuestro enfoque de la seguridad ha sido el de ir postergando el problema. Durante décadas, ha sido "desplegar ahora, asegurar después". Con los años, este enfoque se arraigó profundamente en cómo hacemos las cosas, con una elaborada industria de seguridad que creció en torno a cómo las organizaciones construyen sus sistemas para mantener el negocio en marcha, sin abordar nunca las causas de fondo.

Pero ahora, la IA viene por la ciberseguridad y no hay dónde esconderse.

Estamos hablando de esto en este momento porque lo que pensábamos que sucedería en algún momento futuro está sucediendo ahora mismo, ante nuestros propios ojos. Hace unos días, Anthropic, uno de los principales proveedores de IA, dio a conocer su modelo de IA de vanguardia, Mythos, que aparentemente es muy, muy bueno para encontrar problemas de seguridad y explotarlos. También anunciaron el Proyecto Glasswing, su iniciativa para divulgar de forma responsable miles de vulnerabilidades recién descubiertas.

Hay una sensación palpable de pánico entre los profesionales de la seguridad. Los gobiernos están emitiendo advertencias a las empresas (Canadá, Reino Unido). Esto es la IA haciendo lo suyo: el conocimiento humano se empaqueta, se replica y se reproduce a bajo costo, para bien y para mal.

Para entender por qué esto está impactando tanto a la seguridad, primero necesitamos entender cómo funciona hoy la seguridad informática. En pocas palabras, y simplificando un poco, nada es seguro. La industria de la seguridad no está diseñada para solucionar los problemas subyacentes, sino para mantener un equilibrio que permita que el negocio siga funcionando. En realidad, los emprendimientos humanos son desordenados, las redes informáticas aún más, y nada de esto es fácil de arreglar.

Por poner solo un ejemplo, la última versión de Chrome, uno de los programas más sofisticados y cuidados que existen, incluye un total de 60 correcciones de seguridad. De ellas, 2 están calificadas como críticas y 14 como altas.

El cambio crucial es que la IA ahora está encontrando problemas, ya sea en software o en redes informáticas, a un ritmo con el que ya no podemos seguir el paso. Hacer más de lo mismo no funciona.

Sería fácil descartar a Mythos como un truco publicitario bien ejecutado, pero todos los demás indicadores y tendencias apuntan en la misma dirección. En el Reino Unido, el AI Security Institute pone a prueba modelos de IA en "rangos cibernéticos" simulados que imitan entornos reales. Anunciaron que Mythos es el primer modelo que completó con éxito uno de sus rangos. Sin supervisión.

En el ámbito del código abierto, que podemos usar como una especie de canario en la mina, la IA fue inicialmente una fuerza negativa que resultó en una avalancha de informes de problemas inútiles. Ya no. Los informes que llegan hoy son buenos, y prácticamente todos se generan con la ayuda de la IA. Otros proyectos están reportando experiencias similares y se quejan de que es difícil seguirles el ritmo.

Al mismo tiempo, HackerOne está reportando un aumento significativo en el envío de informes de errores, atribuido a que la IA ayuda a los investigadores de seguridad a hacer más y amplificar sus capacidades. Las empresas están haciendo todo lo posible por mantener el ritmo, con tasas de remediación más altas, pero no han podido igualar el aumento en los envíos.

Si quiere profundizar más en lo técnico, lea este testimonio de un escritor de exploits real que le dio una oportunidad a la IA. ¿La conclusión? Todavía es torpe, pero funciona... y solo va a mejorar. A diferencia de los operadores humanos, que tienen un límite inherente impuesto por nuestra biología, los sistemas de IA tienen el potencial de un autoaprendizaje a una escala que puede superar ampliamente al nuestro. Una y otra vez, tenemos que recordarnos a nosotros mismos que esta es la peor versión de esta tecnología que veremos jamás.

¿Qué hacer ahora? Una dirección, que posiblemente sea la opción más fácil a corto plazo, es seguir haciendo lo que siempre hemos hecho, simplemente hacerlo mejor. Esto es más fácil decirlo que hacerlo. Los agentes de IA podrían ayudar en la defensa, pero siempre va a existir una asimetría. Los atacantes pueden dejar sueltos a sus agentes ofensivos sin preocupación alguna, mientras que los defensores todavía tienen que mantener la supervisión de lo que hacen sus agentes defensivos. Además, los propios agentes de IA todavía tienen un camino por recorrer antes de ser seguros... un problema que el bando atacante no tiene.

Pero el consejo que está surgiendo a largo plazo es volver a lo básico. Puede parecer extraño al principio porque estamos muy acostumbrados al estado actual de las cosas, pero la inseguridad no es inevitable. Los entornos complejos sin duda siempre llevarán a debilidades explotables, pero hay tanta fruta al alcance de la mano que podríamos estar recogiendo ahora mismo.

¿Cuáles son estos aspectos básicos? En primer lugar, toda organización necesita un inventario de activos preciso, actualizado continuamente, a la velocidad de las máquinas. Esa es la misma velocidad a la que operan los atacantes. En segundo lugar, hay que eliminar sin miramientos de internet todo lo que no necesite estar ahí. La opacidad ha funcionado para la seguridad durante mucho tiempo, pero solo porque era costoso vulnerarla. Si el costo de descubrimiento y explotación va a acercarse a cero, la seguridad por opacidad dejará de ser viable. En tercer lugar, lo que permanezca en línea tiene que estar bien reforzado y configurado. En cuarto lugar, la actividad debe monitorearse y la detección debe mejorarse.

A largo plazo, simplemente tenemos que dejar de añadir nuevos sistemas inseguros a nuestras redes. ¿Estamos presenciando el momento en que desplegar software inseguro deja de ser económicamente viable? Nuestra única opción de cara al futuro es descubrir realmente cómo escribir y desplegar software seguro. Volver a lo básico, en efecto.