Anunciamos la beta de Red Sift Radar: un asistente LLM para equipos de seguridad

Nos complace anunciar la beta de Red Sift Radar, nuestro nuevo asistente LLM para equipos de seguridad.

Con Red Sift Radar, los equipos podrán utilizar un LLM para automatizar comprobaciones manuales, impulsar la coherencia en materia de seguridad y crear vínculos con equipos menos técnicos.

Para hacer esto realidad, hemos tomado LLMs base y los hemos combinado con nuestros feeds de datos a escala de internet y con los cientos de APIs en tiempo real que impulsan nuestras aplicaciones existentes para crear algo nuevo.

Con Radar, los operadores pueden investigar la postura de ciberseguridad en tiempo real de los activos expuestos a internet utilizando nuestras capacidades de Hardenize o diagnosticar problemas de seguridad web y de correo electrónico desde puntos de presencia repartidos por todo el mundo. Todo esto se pone a disposición de nuestros usuarios finales a través de una interfaz de chat familiar que requiere prácticamente ningún conocimiento especializado para su uso.

Esta es nuestra última innovación para convertir la IA en una herramienta para los defensores, quienes se enfrentan a un número cada vez mayor de amenazas cada día.

Los clientes de Red Sift (y de Hardenize) con un plan Enterprise ya pueden acceder a estas nuevas capacidades indicando su interés.

Los ciberdelincuentes fueron algunos de los primeros en adoptar la IA. La IA generativa permite a los usuarios con intenciones delictivas redactar textos muy convincentes a gran escala para correos de phishing, crear engaños de ingeniería social más creíbles y escribir código malicioso, entre otros muchos ejemplos.

Pero la IA generativa no ofrece los mismos beneficios listos para usar a los defensores.

Los equipos de seguridad necesitan información en tiempo real y la capacidad de automatizar. Los LLMs son excelentes para captar patrones sutiles, generar texto similar al humano y realizar una amplia gama de tareas relacionadas con el lenguaje. Sin embargo, ante problemas complejos que requieren múltiples pasos, especialmente en el ámbito de la ciberseguridad, las respuestas de los LLMs siguen siendo, en ocasiones, inconsistentes, incompletas e incorrectas.

Nos propusimos hacer que los LLMs fueran más útiles para los equipos de seguridad. Para lograrlo, tuvimos que introducir tres innovaciones:

1. Guiar a los LLMs para mejorar la coherencia en la resolución de problemas de varios pasos, sin perder la capacidad de diagnosticar problemas nuevos.
2. Integrar herramientas estándar y propias para permitir la detección en tiempo real de recursos conectados a internet.
3. Integrar conjuntos de datos a escala de internet cuando sea necesario para extraer información que no está disponible directamente a partir de estos recursos conectados a internet.

Una forma de entender los LLMs actuales es imaginarlos como algoritmos de compresión con pérdida de la totalidad del conocimiento humano expresado en sus datos de entrenamiento (internet). Aunque es increíble presenciarlo, lograr que funcionen de manera consistente en tareas que son menos de escritura creativa y más funcionales requiere cierto trabajo. Con este fin, hemos desarrollado un mecanismo de guía novedoso que opera de manera invisible detrás de una interfaz de chat familiar para mejorar la fiabilidad al dirigir el LLM.

Si bien nuestro sistema de guía proporciona contexto al modelo, este sigue teniendo limitaciones en su capacidad de medir el aquí y el ahora. Aquí es donde entran en juego nuestras capacidades existentes. A lo largo de los años hemos desarrollado amplias APIs y conjuntos de datos que miden las señales relevantes para la ciberseguridad en internet. Mantenemos recursos públicos como bimiradar, herramientas gratuitas como Hardenize y Red Sift Investigate, junto con cientos de APIs que impulsan nuestros productos. Cuando exponemos estas capacidades granulares al modelo y las combinamos con la guía mencionada anteriormente, vemos cómo ocurre la magia.

A continuación están nuestros sensores y asociaciones de datos. Aunque estas capacidades no se incluyen en la beta que anunciamos hoy, actualmente se encuentran en fase de pruebas y podemos observar información increíble cuando exponemos este tipo de datos, debidamente preprocesados para reducir su escala, a nuestro modelo.

El resultado de todo esto es un asistente de seguridad basado en LLM capaz de ofrecer información sobre el estado de seguridad de las organizaciones mediante el análisis de activos expuestos a internet, como DNS, dominios, subdominios, certificados y direcciones IP, de forma coherente y con el contexto adecuado.

Al igual que con ChatGPT, para usar Red Sift Radar el usuario debe comenzar con una única pregunta que desea responder. Los usuarios pueden hacer preguntas como:

• ¿Cuál es la postura de seguridad de {mydomain}?
• ¿Tiene {mydomain} configurado correctamente DMARC?
• ¿Puedes comprobar si el puerto 80 está abierto en {mydomain}?
• Comprueba si mi sitio web se está cargando correctamente o si tiene algún problema.

Una vez procesada su pregunta, Red Sift Radar determina la acción o respuesta más adecuada para su consulta.

Consideremos un escenario en el que se plantea la pregunta: “¿Qué tan segura es {mydomain}?” En este caso, Red Sift Radar realiza un análisis exhaustivo utilizando una variedad de búsquedas y comprobaciones, entre ellas:

• Registros del dominio: evalúa las configuraciones de DMARC, SPF, MX, NS, BIMI, DKIM y MTA-STS.
• Subdominios: enumera y analiza los subdominios asociados.
• Certificados: comprueba el estado de los certificados SSL/TLS.
• Seguridad del sitio web: evalúa el servidor de alojamiento y las vulnerabilidades del sitio web.
• Salud del DNS: revisa la seguridad y las configuraciones del DNS.
• Análisis de IP: examina los servicios expuestos y geolocaliza las direcciones IP.

Según su consulta, Red Sift Radar realiza una variedad de tareas, desde evaluar la postura de seguridad de un dominio hasta comprobar posibles configuraciones incorrectas. Esta versatilidad garantiza que obtenga información precisa y relevante en todo momento.

La capacidad de adaptación de Red Sift Radar a diferentes tareas relacionadas con la seguridad, junto con su habilidad para comprender y generar texto similar al humano, lo convierten en una herramienta invaluable para los profesionales de la seguridad.

Tras una consulta de seguridad inicial, los usuarios pueden formular preguntas de seguimiento para ayudar a que la información sea comprensible y procesable en toda la organización. Algunos ejemplos de consultas de seguimiento incluyen:

• ¿Puedes resumirme esta información?
• Nuestra división de seguridad está en Francia; ¿puedes traducirlo al francés, por favor?
• ¿Puedes comprobar si mi sitio web funciona desde distintos lugares del mundo?

Hasta ahora hemos mostrado solicitudes bastante sencillas, pero esto se vuelve muy interesante cuando los usuarios se salen de lo habitual.

Por ejemplo, una consulta más completa podría implicar la propagación de cambios en el DNS a nivel mundial.

Aquí, el modelo sabe cómo utilizar los diferentes puntos de presencia de Red Sift en todo el mundo para consultar tanto servidores DNS de consumidores globales como locales, sintetizando una visión de estos detalles técnicos con una sola consulta sencilla. La alternativa requeriría una gran cantidad de VPNs, comandos de terminal, así como tiempo y experiencia del operador.

También podemos observar información increíble cuando le pedimos a Radar que compare la postura de seguridad de múltiples activos en internet y que destaque las diferencias más relevantes.

El mayor beneficio para los usuarios que hemos observado hasta la fecha es la capacidad de automatizar tareas manuales que consumen mucho tiempo, pero que son cruciales para el negocio.

Tomemos como ejemplo la pregunta “¿cuál es la postura de seguridad de {mydomain}?”

Para responder a esta pregunta sin Red Sift Radar, un analista de seguridad tendría que comprobar manualmente la información de seguridad web, de correo electrónico e infraestructura en distintas herramientas, tener un buen conocimiento de los comandos básicos de CLI y saber cómo traducir sus hallazgos en un resumen para el negocio.

Nuestros primeros usuarios están utilizando Red Sift Radar para eliminar la naturaleza manual de estas tareas y, en promedio, están ahorrando 10 horas semanales. Este ahorro de tiempo va acompañado del valor de la coherencia: las mismas comprobaciones se realizan de la misma manera cada vez, independientemente de quién del equipo sea responsable.

Hemos sido de los primeros en adoptar la pila de GPT, comenzando con el lanzamiento de GPT-3 en 2020, y en un principio creamos un prototipo de Red Sift Radar como un plugin que funcionaba sobre la versión pública de GPT-4. Sin embargo, resultó evidente que estábamos exponiendo mucho poder al modelo y seguimos siendo cautelosos respecto a los riesgos asociados con un acceso libre para todos a esta capacidad. También comenzamos a encontrar limitaciones técnicas relacionadas con el tamaño del contexto disponible en la versión de consumo del LLM de Chat GPT, por lo que decidimos incorporar el LLM a nuestra plataforma para poder ofrecer una experiencia más segura y con mayores capacidades.

No podemos esperar a que Red Sift Radar llegue a manos de nuestros clientes. Esperamos con interés utilizar el programa beta para recibir comentarios de los usuarios y seguir mejorando nuestras capacidades. Esta semana comenzaremos a invitar a los clientes que consideramos podrían ser un buen candidato para la beta. Si aún no ha recibido una invitación y desea participar, asegúrese de compartir su interés si desea unirse. Nuestros excelentes equipos de Producto y Atención al Cliente responderán a todas las solicitudes en el plazo de una semana.

Al mismo tiempo, continuaremos avanzando hacia una versión de disponibilidad general accesible para todos los clientes de Red Sift. Entre los planes se incluye la posibilidad de realizar consultas en todas sus aplicaciones de Red Sift y profundizar más allá de la información de seguridad disponible públicamente. Y, esté seguro de que aprovecharemos este tiempo para perfeccionar el modo oscuro de Radar.

Es fundamental señalar que estamos tomando todas las medidas necesarias para garantizar que Red Sift Radar no se utilice con fines maliciosos, como recopilar información para explotar vulnerabilidades o con fines de reconocimiento. Para mitigar este riesgo, Red Sift implementa las mejores prácticas en materia de seguridad y privacidad, incluyendo controles de acceso, monitoreo y políticas de divulgación responsable, y seguirá haciéndolo en cada etapa.