Annonce de la version bêta de Red Sift Radar : un assistant LLM pour les équipes de sécurité

Nous sommes ravis d'annoncer la version bêta de Red Sift Radar – notre nouvel assistant LLM pour les équipes de sécurité.

Avec Red Sift Radar, les équipes pourront utiliser un LLM pour automatiser les vérifications manuelles, renforcer la cohérence en matière de sécurité et créer des ponts avec les équipes moins techniques.

Pour concrétiser cela, nous avons pris des LLM de base et les avons combinés avec nos flux de données à l'échelle d'internet et les centaines d'API en temps réel qui alimentent nos applications existantes pour créer quelque chose de nouveau.

Avec Radar, les opérateurs peuvent examiner la posture de cybersécurité en temps réel des actifs exposés sur internet grâce à nos capacités Hardenize, ou diagnostiquer des problèmes de sécurité web et email depuis des points de présence répartis dans le monde entier. Tout cela est accessible à nos utilisateurs finaux via une interface de chat familière qui ne nécessite pratiquement aucune connaissance spécialisée pour être utilisée.

Il s'agit de notre dernière innovation visant à faire de l'IA un outil pour les défenseurs, qui font face chaque jour à un nombre croissant de menaces.

Les clients Red Sift (et Hardenize) disposant d'un plan Enterprise peuvent désormais accéder à ces nouvelles capacités en indiquant leur intérêt.

Les cybercriminels ont été parmi les premiers à adopter l'IA. L'IA générative permet aux utilisateurs animés d'intentions malveillantes de rédiger, à grande échelle, des textes très convaincants pour des emails de phishing, de créer des stratagèmes d'ingénierie sociale plus crédibles et d'écrire du code malveillant, pour ne citer que quelques exemples.

Mais l'IA générative n'offre pas les mêmes avantages immédiats aux défenseurs.

Les équipes de sécurité ont besoin d'informations en temps réel et de la capacité à automatiser. Les LLM excellent dans la capture de schémas nuancés, la génération de texte proche du langage humain et l'exécution d'un large éventail de tâches liées au langage. Mais, face à des problèmes complexes nécessitant plusieurs étapes, en particulier dans le domaine de la cybersécurité, les réponses des LLM restent parfois incohérentes, incomplètes et incorrectes.

Nous nous sommes fixé pour objectif de rendre les LLM plus utiles aux équipes de sécurité. Pour y parvenir, nous avons dû introduire trois innovations :

1. Piloter les LLM pour améliorer la cohérence de la résolution de problèmes en plusieurs étapes, tout en conservant la capacité à diagnostiquer des problèmes nouvellement rencontrés.
2. Intégrer des outils standards et propriétaires pour permettre une détection en temps réel des ressources connectées à internet.
3. Intégrer des jeux de données à l'échelle d'internet lorsque cela est nécessaire pour extraire des informations qui ne sont pas directement disponibles à partir de ces ressources connectées à internet.

Une façon d'envisager les LLM actuels est de les imaginer comme des algorithmes de compression avec perte de l'ensemble des connaissances humaines telles qu'exprimées dans leurs données d'entraînement (Internet). Bien que cela soit incroyable à observer, les amener à fonctionner de manière cohérente sur des tâches moins créatives et plus fonctionnelles demande un certain travail. Pour cela, nous avons développé un mécanisme de pilotage novateur qui opère en arrière-plan d'une interface de chat familière afin d'améliorer la fiabilité du pilotage du LLM.

Bien que notre pilotage donne du contexte au modèle, celui-ci reste limité dans sa capacité à mesurer l'ici et maintenant. C'est là qu'interviennent nos capacités existantes. Au fil des années, nous avons développé de vastes API et jeux de données qui mesurent les signaux pertinents pour la cybersécurité sur internet. Nous maintenons des ressources publiques telles que bimiradar, des outils gratuits comme Hardenize et Red Sift Investigate, ainsi que des centaines d'API qui alimentent nos produits. Lorsque nous exposons ces capacités granulaires au modèle et que nous les combinons avec le pilotage évoqué précédemment, la magie se produit.

Viennent ensuite nos capteurs et nos partenariats en matière de données. Bien que ces capacités ne soient pas incluses dans la bêta que nous annonçons aujourd'hui, elles sont en cours de test, et nous constatons déjà des résultats incroyables lorsque nous exposons ce type de données, préalablement traitées et réduites à l'échelle appropriée, à notre modèle.

Le résultat de tout cela est un assistant de sécurité basé sur un LLM capable de fournir des informations sur le statut de sécurité des organisations en examinant les actifs exposés sur internet tels que les DNS, domaines, sous-domaines, certificats et adresses IP, de manière cohérente et avec le contexte approprié.

Comme avec ChatGPT, l'utilisation de Red Sift Radar nécessite que l'utilisateur commence par une seule question à laquelle il souhaite obtenir une réponse. Les utilisateurs peuvent poser des questions telles que :

• Quelle est la posture de sécurité de {mydomain} ?
• {mydomain} a-t-il correctement configuré DMARC ?
• Pouvez-vous vérifier si le port 80 est ouvert sur {mydomain} ?
• Vérifiez si mon site web se charge correctement ou s'il présente des problèmes.

Une fois votre question traitée, Red Sift Radar détermine l'action ou la réponse la plus appropriée en fonction de votre requête.

Prenons un scénario où vous posez la question : « Quel est le niveau de sécurité de {mydomain} ? » Dans ce cas, Red Sift Radar effectue une analyse complète à l'aide de diverses recherches et vérifications, notamment :

• Enregistrements de domaine : évalue les configurations DMARC, SPF, MX, NS, BIMI, DKIM et MTA-STS.
• Sous-domaines : liste et analyse les sous-domaines associés.
• Certificats : vérifie l'état des certificats SSL/TLS.
• Sécurité du site web : évalue le serveur d'hébergement et les vulnérabilités du site web.
• Santé DNS : examine la sécurité et les configurations DNS.
• Analyse IP : examine les services exposés et géolocalise les adresses IP.

En fonction de votre requête, Red Sift Radar effectue diverses tâches, allant de l'évaluation de la posture de sécurité d'un domaine à la vérification d'éventuelles mauvaises configurations. Cette polyvalence garantit que vous obtenez des informations précises et pertinentes à chaque fois.

L'adaptabilité de Red Sift Radar à différentes tâches liées à la sécurité, ainsi que sa capacité à comprendre et générer un texte proche du langage humain, en font un outil précieux pour les professionnels de la sécurité.

Après une requête de sécurité initiale, les utilisateurs peuvent poser des questions complémentaires pour rendre les informations plus faciles à comprendre et à exploiter au sein d'une organisation. Voici quelques exemples de requêtes complémentaires :

• Pouvez-vous me résumer cette information ?
• Notre division sécurité est en France ; pouvez-vous traduire en français, s'il vous plaît ?
• Pouvez-vous vérifier si mon site web fonctionne depuis différents sites à travers le monde ?

Jusqu'à présent, nous avons présenté des requêtes relativement simples, mais les choses deviennent très intéressantes lorsque les utilisateurs sortent des sentiers battus.

Par exemple, une requête plus complète pourrait porter sur la propagation d'un changement DNS à travers le monde.

Ici, le modèle sait comment utiliser les différents points de présence de Red Sift à travers le monde pour interroger à la fois les serveurs DNS grand public locaux et mondiaux, en synthétisant une vue de ces détails techniques en une seule requête simple. L'alternative nécessiterait une multitude de VPN, de commandes en ligne de commande, ainsi que du temps et de l'expertise d'un opérateur.

Nous constatons également des résultats incroyables lorsque nous demandons à Radar de comparer la posture de sécurité de plusieurs actifs sur internet et de mettre en évidence les différences significatives.

Le plus grand avantage constaté à ce jour par les utilisateurs est la capacité à automatiser des tâches manuelles qui prennent du temps mais qui sont essentielles à l'activité.

Prenons l'exemple de « quelle est la posture de sécurité de {mydomain} ? »

Pour répondre à cette question sans Red Sift Radar, un analyste de sécurité devrait vérifier manuellement les informations de sécurité web, email et infrastructure à travers différents outils, avoir une bonne connaissance des commandes CLI de base, et savoir comment traduire ses conclusions en un résumé destiné à l'entreprise.

Nos premiers utilisateurs se servent de Red Sift Radar pour éliminer le caractère manuel de ces tâches et économisent en moyenne 10 heures par semaine. Ce gain de temps s'accompagne de l'avantage de la cohérence : les mêmes éléments sont vérifiés de la même manière chaque fois, quel que soit le membre de l'équipe responsable.

Nous avons été parmi les premiers adopteurs de la pile GPT dès la sortie de GPT-3 en 2020, et avons initialement conçu un prototype de Red Sift Radar sous forme de plugin fonctionnant sur la version publique de GPT-4. Cependant, il est apparu que nous exposions beaucoup de puissance au modèle, et nous sommes restés prudents quant aux risques associés à un accès libre à cette capacité. Nous avons également commencé à rencontrer des limites techniques liées à la taille du contexte disponible dans la version grand public du LLM de Chat GPT, et avons donc décidé d'intégrer le LLM directement à notre plateforme afin de proposer une expérience plus sûre et plus performante.

Nous sommes impatients que Red Sift Radar soit entre les mains de nos clients. Nous sommes impatients d'utiliser le programme bêta pour recueillir les retours des utilisateurs et continuer à améliorer nos capacités. Nous commencerons dès cette semaine à inviter les clients que nous pensons être de bons candidats pour la bêta. Si vous n'avez pas encore reçu d'invitation et souhaitez participer, veillez à nous faire part de votre intérêt si vous souhaitez rejoindre le programme. Nos merveilleuses équipes Produit et Support client donneront suite à toutes les demandes dans un délai d'une semaine.

Parallèlement, nous continuerons à progresser vers une version généralement disponible, accessible à tous les clients Red Sift. Les projets incluent la possibilité d'effectuer des requêtes à travers vos applications Red Sift et d'aller plus loin que les informations de sécurité disponibles publiquement. Et soyez assurés que nous utiliserons ce temps pour perfectionner le mode sombre de Radar.

Il est essentiel de noter que nous prenons toutes les mesures nécessaires pour garantir que Red Sift Radar ne soit pas utilisé à des fins malveillantes, telles que la collecte d'informations pour exploiter des vulnérabilités ou à des fins de reconnaissance. Pour atténuer ce risque, Red Sift met en œuvre les meilleures pratiques en matière de sécurité et de confidentialité, notamment des contrôles d'accès, une surveillance et des politiques de divulgation responsable, et continuera de le faire à chaque étape.