La sécurité à l'ère de l'IA : Mythos et le retour aux fondamentaux

Depuis les débuts de l'informatique, notre approche de la sécurité a consisté à repousser le problème à plus tard. Pendant des décennies, la logique a été « déployer maintenant, sécuriser plus tard ». Au fil des années, cette approche s'est profondément ancrée dans notre façon de faire, avec une industrie de la sécurité élaborée qui s'est développée autour de la manière dont les organisations construisent leurs systèmes pour maintenir la roue du business en marche, sans jamais s'attaquer aux causes profondes.

Mais aujourd'hui, l'IA s'attaque à la cybersécurité, et il n'y a plus nulle part où se cacher.

Nous en parlons aujourd'hui car ce que nous pensions voir arriver dans un futur lointain est en fait en train de se produire sous nos yeux. Il y a quelques jours, Anthropic, l'un des principaux fournisseurs d'IA, a dévoilé son modèle d'IA de pointe, Mythos, qui semble particulièrement doué pour détecter des failles de sécurité et les exploiter. Ils ont également annoncé le Project Glasswing, leur initiative visant à divulguer de manière responsable des milliers de vulnérabilités nouvellement découvertes.

On ressent une panique palpable parmi les professionnels de la sécurité. Les gouvernements émettent des avertissements aux entreprises (Canada, Royaume-Uni). C'est l'IA qui fait ce qu'elle sait faire : le savoir humain est encapsulé, reproduit et rejoué à faible coût, pour le meilleur et pour le pire.

Pour comprendre pourquoi cela impacte autant la sécurité, il faut d'abord comprendre comment fonctionne la sécurité informatique aujourd'hui. En résumé, et en simplifiant quelque peu, rien n'est sécurisé. L'industrie de la sécurité n'est pas conçue pour résoudre les problèmes sous-jacents, mais plutôt pour maintenir un équilibre permettant à l'activité économique de se poursuivre. En réalité, les entreprises humaines sont désordonnées, les réseaux informatiques le sont encore plus, et rien de tout cela n'est facile à corriger.

Pour ne citer qu'un exemple, la dernière version de Chrome, l'un des logiciels les plus sophistiqués et les mieux entretenus, comprend un total de 60 correctifs de sécurité. Parmi ceux-ci, 2 sont classés critiques et 14 sont classés élevés.

Le changement crucial est que l'IA découvre désormais des failles, que ce soit dans les logiciels ou les réseaux informatiques, à un rythme que nous ne pouvons plus suivre. Faire plus de la même chose ne fonctionne plus.

Il serait facile de balayer Mythos comme un coup de communication bien exécuté, mais tous les autres indicateurs et tendances pointent dans la même direction. Au Royaume-Uni, l'AI Security Institute teste des modèles d'IA face à des « cyber ranges » simulés qui reproduisent des environnements réels. Ils ont annoncé que Mythos est le premier modèle à avoir terminé avec succès l'un de ces environnements. Sans supervision.

Dans le monde de l'open source, que nous pouvons utiliser comme une sorte de canari, l'IA a d'abord été une force négative, générant un déluge de signalements de problèmes inutiles. Ce n'est plus le cas. Les rapports qui arrivent aujourd'hui sont de qualité, et pratiquement tous générés avec l'aide de l'IA. D'autres projets rapportent des expériences similaires et se plaignent de la difficulté à suivre le rythme.

Dans le même temps, HackerOne signale une augmentation significative des soumissions de bugs, attribuée à l'IA qui aide les chercheurs en sécurité à en faire davantage et à démultiplier leurs capacités. Les entreprises font de leur mieux pour suivre le rythme, avec des taux de remédiation en hausse, mais elles n'ont pas réussi à égaler l'augmentation des soumissions.

Pour ceux qui souhaitent aller plus loin techniquement, lisez ce témoignage d'un véritable rédacteur d'exploits qui a donné sa chance à l'IA. La conclusion ? C'est encore maladroit, mais ça fonctionne... et ça ne fera que s'améliorer. Contrairement aux opérateurs humains, qui sont limités par notre biologie, les systèmes d'IA ont un potentiel d'auto-apprentissage à une échelle qui peut largement surpasser la nôtre. Encore et encore, nous devons nous rappeler que c'est la pire version de cette technologie que nous verrons jamais.

Que faire maintenant ? Une direction, probablement l'option la plus simple à court terme, consiste à continuer de faire ce que nous avons toujours fait, mais en mieux. C'est plus facile à dire qu'à faire. Les agents d'IA pourraient aider à la défense, mais il y aura toujours une asymétrie. Les attaquants peuvent laisser leurs agents offensifs agir librement sans se soucier de rien, tandis que les défenseurs doivent toujours superviser ce que font leurs agents défensifs. En outre, les agents d'IA eux-mêmes ont encore du chemin à parcourir avant d'être sécurisés... un problème que le camp attaquant n'a pas.

Mais le conseil qui émerge à long terme est de revenir aux fondamentaux. Cela peut sembler étrange au premier abord, car nous sommes tellement habitués à l'état actuel des choses, mais l'insécurité n'est pas une fatalité. Les environnements complexes mèneront sans doute toujours à des failles exploitables, mais il existe tellement de fruits à portée de main que nous pourrions cueillir dès maintenant.

Quels sont ces fondamentaux ? Tout d'abord, chaque organisation a besoin d'un inventaire précis de ses actifs, mis à jour en continu, à la vitesse des machines. C'est-à-dire à la même vitesse que celle des attaquants. Deuxièmement, il faut impitoyablement retirer d'internet tout ce qui n'a pas besoin d'y être. L'obscurité a longtemps servi la sécurité, mais uniquement parce qu'il était coûteux de la contourner. Si le coût de la découverte et de l'exploitation tend vers zéro, la sécurité par l'obscurité ne sera plus viable. Troisièmement, ce qui reste en ligne doit être renforcé et bien configuré. Quatrièmement, l'activité doit être surveillée et la détection améliorée.

À long terme, il faut simplement cesser d'ajouter de nouveaux systèmes non sécurisés à nos réseaux. Sommes-nous en train d'assister au moment où déployer des logiciels non sécurisés cesse d'être économiquement viable ? Notre seule option pour l'avenir est réellement de comprendre comment écrire et déployer des logiciels sécurisés. Retour aux fondamentaux, en effet.