Sicurezza nell'era dell'IA: Mythos e il ritorno alle basi

Fin dagli albori dell'informatica, il nostro approccio alla sicurezza è sempre stato quello di rimandare il problema. Per decenni, la logica è stata "distribuisci ora, metti in sicurezza dopo". Nel tempo, questo approccio si è radicato profondamente in come facciamo le cose, con un'elaborata industria della sicurezza cresciuta attorno al modo in cui le organizzazioni costruiscono i sistemi per mantenere in movimento gli ingranaggi del business, senza mai affrontare le cause profonde.

Ma ora l'IA sta arrivando nel mondo della cybersecurity e non c'è più modo di nascondersi.

Ne stiamo parlando proprio ora perché ciò che pensavamo sarebbe accaduto in un futuro imprecisato sta in realtà accadendo sotto i nostri occhi. Pochi giorni fa, Anthropic, uno dei principali fornitori di IA, ha reso pubblico il suo modello di IA all'avanguardia, Mythos, che a quanto pare è estremamente abile nell'individuare problemi di sicurezza e sfruttarli. Hanno anche annunciato Project Glasswing, il loro impegno per divulgare responsabilmente migliaia di vulnerabilità appena scoperte.

C'è un palpabile senso di panico tra gli addetti alla sicurezza. I governi stanno emettendo avvisi alle aziende (Canada, Regno Unito). Questo è ciò che l'IA fa per natura: la conoscenza umana viene impacchettata, replicata e riprodotta a basso costo, nel bene e nel male.

Per capire perché questo sta avendo un impatto così forte sulla sicurezza, dobbiamo prima capire come funziona oggi la sicurezza informatica. In poche parole, e semplificando un po', niente è sicuro. L'industria della sicurezza non è progettata per risolvere i problemi di fondo, ma piuttosto per mantenere un equilibrio che permetta al business di andare avanti. In realtà, le imprese umane sono disordinate, le reti informatiche ancora di più, e nulla di tutto ciò è facile da risolvere.

Per fare solo un esempio, l'ultima versione di Chrome, uno dei software più sofisticati e curati, include un totale di 60 correzioni di sicurezza. Di queste, 2 sono classificate come critiche e 14 come elevate.

Il cambiamento cruciale è che ora l'IA sta individuando problemi, sia nel software che nelle reti informatiche, a un ritmo con cui non riusciamo più a tenere il passo. Fare di più di quanto già fatto non funziona.

Sarebbe facile liquidare Mythos come un'operazione di marketing ben riuscita, ma tutti gli altri indicatori e tendenze puntano nella stessa direzione. Nel Regno Unito, l'AI Security Institute testa i modelli di IA contro "cyber range" simulati che imitano ambienti reali. Hanno annunciato che Mythos è il primo modello ad aver completato con successo uno dei loro range. Senza supervisione.

Nel mondo dell'open source, che possiamo usare come una sorta di cartina tornasole, l'IA è stata inizialmente una forza negativa che ha generato un diluvio di segnalazioni di problemi inutili. Non più. Le segnalazioni che arrivano oggi sono valide, e praticamente tutte generate con l'aiuto dell'IA. Altri progetti riportano esperienze simili e lamentano difficoltà a tenere il passo.

Allo stesso tempo, HackerOne segnala un aumento significativo delle segnalazioni di bug, attribuito al fatto che l'IA aiuta i ricercatori di sicurezza a fare di più e ad amplificare le proprie capacità. Le aziende stanno facendo del loro meglio per tenere il passo, con tassi di correzione in aumento, ma non sono riuscite a eguagliare l'aumento delle segnalazioni.

Se vuoi approfondire l'aspetto tecnico, leggi questa testimonianza di un vero e proprio scrittore di exploit che ha dato una possibilità all'IA. La conclusione? È ancora goffa, ma funziona... e non potrà che migliorare. A differenza degli operatori umani, che hanno un limite intrinseco imposto dalla nostra biologia, i sistemi di IA hanno il potenziale per un autoapprendimento su una scala che può superare enormemente il nostro. Dobbiamo ricordarci, ancora una volta, che questa è la peggiore versione della tecnologia che vedremo mai.

Cosa fare ora? Una direzione, probabilmente l'opzione più semplice nel breve termine, è continuare a fare ciò che abbiamo sempre fatto, ma farlo meglio. Più facile a dirsi che a farsi. Gli agenti IA potrebbero aiutare nella difesa, ma ci sarà sempre un'asimmetria. Gli attaccanti possono scatenare i propri agenti offensivi senza alcuna preoccupazione, mentre i difensori devono comunque mantenere una supervisione su ciò che fanno i loro agenti difensivi. Inoltre, gli agenti IA stessi hanno ancora molta strada da fare prima di essere sicuri... un problema che il lato attaccante non ha.

Ma il consiglio a lungo termine che sta emergendo è quello di tornare alle basi. Può sembrare strano all'inizio, perché siamo così abituati allo stato attuale delle cose, ma l'insicurezza non è inevitabile. Gli ambienti complessi porteranno senza dubbio sempre a debolezze sfruttabili, ma c'è ancora così tanto "frutto a portata di mano" che potremmo raccogliere subito.

Quali sono queste basi? Prima di tutto, ogni organizzazione ha bisogno di un inventario accurato degli asset, aggiornato continuamente, alla velocità delle macchine. La stessa velocità a cui operano gli attaccanti. In secondo luogo, bisogna rimuovere spietatamente da internet tutto ciò che non ha bisogno di essere lì. L'oscurità ha funzionato a lungo come strumento di sicurezza, ma solo perché era costoso violarla. Se il costo della scoperta e dello sfruttamento tenderà a zero, la sicurezza basata sull'oscurità non sarà più praticabile. In terzo luogo, ciò che rimane online deve essere irrobustito e configurato correttamente. In quarto luogo, l'attività deve essere monitorata e la capacità di rilevamento migliorata.

Nel lungo termine, dobbiamo semplicemente smettere di aggiungere nuovi sistemi insicuri alle nostre reti. Stiamo assistendo al momento in cui distribuire software insicuro smetterà di essere economicamente sostenibile? La nostra unica opzione per il futuro è capire davvero come scrivere e distribuire software sicuro. Tornare alle basi, appunto.