← Tutti gli articoli

AI exploits vengono creati più rapidamente a partire dalle security patch

AI exploits vengono creati più rapidamente a partire dalle security patch

Gli AI exploits stanno diventando più rapidi da creare e distribuire, mentre i threat actor vanno oltre la semplice richiesta di singole risposte all’intelligenza artificiale. Il Google Threat Intelligence Group (GTIG) afferma che gli attaccanti utilizzano framework autonomi multi-agente, ovvero diversi agenti software in grado di svolgere attività collegate con una direzione umana limitata, per condurre intrusioni articolate in più fasi a maggiore velocità.

I framework citati da GTIG includono ARTEX, CAIRN, CyberStrikeAI e PentAGI. I threat actor stanno inoltre abusando di framework open source per i penetration test, strumenti progettati per valutare la sicurezza, allo scopo di automatizzare singole fasi e attività operative durante attacchi in corso. Google afferma che gruppi motivati da interessi finanziari e presunti attori di cyberspionaggio allineati con la Cina sono stati osservati mentre sperimentavano questi framework e sistemi correlati.

Secondo GTIG, il cambiamento più ampio consiste nel fatto che ora gli attacchi possono essere organizzati alla velocità delle macchine. I metodi d’attacco alla base potrebbero non essere nuovi, ma gli strumenti automatizzati possono collegare diversi percorsi d’attacco e ampliare le operazioni più rapidamente. I framework open source riducono inoltre la barriera tecnica per gli attaccanti meno esperti, rendendo più semplice integrare gli exploit, ampliare gli attacchi e creare campagne di phishing convincenti.

Un’importante area di preoccupazione riguarda l’uso dei large language models, o LLM, sistemi AI addestrati per generare e analizzare linguaggio e codice. Gli attaccanti usano gli LLM e gli agentic frameworks, sistemi che permettono agli strumenti AI di pianificare ed eseguire attività, per fare reverse engineering delle software patch attraverso la differential analysis. Ciò significa confrontare una versione corretta con una versione precedente per identificare che cosa è cambiato e dedurre quale vulnerabilità sia stata risolta.

Questo processo può aiutare gli attaccanti a trasformare rapidamente in strumenti d’attacco le vulnerabilità appena rese pubbliche. Google ha osservato questa attività in relazione alle vulnerabilità di PaperCut NG/MF all’inizio di settembre. GTIG afferma che gli attaccanti potrebbero trovare più efficiente concentrare un LLM su una raccolta limitata di materiali, comprese diverse versioni del codice sorgente, versioni pre-release o preview, note di rilascio, ricerche sulla sicurezza e codice proof of concept. Un proof of concept, o POC, è una dimostrazione funzionante che mostra come sfruttare una vulnerabilità.

Questo può comprimere il periodo tra la pubblicazione di una patch e lo sfruttamento attivo. Il software interessato potrebbe avere già una correzione disponibile, ma le organizzazioni devono comunque applicarla prima che gli attaccanti possano usare le informazioni rivelate dalla modifica. Per i proprietari di siti web e i team IT, il risultato rende particolarmente importante la rapidità della gestione delle patch, perché una correzione pubblica può fornire anche indizi utili sul difetto che risolve.

Google ha inoltre descritto l’uso improprio di altri servizi e framework. ZeroHollow è un servizio di inferenza utilizzato per lo sviluppo di exploit e per instradare le richieste tra gli LLM. Agent Zero è un framework agentico open source che include l’esecuzione autonoma del codice e la generazione dinamica di strumenti, consentendo di creare o selezionare strumenti al variare delle attività.

Anche l’infrastruttura AI viene presa di mira dagli attaccanti per ottenere profitti. Negli attacchi di LLMjacking, rubano le credenziali LLM, cioè i dati di accesso usati per connettersi ai servizi AI, e le risorse cloud dagli ambienti aziendali compromessi. L’accesso rubato può poi essere rivenduto tramite servizi proxy clandestini come APIMart e JetNight a prezzi ridotti. Questi servizi di rivendita sono noti anche come LLM mixers.

Il phishing viene automatizzato in parallelo. Jieyou, una piattaforma di phishing in lingua cinese, ha aggiunto un assistente chatbot LLM che permette ai clienti di configurare i pannelli di phishing e modificare i template esistenti usando comandi in linguaggio naturale. Il phishing consiste nell’uso di messaggi o pagine ingannevoli per indurre le persone a fornire informazioni o accessi.

GTIG afferma che ciò riflette una tendenza più ampia tra i fornitori di phishing-as-a-service, o PhaaS. Questi servizi forniscono infrastrutture di phishing a clienti che potrebbero non avere le competenze per crearle autonomamente. Invece di modificare manualmente i payload, gli affiliati meno esperti possono usare istruzioni del chatbot per personalizzare storie ingannevoli e interfacce di phishing mentre un’operazione è in corso. Il risultato è un percorso più breve dall’intenzione dell’attaccante a una campagna di phishing personalizzata.

Le aziende possono ridurre l’esposizione applicando tempestivamente le security patch, verificando quali dipendenti e servizi possono accedere agli account AI e cloud e proteggendo gli accessi agli account con l’autenticazione a più fattori, che richiede una conferma aggiuntiva oltre alla password. I proprietari di siti web dovrebbero inoltre mantenere aggiornati il software di hosting e le applicazioni collegate, mentre il personale dovrebbe trattare con cautela le richieste di accesso inattese e i messaggi urgenti. AEU-I offre servizi IT, infrastruttura e consulenza orientati alla sicurezza, pertinenti per le organizzazioni che stanno valutando questi rischi nei propri sistemi.

I risultati non significano che ogni attacco sia completamente autonomo, ma mostrano come gli agenti AI e gli strumenti open source possano automatizzare un numero sufficiente di attività separate da rendere lo sfruttamento e il phishing più rapidi, estesi e accessibili agli attaccanti.

Disponibile anche in: EnglishDeutschShqip