Sicurezza degli AI agent: le sessioni umane richiedono nuovi controlli
La sicurezza degli AI agent diventa più difficile quando il software può agire all’interno della authenticated session di un utente, cioè una sessione del browser che ha già effettuato l’accesso a un’applicazione. Token ha creato un agent chiamato Rehearsal per rispondere alle domande all’interno della propria piattaforma operando sull’interfaccia invece di limitarsi a spiegare cosa fare. Apre pagine del browser, applica filtri e completa moduli senza dover ricevere istruzioni per ogni passaggio.
Questo design è utile, ma dà anche all’agent la stessa portata della persona della cui sessione usa l’accesso. Per il server dell’applicazione, i clic dell’agent sembrano i clic dell’utente perché un session cookie, cioè i dati del browser che mantengono l’accesso di una persona, non identifica chi stia effettivamente controllando la sessione. L’applicazione potrebbe quindi non sapere che sta agendo un agent, quale persona abbia delegato il lavoro o cosa fosse autorizzato a fare l’agent.
Token sostiene che le organizzazioni dovrebbero fornire agli AI agent tre proprietà di sicurezza separate: una propria identità, un accesso limitato al lavoro assegnato e activity records tracciabili separatamente da quelli di un utente umano. Inizialmente Rehearsal non disponeva di nessuna delle tre per impostazione predefinita. Tuttavia, poiché Token controlla sia Rehearsal sia la piattaforma, ha potuto aggiungere internamente queste protezioni.
Mentre Rehearsal è operativo, Token attenua e blocca l’applicazione e mostra chi ne ha il controllo. Registra ogni azione in una sessione, comprese quelle bloccate. L’agent riceve inoltre meno accessi dell’utente. I suoi dashboard sono read-only, non può salvare modifiche senza l’approvazione dell’utente, non completa i campi segreti e non invia mai una richiesta che la piattaforma abbia rifiutato. Rehearsal comprende i controlli del dashboard tramite accessibility labels, cioè le descrizioni che aiutano il software a identificare la funzione di un controllo della pagina.
Queste protezioni sono più semplici quando la stessa organizzazione possiede l’agent e l’applicazione. Un agent che opera in un customer relationship management system o in una cloud console potrebbe non avere un’identità dell’attore, una mappa della pagina o un modo per riconoscere quale campo contenga un segreto e quale pulsante elimini un record. L’applicazione continua a vedere la sessione umana e i diritti dell’utente.
Diversi standard e browser feature stanno iniziando ad affrontare alcuni aspetti di questo problema. Un browser può identificare quando opera un agent e imporre dei limiti. Chrome auto-browse richiede l’approvazione di una persona per azioni ad alto impatto, come pagamenti e invii massivi di email, limita l’agent ai siti necessari per l’attività e contrassegna le pagine visitate nella cronologia dell’utente. Microsoft consente agli amministratori di attivare l’agentic browsing per singolo sito e di metterlo in pausa prima dell’inserimento di password e numeri di carta.
Le applicazioni possono anche pubblicare azioni come strumenti, invece di costringere un agent a indovinare la funzione dei controlli dell’interfaccia. WebMCP, una bozza redatta da Google e Microsoft in un gruppo della community W3C, consente a un sito di esporre azioni che un agent può chiamare direttamente e di indicare ogni azione come read-only o consequential. Web Bot Auth, una bozza di un gruppo di lavoro IETF, consente a un sito di verificare quale agent abbia inviato una richiesta.
Queste misure non formano ancora una catena completa di contesto. Il browser può sapere che sta operando un agent, ma Chrome ed Edge non descrivono come trasferire questa informazione all’applicazione. Uno strumento WebMCP opera comunque all’interno della sessione dell’utente con i diritti dell’utente, quindi non restringe da solo l’accesso dell’agent. Web Bot Auth identifica l’agent, ma la sua bozza non tratta la delega e quindi non indica la persona per conto della quale l’agent sta agendo.
Il contesto minimo di sicurezza utile comprende quindi tre elementi: l’identità dell’agent, un collegamento verificabile con la persona che rappresenta e un task scope più ristretto dell’accesso di quella persona. Senza tutti e tre, un percorso più rapido specifico per gli agent può diventare anche un modo più rapido per abusare dei privilegi esistenti.
I team di sicurezza dovrebbero iniziare identificando browser agent, estensioni agentic ed endpoint agent che possono operare tramite sessioni con accesso già effettuato, per poi associarli agli utenti e ai proprietari coinvolti. Dovrebbero tracciare ogni utilizzatore di ciascun agent, verificare le identità a sua disposizione e cercare i percorsi di attacco che potrebbero aggirare gli access controls. Le azioni sensibili o irreversibili dovrebbero richiedere un’approvazione esplicita o step-up authentication, cioè un controllo aggiuntivo dell’identità come una richiesta di passkey.
I team dovrebbero inoltre chiedere ai principali fornitori di software-as-a-service se i loro audit records distinguono l’attività degli agent da quella umana e se supportano la task-scoped delegation. Finché browser e applicazioni non saranno in grado di trasmettere insieme identità dell’agent, delega umana e task scope, ogni agent che utilizza una sessione umana dovrebbe essere trattato come un accesso delegato che deve essere individuato, limitato e sottoposto ad audit. Per le organizzazioni che stanno esaminando questi rischi, AEU-I offre servizi IT, infrastruttura e consulenza security-first.