AI agent security: Für menschliche Sitzungen braucht es neue Kontrollen
AI agent security wird schwieriger, wenn Software innerhalb einer authenticated session eines Nutzers handeln kann – also innerhalb einer Browser-Sitzung, die bereits bei einer Anwendung angemeldet ist. Token entwickelte einen AI agent namens Rehearsal, der Fragen innerhalb seiner Plattform beantwortet, indem er die Benutzeroberfläche bedient, statt lediglich zu erklären, was zu tun ist. Er öffnet Browser-Seiten, wendet Filter an und füllt Formulare aus, ohne für jeden einzelnen Schritt angewiesen werden zu müssen.
Dieses Design ist nützlich, verleiht dem AI agent aber auch die Reichweite der Person, deren Sitzung er verwendet. Für den Server der Anwendung sehen die Klicks des AI agent wie die Klicks des Nutzers aus, weil ein session cookie – also Browserdaten, die einen Nutzer angemeldet halten – nicht erkennen lässt, wer die Sitzung tatsächlich steuert. Die Anwendung weiß daher möglicherweise nicht, dass ein AI agent handelt, welche Person die Arbeit delegiert hat oder was der AI agent tun sollte.
Token zufolge sollten Organisationen AI agent drei voneinander getrennte Sicherheitseigenschaften geben: eine eigene Identität, einen auf den zugewiesenen Auftrag begrenzten Zugriff und Aktivitätsaufzeichnungen, die sich getrennt von einem menschlichen Nutzer nachvollziehen lassen. Rehearsal verfügte standardmäßig zunächst über keine dieser drei Eigenschaften. Da Token jedoch sowohl Rehearsal als auch die Plattform kontrolliert, konnte das Unternehmen diese Schutzmaßnahmen intern ergänzen.
Während Rehearsal arbeitet, blendet Token die Anwendung ab, sperrt sie und zeigt an, wer die Kontrolle hat. Das Unternehmen zeichnet jede Aktion innerhalb einer Sitzung auf, einschließlich blockierter Aktionen. Der AI agent erhält außerdem weniger Zugriffsrechte als der Nutzer. Seine Übersichten sind schreibgeschützt, er kann ohne Zustimmung des Nutzers keine Änderungen speichern, füllt keine geheimen Felder aus und sendet niemals eine Anfrage, die von der Plattform abgelehnt wurde. Rehearsal versteht Steuerelemente der Übersichten anhand von accessibility labels, also Beschreibungen, die Software dabei helfen, die Funktion eines Steuerelements auf einer Seite zu erkennen.
Diese Schutzmaßnahmen sind leichter umzusetzen, wenn dieselbe Organisation den AI agent und die Anwendung besitzt. Ein AI agent, der ein Customer-Relationship-Management-System oder eine Cloud-Konsole bedient, verfügt möglicherweise weder über eine actor identity noch über eine Abbildung der Seite oder eine Möglichkeit zu erkennen, welches Feld ein Geheimnis enthält und welche Schaltfläche einen record löscht. Die Anwendung sieht weiterhin die menschliche Sitzung und die Rechte des Nutzers.
Mehrere Standards und Browser-Funktionen beginnen, Teile dieses Problems anzugehen. Ein Browser kann erkennen, wann ein AI agent arbeitet, und Grenzen durchsetzen. Chrome auto-browse verlangt bei wichtigen Aktionen wie Zahlungen und Massen-E-Mails die Zustimmung einer Person, beschränkt den AI agent auf für die Aufgabe erforderliche Websites und kennzeichnet besuchte Seiten im Verlauf des Nutzers. Microsoft ermöglicht Administratoren, agentic browsing für einzelne Websites zu aktivieren und vor der Eingabe von Passwörtern und Kartennummern zu pausieren.
Anwendungen können Aktionen auch als Tools veröffentlichen, statt einen AI agent raten zu lassen, was Steuerelemente der Benutzeroberfläche bewirken. WebMCP, ein von Google und Microsoft in einer W3C-Community-Gruppe ausgearbeiteter Entwurf, ermöglicht es einer Website, Aktionen bereitzustellen, die ein AI agent direkt aufrufen kann, und jede Aktion als schreibgeschützt oder folgenschwer zu kennzeichnen. Web Bot Auth, ein Entwurf einer IETF-Arbeitsgruppe, ermöglicht es einer Website zu überprüfen, welcher AI agent eine Anfrage gesendet hat.
Diese Maßnahmen bilden noch keine vollständige Kette aus Kontextinformationen. Der Browser weiß möglicherweise, dass ein AI agent die Steuerung übernimmt, aber Chrome und Edge beschreiben nicht, wie diese Information an die Anwendung weitergegeben werden soll. Ein WebMCP-Tool arbeitet weiterhin innerhalb der Sitzung des Nutzers mit dessen Rechten und schränkt den Zugriff des AI agent daher nicht automatisch ein. Web Bot Auth identifiziert den AI agent, aber sein Entwurf behandelt keine Delegation und lässt somit die Person außer Betracht, in deren Namen der AI agent handelt.
Der mindestens erforderliche nützliche Sicherheitskontext besteht daher aus drei Teilen: der Identität des AI agent, einer überprüfbaren Verbindung zu der von ihm vertretenen Person und einem task scope, der enger ist als der Zugriff dieser Person. Ohne alle drei Elemente kann ein schnellerer, auf AI agent zugeschnittener Weg auch zu einer schnelleren Möglichkeit werden, bestehende Berechtigungen zu missbrauchen.
Sicherheitsteams sollten zunächst Browser-Agenten, agentic-Erweiterungen und endpoint agents ermitteln, die über angemeldete Sitzungen arbeiten können, und sie anschließend den beteiligten Nutzern und Verantwortlichen zuordnen. Sie sollten alle Nutzer jedes AI agent nachverfolgen, die ihm verfügbaren Identitäten überprüfen und nach Angriffspfaden suchen, über die sich access controls umgehen lassen. Für sensible oder nicht rückgängig zu machende Aktionen sollte eine ausdrückliche Zustimmung oder step-up authentication erforderlich sein, also eine zusätzliche Identitätsprüfung wie die Aufforderung zur Verwendung eines passkey.
Teams sollten wichtige Software-as-a-Service-Anbieter außerdem fragen, ob ihre audit records Aktivitäten eines AI agent von menschlichen Aktivitäten unterscheiden und ob sie task-scoped delegation unterstützen. Solange Browser und Anwendungen die Identität des AI agent, die Delegation durch eine Person und den task scope nicht gemeinsam übertragen können, sollte jeder AI agent, der eine menschliche Sitzung verwendet, als delegierter Zugriff behandelt werden, der erkannt, begrenzt und geprüft werden muss. Organisationen, die diese Risiken untersuchen, bietet AEU-I IT, Infrastruktur und Beratung mit Sicherheitsfokus.