Anthropic beschreibt Claude-KI-Missbrauch beim Diebstahl von Android-Geheimnissen

Anthropic sagt, dass mehrere Bedrohungsgruppen, darunter das finanziell motivierte Kollektiv ShinyHunters und staatlich unterstützte Spionageakteure, sein Claude-KI-Modell zwischen Dezember 2025 und August 2026 missbraucht haben, wobei eine Operation 1,8 Millionen Android-Anwendungspakete (APKs) massenhaft heruntergeladen und nach fest einprogrammierten Geheimnissen durchsucht hat.

Anthropic, das Unternehmen hinter Claude, verzeichnete über den Achtmonatszeitraum verschiedene Formen des Missbrauchs künstlicher Intelligenz, darunter für Cyberoperationen, Einflussoperationen, Überwachung, Betrug, die Entwicklung biologischer und konventioneller Waffen und Modell-Destillation. Das KI-Unternehmen unterbrach mehrere Aktivitäten, die mit ShinyHunters in Verbindung stehen, einem Kollektiv, das für große Datendiebstähle bekannt ist, die oft mit Social Engineering und Kontoübernahmen beginnen. Ein vermutlich französischsprachiges Mitglied mit dem Decknamen frkoo verteilte eine Pipeline zum Sammeln von Zugangsdaten über zehn AWS-EC2-Worker, also virtuelle Server von Amazon Web Services Elastic Compute Cloud. Diese Pipeline lud 1,8 Millionen verschiedene Android-APKs aus mehreren App-Store-Quellen herunter, dekompilierte sie und durchsuchte sie mit TruffleHog, einem Werkzeug, das Dateien nach versteckten Passwörtern und Schlüsseln absucht, nach fest einprogrammierten Geheimnissen. Verifizierte Funde wurden in Echtzeit an eine Telegram-Gruppe gesendet, die in mehr als 100 Quellentypen gegliedert war.

Derselbe Akteur betrieb einen separaten automatisierten Prozess, um E-Mail-Adressen von GitHub-Organisationen zu sammeln und sie dann zu verwenden, um GitHub Personal Access Tokens (PATs) zu erhalten, also geheime Codes, die anstelle von Passwörtern für programmatischen Zugriff verwendet werden. Anthropic erklärte, dass die beiden Pipelines anfängliche Zugangsdaten lieferten, die frkoo für den Großteil der bestätigten Sicherheitsverletzungen nutzte, die mit diesem Hacker in Verbindung gebracht werden. Der Akteur richtete außerdem einen Carding-Shop unter der Domain policenationale[.]cc ein, der die französische Nationalpolizei imitierte und gestohlene Zahlungskartendatensätze, vollständige Karteninhaberinformationen und eine interaktive Karte der Adressen der Opfer verkaufte. Vermutete ShinyHunters-Mitglieder stahlen zusätzlich KI-API-Schlüssel und nutzten sie, um andere Organisationen zu kompromittieren oder für Aufklärung. In einem Fall drangen sie in einen Software-as-a-Service-Anbieter ein und stahlen Daten, die etwa 200 nachgelagerten Kunden gehörten.

Mit Hilfe von Claude brauchte ein vermuteter ShinyHunters-Bedrohungsakteur etwa 34 Stunden, um Authentifizierungsdaten zu extrahieren und mehr als 2.100 Sätze von Microsoft Azure Active Directory (Azure AD)-Tokens zu erhalten, die mit über 40 separaten Unternehmensmandanten verknüpft waren. Anthropic sagte, dass KI-Agenten fast die gesamte Arbeit leisteten. Weitere schädliche Aktivitäten, die ShinyHunters-Affiliates zugeschrieben werden, umfassten das Eindringen in einen Technologieanbieter und den Diebstahl eines Terabytes an Daten, die Kompromittierung einer Fluggesellschaft und den Zugriff auf Systeme eines Energieunternehmens. Die Gruppe handelte schnell, nachdem sie anfänglichen Zugriff erlangt hatte. Im Fall eines Unternehmenssoftwareherstellers gingen Hacker innerhalb weniger Stunden zu massenhaftem Datendiebstahl über. In einem anderen Fall gelangte ein Angreifer in weniger als drei Stunden von einem einzelnen gestohlenen Entwickler-Token zu vollständiger administrativer Kontrolle.

Der Bericht von Anthropic hebt auch Aktivitäten hervor, die der russischen Spionagegruppe Midnight Blizzard zugeschrieben werden. Die Gruppe nutzte Claude, um Malware-Entwicklung, Infrastrukturbeschaffung, Phishing, Persistenz, Command-and-Control (C2)-Operationen und Datenexfiltration zu automatisieren. Sie richtete eine Rückkopplungsschleife ein, die Malware neu erstellte, wann immer Sicherheitsprodukte sie erkannten. Anthropic beobachtete, dass Midnight Blizzard mehr als 20 Regierungs-, Verteidigungs-, Diplomatie-, Geheimdienst- und außenpolitische Einrichtungen ins Visier nahm. Die Kampagnen umfassten Device-Code-Phishing, ClickFix-Angriffe und DNS-Hijacking, das Besucher umleitet, indem es DNS-Einträge über kompromittierte Hotel-WLAN-Anbieter ändert. Sie nutzten auch WhatsApp-Kontoübernahmen, Cloud-E-Mail-Diebstahl und Malware für Windows, Android und iOS. Claude wurde in allen Angriffsphasen eingesetzt, und die Gruppe automatisierte ihre Operationen durch KI-gesteuerte Workflows, die auf Claude Code Skills aufbauten, wobei menschliche Operatoren diese Skills hauptsächlich änderten, wenn eine Verfeinerung nötig war.

Anthropic beschreibt außerdem eine Spionageoperation, die einer chinesischsprachigen Gruppe mit der Bezeichnung GTG-10007 zugeschrieben wird. Die Gruppe nutzte Claude als Engineering- und Orchestrierungsschicht eines koordinierten offensiven Programms, das Eindringversuche gegen Produktionssysteme, Aufklärung ausländischer Regierungsnetzwerke im Nahen Osten, in Europa und Südostasien, eine dauerhafte Schwachstellenforschung und Exploit-Entwicklung gegen große Endpoint-Sicherheitsprodukte, Malware-Entwicklung und den Aufbau einer Plattform zur Informationssammlung umfasste. Die Gruppe betrieb autonome Workflows zur Schwachstellenforschung, während menschliche Operatoren abwesend waren, und deckte mehrere zuvor unbekannte Schwachstellen in einem großen Sicherheitsprodukt auf. Die automatisierte Anstrengung lieferte außerdem funktionierende Exploits für mehrere Familien von Netzwerk- und Sicherheitsgeräten, und der Akteur nutzte den Exploit-Code gegen mehrere Regierungsorganisationen. Die Operationen zielten auf etwa 50 Organisationen in den Bereichen Regierung, Bildung, Einzelhandel, Energie, Technologie, Gesundheitswesen, Finanzen und Fertigung, mit bestätigten Kompromittierungen bei einem Bildungstechnologieunternehmen, einem Einzelhändler und einer südostasiatischen Regierungsbehörde.

Anthropic sagte, es habe die Nutzung von Claude durch die Akteure für schädliche Aktivitäten unterbrochen, die Konten der Bedrohungsakteure gesperrt, seine Schutzmaßnahmen aufgrund der beobachteten bösartigen Nutzung angepasst, Maßnahmen hinzugefügt, um künftigen Missbrauch schneller zu erkennen, und Behörden, Industriepartner und Opfer kontaktiert. Für Website-Betreiber und IT-Teams ist diese Art von KI-unterstütztem Zugangsdatendiebstahl eine Erinnerung, zu überprüfen, wie Geheimnisse und Zugriffstokens behandelt werden; AEU-I bietet sicherheitsorientierte IT, Infrastruktur und Beratung, die Organisationen dabei helfen kann, die Art des Umgangs mit Zugangsdaten und API-Schlüsseln zu bewerten, die Angreifer in diesen Operationen ausgenutzt haben.