Fake-KI-Angriffe nutzen vertrauenswürdige Marken zur Verbreitung von Malware
Fake-KI-Angriffe imitieren bekannte Dienste, um Malware zu verbreiten, aktive Browser-Sessions zu stehlen und Unternehmenskonten zu kompromittieren, wie aus Untersuchungen von ANY.RUN hervorgeht. Das Sicherheitsunternehmen brachte zwischen April und Oktober 2026 insgesamt 1.258 öffentliche sandbox-Analysen mit diesen Kampagnen in Verbindung. US-Unternehmen machten 16 % der Ziele aus, denen ein Land zugeordnet werden konnte. Damit sind die Aktivitäten für Unternehmen und managed security providers relevant, die für amerikanische Umgebungen verantwortlich sind.
Die Kampagnen ahmen das Erscheinungsbild von Claude, ChatGPT, GitHub Copilot, Gemini und anderen KI-Diensten nach. ANY.RUN fand Köder in gesponserten Suchergebnissen, auf legitimen Hosting-Diensten, in geteilten KI-Unterhaltungen und auf gefälschten Download-Websites. Beschäftigte werden dazu verleitet, Befehle auszuführen, veränderte Anwendungen zu installieren oder Zugangsdaten auf betrügerischen Anmeldeseiten einzugeben. Da die Namen und Abläufe vertraut wirken, können Beschäftigte glauben, eine gewöhnliche Installation oder Authentifizierung durchzuführen.
Bei einer Kampagne, die sich als Claude ausgab, zeigte eine Seite, die der offiziellen Download-Website des Dienstes ähneln sollte, eine Windows-Download-Schaltfläche. Durch deren Auswahl wurde ein Befehl in die Zwischenablage des Besuchers kopiert und es erschienen Anweisungen, diesen Befehl über PowerShell auszuführen, ein Windows-Werkzeug zur Automatisierung und Verwaltung von Computern. Der Befehl installierte nicht die erwartete Anwendung. Stattdessen startete er mshta.exe, ein legitimes Windows-Programm, das HTML Application-Dateien öffnen kann, rief eine schädliche HTA file ab und startete eine codierte PowerShell-Sequenz. In den abgeschlossenen Analysen von ANY.RUN wurden in der daraus entstehenden Ausführungskette Aktivitäten von Malware zum Diebstahl von Informationen festgestellt.
Diese Methode kann die Erkennung erschweren, weil der Beschäftigte den Vorgang selbst startet, legitime Windows-Werkzeuge Teile der Aktivität ausführen und der schädliche payload erst erscheint, nachdem mehrere Stufen durchlaufen wurden. ANY.RUN identifizierte außerdem wiederkehrende Verhaltensweisen in den Kampagnen, darunter verdächtige PowerShell-Installationsbefehle, die Ausführung von mshta.exe, codierte Download-Anweisungen und geplante Tasks, die Browser öffneten, um Sessions zu stehlen. Eine gestohlene Browser-Session kann es einem Angreifer ermöglichen, einen bereits angemeldeten Zustand wiederzuverwenden, anstatt mit einer normalen Anmeldung zu beginnen.
Die Kampagnen verursachen eine besondere Arbeitsbelastung für einen managed security service provider, kurz MSSP, der Bedrohungen für mehrere Kunden überwacht und darauf reagiert. Domains, Hosting-Dienste und die imitierten KI-Marken können wechseln, während die zugrunde liegenden Aktionen ähnlich bleiben. Verschiedene Kunden können zudem unterschiedliche Technologien, Richtlinien und Risikoeinstufungen verwenden, sodass Analysten Varianten derselben Technik wiederholt untersuchen müssen.
ANY.RUN unterteilte diesen operativen Druck in drei Bereiche. Monitoring-Teams müssen die Abdeckung aufrechterhalten, während Angreifer Infrastruktur und Marken austauschen. Triage-Teams müssen mehrstufige Ausführungsketten untersuchen, was Arbeitsaufwand und Eskalationen erhöhen kann. Threat Hunter müssen anschließend Erkenntnisse miteinander in Beziehung setzen und daraus wiederverwendbare Erkennungsregeln für andere Kundenumgebungen erstellen. Zu den betroffenen operativen Kennzahlen gehören mean time to detect, mean time to respond, Eskalationsraten, Untersuchungskosten und die Einhaltung von service level agreements.
Das Unternehmen erklärt, dass Analysten mit seiner Interactive Sandbox Klicks und andere Interaktionen in einer isolierten Umgebung reproduzieren und dabei Prozesse, Netzwerkverbindungen und schädliches Verhalten beobachten können. Eine sandbox ist eine getrennte Testumgebung, die verhindern soll, dass verdächtige Software normale Systeme direkt beeinträchtigt. ANY.RUN berichtet bei Verwendung seiner sandbox von einer medianen Bedrohungserkennungszeit von 14 Sekunden und 30 % weniger Eskalationen von Tier-1-Analysten an erfahrenere Tier-2-Mitarbeiter. Dabei handelt es sich um vom Anbieter gemeldete operative Kennzahlen im Zusammenhang mit seinem eigenen Dienst.
ANY.RUN erklärt außerdem, dass seine Threat Intelligence Feeds indicators of compromise beziehungsweise IOCs bereitstellen, die aus Untersuchungen von Malware und Phishing gewonnen werden. Ein IOC ist ein technischer Hinweis, etwa eine schädliche Infrastruktur, der bei der Identifizierung zugehöriger Aktivitäten helfen kann. Die Feeds können in Security Information and Event Management-Systeme integriert werden, die Sicherheitsereignisse erfassen und analysieren, sowie in Endpoint Detection and Response-Tools, die Computer auf verdächtiges Verhalten überwachen. Nach Angaben des Unternehmens sind 30 % der einzigartigen schädlichen IOCs, die seine Kunden bei sandbox-Untersuchungen finden, bereits in den Feeds enthalten. Das Unternehmen behauptet außerdem, dass 99 % seiner Feed-Indikatoren im Vergleich zu anderen Informationsquellen einzigartig seien.
Für Untersuchungen und Threat Hunting verknüpft Threat Intelligence Lookup von ANY.RUN verdächtige Indikatoren mit dem Verhalten von Malware, früheren Beobachtungen und der zugehörigen Kampagneninfrastruktur. Erklärtes Ziel ist es, einem MSSP zu ermöglichen, Belege aus einer Infektion bei einem Kunden zu übernehmen, an anderer Stelle nach damit verbundenen Aktivitäten zu suchen und Erkennungsregeln auf Grundlage von Verhaltensweisen zu aktualisieren, statt sich ausschließlich auf Domains zu verlassen, die Angreifer austauschen können. Das Unternehmen gibt an, dass seine Threat-Intelligence-Produkte pro Vorfall Zugriff auf 24-mal mehr IOCs bieten.
Weitere vom Anbieter gemeldete Zahlen umfassen eine um 36 % höhere Erkennungsrate, bis zu 58 % mehr identifizierte Bedrohungen und eine Verkürzung der Reaktionszeit um 21 Minuten. ANY.RUN stellt diese Ergebnisse als Möglichkeit dar, wiederholte Untersuchungen zu reduzieren, erfahrene Analysten für komplexere Vorfälle verfügbar zu halten und bei steigenden Warnungsmengen die vereinbarten Servicelevels einzuhalten. Die Publikation, in der die Ergebnisse erschienen sind, kennzeichnet den Artikel als einen von einem Partner beigesteuerten Beitrag. Leser sollten daher berücksichtigen, dass die Angaben zur operativen Leistung Teil einer Anbieterpräsentation sind, während die beschriebene Infektionskette und die Beobachtungen zu den Kampagnen den Analysen von ANY.RUN zugeschrieben werden.
Für Websitebetreiber und IT-Teams in Unternehmen besteht die unmittelbare Erkenntnis darin, dass eine professionell gestaltete Download-Seite, gehostete Inhalte oder ein gesponsertes Ergebnis nicht allein deshalb als vertrauenswürdig gelten sollten, weil sie einem bekannten KI-Dienst ähneln. Unerwartete Anweisungen, Befehle in PowerShell einzufügen, sind besonders bedeutsam, weil sie den normalen Installationsprozess für Anwendungen umgehen und eine mehrstufige Infektion auslösen können. Unternehmen sollten verwaltete Geräte außerdem nach den von ANY.RUN dokumentierten wiederkehrenden Verhaltensweisen durchsuchen, statt sich ausschließlich auf Websiteadressen zu verlassen, die sich schnell ändern können.
Für Unternehmen, die die umfassendere Verwaltung ihrer Technologieumgebung überprüfen, bietet AEU-I security-first IT, Infrastruktur und Beratung. Fake-KI-Angriffe beruhen letztlich darauf, dass eine Person einen gefälschten Installations- oder Anmeldeablauf akzeptiert. Daher bleiben klare Verfahren für die Softwareinstallation und eine schnelle Überprüfung ungewöhnlicher Kontoaktivitäten neben der technischen Überwachung wichtig.