Google plant Gemini 4 Argon ohne Guardrails für die Cyber-Abwehr
Google hat am Mittwoch sein neuestes Frontier-Modell für künstliche Intelligenz (KI), Gemini 4 Argon, angekündigt und mitgeteilt, dass es über das Fairwind Program des Unternehmens an eine Gruppe vertrauenswürdiger Cyber-Verteidiger ausgerollt wird. Ein Frontier-KI-Modell ist eines der fortschrittlichsten Systeme, die ein Unternehmen derzeit anbietet. Laut Koray Kavukcuoglu, Senior Vice President von Google DeepMind und Chief AI Architect bei Google, ist das Modell darauf ausgelegt, komplexe Arbeitsabläufe in den Bereichen Softwareentwicklung, unternehmerische Wissensarbeit wie Recht und Finanzen sowie Cybersicherheitsabwehr zu bewältigen. Kavukcuoglu sagte, das Modell liefere in diesen Bereichen Frontier-Leistung, obwohl die Ankündigung über einen Vergleich mit Googles früherem Cybersicherheitsmodell hinaus keine spezifischen Benchmark-Ergebnisse enthielt.
Die Veröffentlichung erfolgt fast einen Monat, nachdem Google Gemini 3.8 Flash Cyber vorgestellt hatte, das das Unternehmen damals als das leistungsfähigste Cybersicherheitsmodell bezeichnete. Google sagt, dass Argon, ähnlich wie vergleichbare Modelle von Anthropic und OpenAI, äußerst fähig darin ist, kritische Software-Schwachstellen autonom zu finden, zu validieren und zu patchen. In einem Beispiel habe Argon eine zuvor unbekannte kritische Schwachstelle gefunden, die sensible persönliche Informationen in einer von Krankenhäusern weltweit genutzten Gesundheitssoftware offengelegt habe. Google nannte weder die betroffene Software noch Einzelheiten darüber, wie viele Organisationen oder Patienten betroffen waren. Laut Google zeigt Argon im Vergleich zu 3.8 Flash Cyber beeindruckende Fortschritte bei der Entdeckung von Schwachstellen und übertrifft das frühere Modell, wenn es darum geht, die Angriffsfläche einer Anwendung zu entdecken – die Einstiegspunkte, die ein Angreifer ins Visier nehmen könnte – und Proof-of-Concepts (PoCs) zu generieren, die funktionierende Demonstrationen sind, die bestätigen, dass eine Sicherheitslücke ausgenutzt werden kann.
Google gab bekannt, dass es plant, eine Version von Argon ohne Cyber-Guardrails für vertrauenswürdige Verteidiger und seine internen Teams freizugeben. Cyber-Guardrails sind eingebaute Einschränkungen, die begrenzen, was ein KI-Modell tun darf, und deren Entfernung würde es diesen Teams ermöglichen, die vollen Fähigkeiten des Modells für Sicherheitstests zu nutzen. Vor einem breiteren Rollout arbeite das Unternehmen daran, Schutzmaßnahmen zu verstärken, die verhindern, dass das Modell von seinen beabsichtigten Zielen abweicht (Misalignment), Missbrauch durch böswillige Akteure stoppen und es widerstandsfähig gegen Indirect Prompt Injections (IPIs) machen. Eine Indirect Prompt Injection ist ein Angriff, bei dem eine bösartige Anweisung in Inhalten versteckt wird, die ein KI-System später liest, etwa eine Webseite oder ein Dokument, um das Modell dazu zu verleiten, etwas Unbeabsichtigtes zu tun.
Google veröffentlichte eine Modellbewertung, die zeigt, dass Argon andere Modelle übertrifft und den ersten Platz in Gray Swans Benchmark für Indirect Prompt Injection belegt. Praktisch bedeutet das, dass das Modell besser als die Konkurrenz darin war, Angriffen zu widerstehen, bei denen ein Dritter versucht, es über platzierte Texte zu kontrollieren. Google gab außerdem an, Misalignment-Minderungsmaßnahmen einzusetzen, die Argons Chain-of-Thought überwachen – die schrittweise Argumentation, die ein Modell während der Arbeit erzeugt – sowie dessen Aktionen, und die Ausführung bei Bedarf stoppen. Das Unternehmen erklärte, es ermutige den Rest der Branche nachdrücklich, in diesen Momenten erhöhter Fähigkeiten die Transparenz der Argumentation zu bewahren, während man mit Alignment-Risiken umgeht, damit die Gedanken des Modells hilfreich bleiben, um Misalignment zu erkennen und zu diagnostizieren.
Für Website-Besitzer und IT-Teams ist die Entwicklung von Bedeutung, weil KI-Modelle, die Schwachstellen finden und validieren können, die Erkennung von Fehlern in Webanwendungen beschleunigen könnten, einschließlich solcher in Content-Management-Systemen, Plugins und benutzerdefiniertem Code. Dieselben Fähigkeiten bedeuten jedoch auch, dass Verteidiger, Patch-Management und sichere Konfiguration wichtiger werden, denn ein Modell kann schneller nachweisen, dass eine Schwachstelle real und ausnutzbar ist. Für Unternehmen, die solche Erkenntnisse in zeitnahe Patches und sichere Konfigurationen umsetzen müssen, bietet AEU-I sicherheitsorientierten IT-, Infrastruktur- und Beratungssupport.