KI-Unternehmen nutzen Schwachstellen aus Jahren technischer Schulden, um den Hype um KIs Fähigkeit zum Aufspüren von Sicherheitslücken zu befeuern.
Jüngste Sicherheitsvorfälle bei KI-Anbietern zeigen, wie gestohlene Zugangsdaten, zu vertrauensselige Integrationen und schwache Datengrenzen KI-Infrastruktur zu einem Kraftverstärker machen. Hier kann KI den Verteidigern helfen — und hier nicht.
Niemand hat in diesem Herbst eine neue Sünde erfunden. Die alten Sünden sind nur in neue Häuser gezogen — Häuser mit mehr Schlüsseln, mehr Türen und weniger Zeit zwischen einem aufgebrochenen Schloss und dem nächsten.
Drei Vorfälle aus den letzten Wochen. Seht, was sie teilen.
Das Feuer machte am Haus des Anbieters nicht halt
Im Oktober nahmen Angreifer Fireworks AI, einen Anbieter von KI-Infrastruktur. Ein an Fireworks ausgegebener Schlüssel — Cursor sagte es später — öffnete einen gemeinsamen Storage-Bucket, und in dem Bucket lagen historische Traces von Coding-Agenten, Aufzeichnungen, aufbewahrt zu einem anderen Zweck, so wie ein Mann alte Briefe aufbewahrt. Eine kleine Zahl dieser Briefe trug Zugangsdaten, die niemand geschwärzt hatte. Mit ihnen ging der Angreifer in ausgewählte Geschäftssysteme von Cursor. Von dort, mit einem gestohlenen Zugang, veröffentlichte er gefälschte Kopien von Anthropics Claude-Code-Erweiterung über Cursors eigenen Marketplace. Elf Stunden etwa hingen die Fälschungen dort. Bis zu fünftausend Nutzer, schätzt Cursor, könnten sie nach Hause getragen haben. Anthropics offizielle Erweiterung schlief unberührt. Open VSX ebenso.
Dasselbe Fireworks-Feuer, berichten Journalisten, erreichte Uber. Uber teilte diese Woche mit, dass kompromittierte Zugangsdaten eines Drittanbieters benutzt wurden, um an verbundene Fahrerdaten zu gelangen. Eine Meldung im Bundesstaat Maine zählt genau: 149.346 Fahrer — Namen, Führerscheinnummern, Geburtsdaten, Adressen. Ubers Mitteilung nannte den Anbieter nicht. Die Journalisten schon.
Die Lehre ist nicht, dass jeder KI-Anbieter eine Diebestür ist. Die Lehre ist: Eine Integration ist ein Korridor, der vom Urteil einer Firma geradewegs in die Daten einer anderen führt. Die Traces waren keine lebenden Prompts. Sie waren Geschichte, aufbewahrt zu einem eigenen Zweck. Die Geschichte, so zeigt sich, trägt noch immer Schlüssel bei sich.
Die Maschine macht einen schlechten Weg schnell
Im November erzählte Barracuda seine eigene Fassung derselben Geschichte. Ein Zugangsschlüssel, an einen KI-Anbieter für ein längst beendetes Projekt ausgegeben, war nie eingezogen worden. Schlüssel sterben nicht an Altersschwäche. Als die Entwicklungsumgebung des Anbieters später fiel, öffnete der Schlüssel Barracudas Cloud-Umgebung. Rund zehn Cloud-Konten, vierundvierzig Stunden Aktivität. Das Verhalten, sagte Barracuda, passte zu ARTEX, dem KI-gesteuerten Testframework.
Achtet auf diesen Satz. Eine Übereinstimmung mit einem Framework beschreibt die Waffe; sie nennt nicht die Hand, die sie hielt. Getrennt davon berichtete Microsoft von einem staatsnahen Akteur, der ARTEX gegen Hunderte Organisationen einsetzte — manche Einbrüche erreichten privilegierten Cloud-Zugang in unter drei Stunden. Und Microsoft merkte noch etwas an, etwas, das man zweimal unterstreichen sollte: Der größte Teil des breiten Targetings, das es beobachtete, scheiterte. Die Maschine erhöhte Tempo und Volumen. Das vorhandene Vertrauen und die Berechtigungen entschieden, was möglich war — wie immer.
Was die Vorfälle teilen, wenn man das Etikett abreißt
Reißt das KI-Etikett ab und seht, was auf dem Tisch liegen bleibt.
Zugangsdaten überlebten ihren Zweck — Anbieterschlüssel und Geheimnisse in alten Traces, noch warm, lange nachdem die Arbeit getan war. Vertrauen überquerte Grenzen, wie ein Betrunkener einen Hof überquert: frei, und ohne zu fragen, wem er gehört. Die Observability hinkte dem Zugriff hinterher, sodass unvollständige Logs, als die Stunde kam, nicht sagen konnten, was berührt und was verschont worden war. Und sensible Daten hatten sich in den Nebenzimmern angesammelt — Agenten-Traces, Support-Gespräche, Build-Logs, Analytics — ein Schatz, den niemand bewachte, weil niemand auf den Gedanken gekommen war, ihn Schatz zu nennen.
KI verändert die Ökonomie, all das auszunutzen. Sie wiederholt die Arbeit, passt sich der Antwort an, schläft nicht. Aber sie kann einen abgelaufenen Zugang nicht auferwecken und einen eng begrenzten nicht weiten. Den Explosionsradius setzt die Architektur. Das tat sie schon immer.
Wo die Maschine dem Verteidiger dient
Ein Security-Team kann KI während eines Vorfalls arbeiten lassen — als Assistenten, über die Beweise gebeugt, niemals als Autorität über der Produktion.
Baut eine erste Zeitleiste. Gebt einem freigegebenen Modell geschwärzte Alert-Zusammenfassungen und Audit-Ereignisse; lasst es nach Identität, Dienst und Zeit gruppieren. Verlangt, dass jede Schlussfolgerung auf eine Ereignis-ID zurückzeigt. Dann prüfe ein Analyst die Chronologie gegen die Quell-Logs, Zeile für Zeile.
Findet den Explosionsradius des Anbieters. Lasst die KI das Zugriffsinventar des Anbieters mit euren eigenen Inventaren von Anwendungen, Datensätzen und Zugangsdaten vergleichen. Sie wird wahrscheinliche Überschneidungen markieren und die Fragen, die niemand beantwortet hat. Sie kann euch nicht sagen, dass ein Zugang unbenutzt blieb, nur weil die Logs schweigen. Stille Logs beweisen nur, dass die Logs still sind.
Macht aus Befunden Prüfungen. Lasst bestätigte Fakten in eine Review-Checkliste und Testfälle umwandeln: welche Zugangsdaten hätten ablaufen müssen, welche Logs existieren müssen, welche Systeme einer stillgelegten Integration die Tür vor der Nase zuschlagen sollten. Ausführung und Freigabe bleiben beim Ingenieur.
Übt die Übergabe. Füttert einen internen Assistenten mit einem bereinigten Szenario und lasst ihn die Checkliste der ersten Stunde für Engineering, Security, Recht und Support entwerfen. Ihr prüft, ob die Verantwortlichen, die Kontakte und die Runbooks überhaupt auffindbar sind — besser, ihr entdeckt es am Schreibtisch als um drei Uhr morgens, wenn das Echte schon brennt.
Und fügt keine rohen Kundendatensätze, Geheimnisse oder ungeschwärzten Vorfalls-Logs in ein öffentliches Modell ein, um euch diese Bequemlichkeiten zu kaufen. Benutzt eine freigegebene Umgebung. Minimiert die Daten. Denkt daran, dass Prompts und Modell-Traces ein weiteres Zimmer sind, in dem sich Sensibles absetzt und wartet. Keine KI-generierte Zusammenfassung trifft eine Eindämmungsentscheidung oder schließt eine Untersuchung. Das tut ein Mensch, mit eigenen Augen.
Die Kontrollen, die sich nicht mehr aufschieben lassen
Die praktische Antwort ist alt. Die Vorfälle machen das Aufschieben nur peinlich.
- Macht Anbieter-Zugangsdaten kurzlebig und eng begrenzt, und widerruft sie automatisch, wenn das Engagement endet.
- Haltet Geheimnisse aus KI-Traces und Debug-Daten heraus. Schwärzt vor dem Speichern — vorher, nicht nach dem Vorfall.
- Gebt einer Integration nur die Berechtigungen, die ihre dokumentierte Funktion verlangt, und prüft die Vergabe, wenn diese Funktion sich ändert oder stirbt.
- Protokolliert den Zugriff auf sensible Datensätze und Dienstidentitäten — und bewahrt die Beweise lange genug auf, um sie untersuchen zu können.
- Probt, eine Anbieter-Integration zu widerrufen und ihre abhängigen Zugangsdaten zu rotieren, ohne unbeteiligte Produktionssysteme mitzureißen.
Die jüngsten Vorfälle sind ein nützlicher Anstoß, KI in der Security einzusetzen — aber nicht, weil die richtige Antwort noch ein Modell wäre. Lasst die Maschine euren Leuten helfen, Beweise zu prüfen, Lücken zu finden, Entscheidungen zu proben. Und dann sorgt dafür, dass die Zugangsdaten, die Berechtigungen und die Logs einer Maschine standhalten, die sich schneller bewegt als euer Incident-Prozess. Kein Eisen dringt ins Herz wie ein Punkt, gesetzt genau dorthin, wo er hingehört. Kein Angreifer dringt ein wie ein Zugang, den zu töten niemand daran gedacht hat.
Quellen
Wir möchten Ihre Gedanken hören.
unser CTO Kyrylo Osadchuk wird innerhalb von 24 Stunden antworten. Kein Verkaufstrichter.
Start a conversation
We want to hear your thoughts
Re: KI-Unternehmen nutzen Schwachstellen aus Jahren technischer Schulden, um den Hype um KIs Fähigkeit zum Aufspüren von Sicherheitslücken zu befeuern.