Firmy AI wykorzystują podatności zrodzone z lat długu technicznego, żeby nakręcać szum wokół zdolności AI do znajdowania luk w bezpieczeństwie.
Niedawne włamania u dostawców AI pokazują, jak skradzione poświadczenia, nadmiernie obdarzone zaufaniem integracje i słabe granice danych zamieniają infrastrukturę AI w mnożnik siły. Oto gdzie AI może pomóc obrońcom, a gdzie nie.
Nikt nie wymyślił tej jesieni nowego grzechu. Stare grzechy po prostu przeprowadziły się do nowych domów — domów z większą liczbą kluczy, większą liczbą drzwi i krótszym czasem między jednym wyłamanym zamkiem a następnym.
Trzy incydenty z ostatnich tygodni. Patrz, co je łączy.
Ogień nie zatrzymał się na domu dostawcy
W październiku atakujący wzięli Fireworks AI, dostawcę infrastruktury AI. Klucz wydany Fireworks — powiedział to później Cursor — otwierał współdzielony bucket storage, a w buckecie leżały historyczne trace'y agentów kodujących, zapisy przechowywane w innym celu, tak jak człowiek przechowuje stare listy. Niewielka część tych listów niosła poświadczenia, których nikt nie zredagował. Z nimi atakujący wszedł do wybranych systemów biznesowych Cursora. Stamtąd, ze skradzionym poświadczeniem, opublikował podrobione kopie rozszerzenia Claude Code od Anthropic przez marketplace samego Cursora. Podróbki wisiały tam około jedenastu godzin. Do pięciu tysięcy użytkowników, szacuje Cursor, mogło zabrać je do domu. Oficjalne rozszerzenie Anthropic spało nietknięte. Open VSX też.
Ten sam pożar Fireworks, mówią reporterzy, dotarł do Ubera. Uber ujawnił w tym tygodniu, że skompromitowane poświadczenia zewnętrznego dostawcy posłużyły do sięgnięcia po powiązane dane kierowców. Zgłoszenie w stanie Maine liczy dokładnie: 149 346 kierowców — nazwiska, numery praw jazdy, daty urodzenia, adresy. Zawiadomienie Ubera nie wymieniło dostawcy. Reporterzy wymienili.
Lekcja nie brzmi, że każdy dostawca AI to drzwi dla złodzieja. Lekcja brzmi: integracja to korytarz biegnący od osądu jednej firmy prosto do danych drugiej. Trace'y nie były żywymi promptami. Były historią, przechowywaną w osobnym celu. Historia, jak się okazuje, wciąż nosi przy sobie klucze.
Maszyna robi ze złej drogi szybką
W listopadzie Barracuda opowiedziała własną wersję tej samej historii. Klucz dostępu, wydany dostawcy AI do dawno zakończonego projektu, nigdy nie został wycofany. Klucze nie umierają ze starości. Gdy środowisko deweloperskie dostawcy później padło, klucz otworzył środowisko chmurowe Barracudy. Około dziesięciu kont chmurowych, czterdzieści cztery godziny aktywności. Zachowanie, powiedziała Barracuda, było zgodne z ARTEX, frameworkiem testowym sterowanym przez AI.
Uważaj na to zdanie. Dopasowanie do frameworka opisuje broń; nie nazywa ręki, która ją trzymała. Osobno Microsoft doniósł o powiązanym z państwem aktorze używającym ARTEX przeciwko setkom organizacji — niektóre włamania osiągały uprzywilejowany dostęp do chmury w niecałe trzy godziny. I Microsoft zauważył coś jeszcze, coś wartego podkreślenia dwa razy: większość szerokiego targetowania, które obserwował, zawiodła. Maszyna podniosła tempo i wolumen. Istniejące zaufanie i uprawnienia zdecydowały, co było możliwe — jak zawsze.
Co łączy te incydenty, gdy zerwać etykietę
Zerwij etykietę AI i spójrz, co zostało na stole.
Poświadczenia przeżyły swój cel — klucze dostawców i sekrety w starych trace'ach, wciąż ciepłe długo po skończonej robocie. Zaufanie przekraczało granice, jak pijak przechodzi przez podwórko: swobodnie i nie pytając, czyje ono jest. Observability wlokła się za dostępem, więc gdy przyszła godzina, niekompletne logi nie umiały powiedzieć, czego dotknięto, a co oszczędzono. A wrażliwe dane nagromadziły się w bocznych pokojach — trace'y agentów, rozmowy supportu, logi buildów, analityka — skarb, którego nikt nie pilnował, bo nikomu nie przyszło do głowy nazwać go skarbem.
AI zmienia ekonomię wykorzystywania tego wszystkiego. Powtarza pracę, dostosowuje się do odpowiedzi, nie śpi. Ale nie wskrzesi wygasłego poświadczenia ani nie poszerzy wąsko ograniczonego. Promień rażenia wyznacza architektura. Zawsze wyznaczała.
Gdzie maszyna służy obrońcy
Zespół bezpieczeństwa może zaprząc AI do pracy podczas incydentu — jako asystenta pochylonego nad dowodami, nigdy jako władzę stojącą nad produkcją.
Zbuduj pierwszą wersję osi czasu. Daj zatwierdzonemu modelowi zredagowane podsumowania alertów i zdarzenia audytowe; poproś o pogrupowanie ich według tożsamości, usługi i czasu. Żądaj, by każdy wniosek wskazywał z powrotem na identyfikator zdarzenia. Potem niech analityk zweryfikuje chronologię ze źródłowymi logami, wiersz po wierszu.
Znajdź promień rażenia dostawcy. Niech AI porówna inwentarz dostępów dostawcy z Twoimi inwentarzami aplikacji, zbiorów danych i poświadczeń. Oznaczy prawdopodobne przecięcia i pytania, na które nikt nie odpowiedział. Nie powie Ci, że poświadczenie było nieużywane, tylko dlatego, że logi milczą. Ciche logi dowodzą jedynie tego, że logi są ciche.
Zamień ustalenia w kontrole. Poproś, by przekonwertowała potwierdzone fakty na checklistę przeglądu i przypadki testowe: które poświadczenia powinny były wygasnąć, które logi muszą istnieć, które systemy mają zatrzasnąć drzwi przed wycofaną integracją. Wykonanie i zatwierdzenie zostają przy inżynierze.
Przećwicz przekazanie. Podaj wewnętrznemu asystentowi zanonimizowany scenariusz i każ mu naszkicować checklistę pierwszej godziny dla inżynierii, bezpieczeństwa, prawników i supportu. Sprawdzasz, czy właścicieli, kontakty i runbooki w ogóle da się znaleźć — lepiej odkryć to przy biurku niż o trzeciej nad ranem, gdy prawdziwe już płonie.
I nie wklejaj surowych rekordów klientów, sekretów ani niezredagowanych logów incydentu do publicznego modelu, żeby kupić sobie te wygody. Używaj zatwierdzonego środowiska. Minimalizuj dane. Pamiętaj, że prompty i trace'y modeli to jeszcze jeden pokój, w którym wrażliwe rzeczy osiadają i czekają. Żadne podsumowanie wygenerowane przez AI nie podejmuje decyzji o powstrzymaniu ani nie zamyka śledztwa. Robi to człowiek, własnymi oczami.
Kontrole, których nie można już odkładać
Praktyczna odpowiedź jest stara. Incydenty sprawiają tylko, że zwlekanie robi się wstydliwe.
- Niech poświadczenia dostawców będą krótkotrwałe, wąsko ograniczone i automatycznie odwoływane, gdy współpraca się kończy.
- Trzymaj sekrety z dala od trace'ów AI i danych debugowych. Redaguj przed zapisem — przed, nie po incydencie.
- Dawaj integracji tylko te uprawnienia, których wymaga jej udokumentowana funkcja, i przeglądaj nadanie, gdy ta funkcja się zmienia albo umiera.
- Loguj dostęp do wrażliwych zbiorów danych i tożsamości serwisowych — i przechowuj dowody wystarczająco długo, by dało się je zbadać.
- Przećwicz odwołanie integracji dostawcy i rotację zależnych od niej poświadczeń tak, żeby nie położyć przy okazji niewinnej produkcji.
Ostatnie włamania to pożyteczny pretekst, by użyć AI w bezpieczeństwie — ale nie dlatego, że właściwą odpowiedzią jest kolejny model. Niech maszyna pomaga Twoim ludziom badać dowody, znajdować luki, ćwiczyć decyzje. A potem zadbaj, by poświadczenia, uprawnienia i logi wytrzymały maszynę, która porusza się szybciej niż Twój proces reagowania na incydenty. Żadne żelazo nie wchodzi w serce tak jak kropka postawiona dokładnie tam, gdzie jej miejsce. Żaden atakujący nie wchodzi tak jak poświadczenie, którego nikt nie pamiętał zabić.
Źródła
Chcemy poznać Twoje myśli.
nasz CTO Kyrylo Osadchuk odpowie w ciągu 24 godzin. Bez lejka sprzedażowego.
Start a conversation
We want to hear your thoughts
Re: Firmy AI wykorzystują podatności zrodzone z lat długu technicznego, żeby nakręcać szum wokół zdolności AI do znajdowania luk w bezpieczeństwie.