AI-компанії використовують вразливості, породжені роками технічного боргу, щоб роздувати здатність AI знаходити діри в безпеці.
Нещодавні зломи в AI-вендорів показують, як украдені облікові дані, надмірно довірені інтеграції та слабкі межі даних перетворюють AI-інфраструктуру на мультиплікатор сили. Ось де AI може допомогти захисникам, а де — ні.
Цієї осені ніхто не вигадав нового гріха. Старі гріхи просто переїхали в нові будинки — будинки, де більше ключів, більше дверей і менше часу між одним зламаним замком і наступним.
Три інциденти останніх тижнів. Дивіться, що в них спільного.
Вогонь не зупинився біля дому вендора
У жовтні атакувальники взяли Fireworks AI, провайдера AI-інфраструктури. Ключ, виданий Fireworks — це вже потім сказав Cursor, — відкривав спільний storage-бакет, а в бакеті лежали історичні трейси coding-агентів, записи, збережені для іншої мети, як людина зберігає старі листи. Невелика частина тих листів несла облікові дані, яких ніхто не зредагував. З ними атакувальник зайшов у окремі бізнес-системи Cursor. Звідти, з краденими обліковими даними, він опублікував підроблені копії розширення Claude Code від Anthropic через маркетплейс самого Cursor. Підробки висіли там приблизно одинадцять годин. До п'яти тисяч користувачів, за оцінкою Cursor, могли забрати їх додому. Офіційне розширення Anthropic спало неторкане. Open VSX — теж.
Та сама пожежа Fireworks, кажуть журналісти, дісталася Uber. Uber цього тижня повідомив, що скомпрометовані облікові дані стороннього постачальника були використані для доступу до пов'язаних даних водіїв. Подання в штаті Мен рахує точно: 149 346 водіїв — імена, номери посвідчень, дати народження, адреси. Повідомлення Uber не назвало постачальника. Журналісти назвали.
Урок не в тому, що кожен AI-вендор — це двері для злодія. Урок у тому, що інтеграція — це коридор, який біжить від рішень однієї компанії прямо в дані іншої. Трейси не були живими промптами. Вони були історією, збереженою для окремої мети. Історія, як виявилося, досі носить із собою ключі.
Машина робить погану дорогу швидкою
У листопаді Barracuda розповіла власну версію тієї самої історії. Ключ доступу, виданий AI-вендору для давно завершеного проєкту, так і не був відкликаний. Ключі не вмирають від старості. Коли середовище розробки вендора згодом упало, ключ відкрив хмарне середовище Barracuda. Близько десяти хмарних акаунтів, сорок чотири години активності. Поведінка, сказала Barracuda, була сумісна з ARTEX — AI-керованим фреймворком для тестування.
Зважте на це речення. Збіг із фреймворком описує зброю; він не називає руку, що її тримала. Окремо Microsoft повідомила про пов'язаного з державою актора, який застосовував ARTEX проти сотень організацій — деякі вторгнення сягали привілейованого хмарного доступу менш ніж за три години. І Microsoft зауважила ще дещо, що варто підкреслити двічі: більшість широкого таргетингу, яку вона спостерігала, провалилася. Машина підняла темп і обсяг. Наявна довіра і дозволи вирішили, що можливо, — як і завжди.
Що спільного в цих інцидентів, якщо зірвати етикетку
Зірвіть етикетку «AI» і подивіться, що лишилося на столі.
Облікові дані пережили своє призначення — вендорські ключі й секрети в старих трейсах, ще теплі довго після того, як роботу було зроблено. Довіра перетинала межі, як п'яний перетинає двір: вільно й не питаючи, чий він. Спостережуваність відставала від доступу, тож коли настала година, неповні логи не могли сказати, чого торкалися, а що оминули. А чутливі дані накопичилися в другорядних кімнатах — трейси агентів, розмови підтримки, логи збірок, аналітика — скарб, якого ніхто не стеріг, бо нікому не спало на думку назвати його скарбом.
AI змінює економіку експлуатації всього цього. Він повторює роботу, пристосовується до відповіді, не спить. Але він не може воскресити прострочені облікові дані чи розширити вузько обмежені. Радіус вибуху задає архітектура. Так було завжди.
Де машина служить захисникові
Команда безпеки може поставити AI до роботи під час інциденту — як асистента, схиленого над доказами, і ніколи як владу над продакшеном.
Збудуйте першу версію таймлайна. Дайте схваленій моделі зредаговані зведення алертів і події аудиту; попросіть згрупувати їх за ідентичністю, сервісом і часом. Вимагайте, щоб кожен висновок вказував назад на ідентифікатор події. А потім нехай аналітик звірить хронологію з вихідними логами, рядок за рядком.
Знайдіть радіус вибуху вендора. Нехай AI порівняє інвентар доступів вендора з вашими інвентарями застосунків, датасетів і облікових даних. Він позначить імовірні перетини й питання, на які ніхто не відповів. Він не може сказати, що обліковими даними не користувалися, лише тому, що логи мовчать. Тихі логи доводять лише те, що логи тихі.
Перетворіть висновки на перевірки. Попросіть його конвертувати підтверджені факти в чеклист перегляду й тест-кейси: які облікові дані мали б закінчитися, які логи мусять існувати, які системи мають захряснути двері перед відкликаною інтеграцією. Виконання і погодження лишаються за інженером.
Відрепетируйте передачу. Згодуйте внутрішньому асистентові знеособлений сценарій і нехай він накидає чеклист першої години для інженерів, безпеки, юристів і підтримки. Ви перевіряєте, чи взагалі можна знайти власників, контакти й ранбуки — краще з'ясувати це за столом, ніж о третій ночі, коли справжнє вже горить.
І не вставляйте сирі записи клієнтів, секрети чи незредаговані логи інциденту в публічну модель, щоб купити собі ці зручності. Використовуйте схвалене середовище. Мінімізуйте дані. Пам'ятайте, що промпти і трейси моделей — ще одна кімната, де чутливе осідає і чекає. Жодне AI-згенероване зведення не ухвалює рішення про стримування і не закриває розслідування. Це робить людина, власними очима.
Контролі, які більше не можна відкладати
Практична відповідь стара. Інциденти лише роблять зволікання соромним.
- Робіть вендорські облікові дані короткоживучими, вузько обмеженими й такими, що автоматично відкликаються, коли співпраця закінчується.
- Тримайте секрети поза AI-трейсами й дебаг-даними. Редагуйте до збереження — до, а не після інциденту.
- Давайте інтеграції лише ті дозволи, яких вимагає її задокументована функція, і переглядайте грант, коли ця функція змінюється або вмирає.
- Логуйте доступ до чутливих датасетів і сервісних ідентичностей — і зберігайте докази достатньо довго, щоб їх можна було розслідувати.
- Відрепетируйте відкликання вендорської інтеграції та ротацію залежних від неї облікових даних так, щоб не покласти заразом непричетний продакшен.
Останні зломи — корисний привід застосувати AI в безпеці, але не тому, що правильна відповідь — ще одна модель. Нехай машина допомагає вашим людям вивчати докази, знаходити прогалини, репетирувати рішення. А потім подбайте, щоб облікові дані, дозволи й логи встояли перед машиною, яка рухається швидше за ваш процес реагування на інциденти. Жодне залізо не входить у серце так, як крапка, поставлена точно там, де їй належить. Жоден атакувальник не входить так, як ключ, який ніхто не згадав убити.
Джерела
Хочемо почути ваші думки.
наш CTO Кирило Осадчук відповість протягом 24 годин. Без воронки продажів.
Start a conversation
We want to hear your thoughts
Re: AI-компанії використовують вразливості, породжені роками технічного боргу, щоб роздувати здатність AI знаходити діри в безпеці.