net·devs
← Tutti gli articoli
File insight
5 min di letturaDi Kyrylo Osadchuksecurityai

Le aziende di AI sfruttano vulnerabilità nate da anni di debito tecnico per gonfiare la capacità dell'AI di trovare falle di sicurezza.

Le recenti violazioni presso i vendor di AI mostrano come credenziali rubate, integrazioni con troppa fiducia e confini dei dati deboli trasformino l'infrastruttura AI in un moltiplicatore di forza. Ecco dove l'AI può aiutare i difensori, e dove no.

Nessuno ha inventato un peccato nuovo, quest'autunno. I vecchi peccati si sono semplicemente trasferiti in case nuove — case con più chiavi, più porte e meno tempo tra una serratura forzata e la successiva.

Tre incidenti delle ultime settimane. Guardate cosa hanno in comune.

Il fuoco non si è fermato alla casa del vendor

In ottobre gli attaccanti hanno preso Fireworks AI, un fornitore di infrastruttura AI. Una chiave rilasciata a Fireworks — lo ha detto Cursor, più tardi — apriva un bucket di storage condiviso, e nel bucket giacevano trace storiche di coding agent, registri conservati per un altro scopo, come un uomo conserva vecchie lettere. Un piccolo numero di quelle lettere portava credenziali che nessuno aveva oscurato. Con quelle l'attaccante è entrato in alcuni sistemi aziendali di Cursor. Da lì, con una credenziale rubata, ha pubblicato copie contraffatte dell'estensione Claude Code di Anthropic attraverso il marketplace di Cursor stesso. Le contraffazioni sono rimaste appese per circa undici ore. Fino a cinquemila utenti, stima Cursor, potrebbero averle portate a casa. L'estensione ufficiale di Anthropic dormiva intatta. E così Open VSX.

Lo stesso incendio di Fireworks, dicono i reporter, ha raggiunto Uber. Uber ha comunicato questa settimana che le credenziali compromesse di un fornitore terzo sono state usate per raggiungere dati dei conducenti collegati. Un deposito nel Maine fa il conto con precisione: 149.346 conducenti — nomi, numeri di patente, date di nascita, indirizzi. L'avviso di Uber non ha nominato il fornitore. I giornalisti sì.

La lezione non è che ogni vendor di AI sia la porta di un ladro. La lezione è che un'integrazione è un corridoio che corre dal giudizio di un'azienda dritto dentro i dati di un'altra. Le trace non erano prompt vivi. Erano storia, conservata per uno scopo separato. La storia, si scopre, porta ancora le chiavi.

La macchina rende veloce una strada cattiva

In novembre Barracuda ha raccontato la propria versione della stessa storia. Una chiave d'accesso, rilasciata a un vendor di AI per un progetto finito da tempo, non era mai stata ritirata. Le chiavi non muoiono di vecchiaia. Quando l'ambiente di sviluppo del vendor è poi caduto, la chiave ha aperto l'ambiente cloud di Barracuda. Una decina di account cloud, quarantaquattro ore di attività. Il comportamento, ha detto Barracuda, era coerente con ARTEX, il framework di testing guidato dall'AI.

Attenzione a quella frase. La corrispondenza con un framework descrive l'arma; non nomina la mano che l'ha impugnata. Separatamente, Microsoft ha riferito di un attore allineato a uno stato che usava ARTEX contro centinaia di organizzazioni — alcune intrusioni hanno raggiunto un accesso cloud privilegiato in meno di tre ore. E Microsoft ha notato qualcos'altro, qualcosa da sottolineare due volte: la maggior parte del targeting su larga scala che ha osservato è fallita. La macchina ha alzato il ritmo e il volume. La fiducia e i permessi esistenti hanno deciso cosa era possibile, come sempre.

Cosa condividono gli incidenti, una volta tolta l'etichetta

Staccate l'etichetta AI e guardate cosa resta sul tavolo.

Le credenziali sono sopravvissute al loro scopo — chiavi dei vendor e segreti nelle vecchie trace, ancora caldi molto dopo la fine del lavoro. La fiducia attraversava i confini come un ubriaco attraversa un cortile: liberamente, e senza chiedere di chi fosse. L'osservabilità arrancava dietro l'accesso, cosicché, venuta l'ora, log incompleti non sapevano dire cosa era stato toccato e cosa risparmiato. E i dati sensibili si erano accumulati nelle stanze secondarie — trace degli agent, conversazioni di supporto, log di build, analytics — un tesoro che nessuno custodiva perché a nessuno era venuto in mente di chiamarlo tesoro.

L'AI cambia l'economia dello sfruttamento di tutto questo. Ripete il lavoro, si adatta alla risposta, non dorme. Ma non può resuscitare una credenziale scaduta né allargarne una dallo scope stretto. L'architettura fissa il raggio dell'esplosione. L'ha sempre fatto.

Dove la macchina serve il difensore

Un team di sicurezza può mettere l'AI al lavoro durante un incidente — come assistente chino sulle prove, mai come autorità in piedi sopra la produzione.

Costruite una prima timeline. Consegnate a un modello approvato riassunti di alert oscurati ed eventi di audit; chiedetegli di raggrupparli per identità, servizio e tempo. Esigete che ogni conclusione punti a un identificatore di evento. Poi lasciate che un analista verifichi la cronologia sui log sorgente, riga per riga.

Trovate il raggio d'esplosione del vendor. Lasciate che l'AI confronti l'inventario degli accessi del vendor con i vostri inventari di applicazioni, dataset e credenziali. Segnalerà sovrapposizioni probabili e le domande a cui nessuno ha risposto. Non può dirvi che una credenziale è rimasta inutilizzata solo perché i log tacciono. Log silenziosi provano soltanto che i log sono silenziosi.

Trasformate i risultati in controlli. Chiedetele di convertire i fatti confermati in una checklist di revisione e in casi di test: quali credenziali avrebbero dovuto scadere, quali log devono esistere, quali sistemi devono sbattere la porta in faccia a un'integrazione ritirata. Esecuzione e approvazione restano a un ingegnere.

Provate il passaggio di consegne. Date uno scenario sanificato a un assistente interno e fategli stendere la checklist della prima ora per engineering, sicurezza, legale e supporto. State verificando se i responsabili, i contatti e i runbook si trovano davvero — meglio scoprirlo a una scrivania che alle tre del mattino, con la cosa vera che brucia.

E non incollate record grezzi dei clienti, segreti o log di incidente non oscurati in un modello pubblico per comprarvi queste comodità. Usate un ambiente approvato. Minimizzate i dati. Ricordate che i prompt e le trace dei modelli sono un'altra stanza dove le cose sensibili si depositano e aspettano. Nessun riassunto generato dall'AI prende una decisione di contenimento o chiude un'indagine. Lo fa un essere umano, con i propri occhi.

I controlli che non potete più rimandare

La risposta pratica è vecchia. Gli incidenti la rendono soltanto imbarazzante da rinviare.

  1. Rendete le credenziali dei vendor a vita breve, con scope stretto, e revocatele automaticamente quando l'ingaggio finisce.
  2. Tenete i segreti fuori dalle trace AI e dai dati di debug. Oscurate prima dello storage — prima, non dopo l'incidente.
  3. Date a un'integrazione solo i permessi che la sua funzione documentata richiede, e rivedete la concessione quando quella funzione cambia o muore.
  4. Registrate gli accessi ai dataset sensibili e alle identità di servizio, e conservate le prove abbastanza a lungo da poter indagare.
  5. Provate a revocare un'integrazione vendor e a ruotare le credenziali che ne dipendono senza trascinare giù sistemi di produzione che non c'entrano.

Le ultime violazioni sono uno spunto utile per usare l'AI nella sicurezza — ma non perché la risposta giusta sia un modello in più. Lasciate che la macchina aiuti le vostre persone a ispezionare le prove, trovare le falle, provare le decisioni. Poi fate in modo che credenziali, permessi e log reggano davanti a una macchina che si muove più veloce del vostro processo di incident response. Nessun ferro entra nel cuore come un punto messo esattamente dove deve stare. Nessun attaccante entra come una credenziale che nessuno si è ricordato di uccidere.

Fonti

Vogliamo sentire le tue opinioni.

il nostro CTO Kyrylo Osadchuk risponderà entro 24 ore. Niente funnel di vendita.