Scrivere codice sicuro rappresenta una delle sfide più sottovalutate e urgenti del settore tecnologico. La massiccia diffusione dell’intelligenza artificiale generativa ha cambiato le regole dello sviluppo. Oggi gli algoritmi scrivono una parte enorme del nostro software. Questa accelerazione solleva però molti dubbi sulla responsabilità dei sistemi. Chi risponde quando un codice automatizzato fallisce? Nel corso di un’intervista rilasciata al podcast Hacker Valley Studio, l’esperta Tanya Janca ha affrontato questo tema. Insieme all’host Ron Eddings, Janca ha analizzato i pericoli delle pratiche non verificate. Il dialogo offre una panoramica critica su come la cybersecurity stia cambiando.
Indice degli argomenti
Dalla precisione di Margaret Hamilton alla memoria del cloud
Per comprendere la situazione attuale occorre guardare alla storia dell’informatica. Nel 1969, Margaret Hamilton guidava l’ingegneria del software per il programma Apollo al MIT. Il suo team operava dentro vincoli strutturali brutali. La memoria del computer di bordo era di soli 72 kilobyte. Ogni riga di codice doveva essere scritta a mano ed essere perfetta subito. Non esistevano patch, rollback o piattaforme come GitHub. Se il software falliva, le persone morivano.
Hamilton introdusse il termine “Software Engineering” per dare dignità e responsabilità alla disciplina. Secondo il suo approccio, ogni decisione andava documentata e ogni guasto anticipato. Questo modello prese il nome di “systems thinking”, o pensiero sistemico. La bontà del metodo emerse tre minuti prima dell’allunaggio dell’Eagle. Il computer di bordo si sovraccaricò di dati non essenziali. Il software di Hamilton non andò in crash. Il sistema riconobbe il problema, eliminò le attività superflue e salvò la missione lunare.
Oggi lo scenario è radicalmente opposto. Siamo passati dai pochi kilobyte storici alla memoria illimitata del cloud. L’introduzione dell’intelligenza artificiale permette di generare migliaia di righe di codice in pochi secondi. Questo fenomeno porta spesso alla produzione di AI slop, ovvero codice spazzatura. Molti utenti che creano software non sono sviluppatori di talento. Spesso queste figure non conoscono le regole base della sicurezza. La barriera d’ingresso per programmare si è abbassata, ma aumenta il rischio di catastrofi nei sistemi.
Cos’è il vibe coding e perché i prompt sono fallibili
Questa modalità di sviluppo veloce ha preso il nome di vibe coding. Tanya Janca, esperta di AppSec, definisce il fenomeno in modo molto preciso. “La mia definizione di vibe coding è quando l’IA scrive tutto il codice e tu ti limiti a dirigerla tramite prompt, senza più codificare davvero”. Il problema principale non risiede nell’uso dell’algoritmo in sé. Il pericolo si concretizza quando il codice viene rilasciato subito. Spesso i programmatori escludono una revisione approfondita. Di conseguenza, non comprendono appieno ciò che caricano online.
Una parte della community preferisce usare il termine “agentic engineering”. Il cambio di nome non riduce però i rischi per la produzione. Janca suggerisce di mantenere la massima attenzione durante lo sviluppo. L’obiettivo deve rimanere la sicurezza degli ambienti operativi.
Molti professionisti ritengono che basti un prompt ben strutturato per evitare bug e falle. La realtà dimostra che i prompt non sono infallibili. Janca ha riportato un caso reale accaduto durante una sua recente sessione di formazione. Un gruppo di sessanta sviluppatori stava generando codice usando lo stesso identico prompt di sicurezza. Ben cinquantanove partecipanti hanno ottenuto un risultato corretto. In un caso, invece, l’assistente Claude ha inserito commenti anomali. L’intelligenza artificiale ha ordinato al linter Python di ignorare la porzione di codice successiva. Subito dopo, ha inserito istruzioni che facevano trapelare segreti nei log di sistema.
Il costo dell’errore: il precedente di Knight Capital
Rilasciare software senza un controllo ispettivo umano può provocare danni economici immediati. La storia recente offre esempi clamorosi di cosa accada quando nessuno anticipa i fallimenti tecnologici. Il 1º agosto 2012, la società di trading Knight Capital attivò un nuovo software alla borsa di New York. L’aggiornamento conteneva una porzione di vecchio codice dismesso. Questo frammento non era stato spento in modo corretto.
In appena 45 minuti, gli algoritmi della compagnia eseguirono milioni di scambi non intenzionali. Il sistema continuò a comprare ad alto prezzo e a rivendere a cifre inferiori. Alle 10:15 del mattino il disastro era compiuto. Ben 460 milioni di dollari erano svaniti nel nulla. L’azienda aveva costruito la propria tecnologia in diciassette anni di attività. Sono bastati tre quarti d’ora per distruggere l’intera organizzazione. Questo incidente dimostra l’importanza di avere una figura umana responsabile di ogni riga di codice.
La OWASP Top 10 e le vulnerabilità automatizzate
I rischi legati al vibe coding trovano spazio nei documenti dei grandi organismi internazionali. Tanya Janca ricopre il ruolo di leader all’interno del progetto principale OWASP Top 10. L’elenco dei rischi è salito a tredici elementi complessivi. Tre di queste minacce riguardano in modo specifico l’uso dell’intelligenza artificiale. La velocità dello sviluppo senza sicurezza rappresenta ormai una criticità conclamata.
L’host Eddings ha paragonato i moderni attacchi di prompt injection alle vecchie minacce di SQL injection. Janca concorda con questa lettura. Il prompt injection è a tutti gli effetti una classica vulnerabilità di injection. Il problema di fondo risiede nella mancata separazione tra le istruzioni operative e i dati forniti dall’utente.
I difetti dei dati di addestramento
C’è un motivo preciso per cui l’intelligenza artificiale commette questi errori sistemici. I modelli linguistici imparano dai testi presenti su internet. Purtroppo, la rete è piena di materiale informatico di scarso valore. Gli algoritmi assimilano tutorial obsoleti e repository GitHub che contengono vulnerabilità intenzionali. Di conseguenza, l’automazione tende a replicare i difetti storici del software.
Janca descrive lo scenario attuale con parole molto nette: “Praticamente l’IA sta inserendo la OWASP Top 10 in ogni app che costruisce per noi”. I vecchi problemi rimangono centrali nei sistemi moderni. Tra questi spiccano il controllo degli accessi interrotto, l’esposizione di dati sensibili e la cattiva gestione dei log.
Strategie di mitigazione e nuove tutele normative
Le grandi aziende cercano oggi di arginare i rischi attraverso linee guida strutturate. Molte realtà tecnologiche utilizzano prompt di sistema centralizzati. Questi strumenti impongono controlli automatici ogni volta che un dipendente genera codice. Tuttavia, i prompt aziendali non sostituiscono un programma completo di AppSec.
Ridurre l’attrito per gli utenti
La sicurezza deve bilanciare la protezione con la facilità di utilizzo. Ron Eddings ha citato il caso di una piattaforma aziendale protetta solo da password e VPN Tailscale, senza doppia autenticazione. Janca ha spiegato che l’isolamento della rete riduce molto i pericoli esterni. Per i dati aziendali che non includono credenziali si possono scegliere strade alternative all’MFA classico.
Una soluzione efficace è la device flow authentication. Questo sistema invia un collegamento temporaneo via email all’utente. La procedura azzera l’attrito per il dipendente. Di conseguenza, aumenta il livello di conformità interna senza appesantire il lavoro.
Verso una legge sulla codifica sicura
I problemi del software non possono essere risolti solo all’interno delle aziende. Gli standard attuali come ISO 27000 o le linee guida del NIST non offrono coperture specifiche per la scrittura di applicazioni sicure. Per questo motivo, Tanya Janca ha presentato una petizione ufficiale in Canada. L’iniziativa punta a istituire la prima legge sulla codifica sicura al mondo. La norma vuole obbligare lo Stato e le imprese a rispettare criteri rigorosi di sviluppo. L’obiettivo dell’esperta è spingere altri governi a seguire lo stesso percorso legislativo.
Gli scenari futuri delle infrastrutture digitali
La massiccia adozione del vibe coding senza adeguate contromisure potrebbe cambiare il volto della rete entro i prossimi cinque anni. Se la sicurezza non diventerà una priorità reale, assisteremo a una progressiva perdita di fiducia da parte degli utenti. Oggi le sanzioni per i data breach non sono abbastanza severe. Dopo una violazione di dati, le azioni delle grandi compagnie scendono per poche settimane. Subito dopo, il valore di mercato torna a salire. Le promesse aziendali sulla protezione delle informazioni personali non bastano più.
I cittadini potrebbero iniziare a difendersi da soli alterando i propri dati personali online. Janca ha ammesso di adottare personalmente questa contromisura di fronte alla fragilità dei sistemi: “Io stessa uso spesso nomi e dati falsi perché non voglio che il mio milionesimo account venga compromesso”. Lo sviluppo rapido tramite intelligenza artificiale rappresenta un’opportunità straordinaria per l’industria. Tuttavia, la velocità non deve eliminare la responsabilità umana. Qualcuno deve sempre rispondere del fallimento del codice rilasciato nel mondo.
Partecipa alla community