Una frase vaga. Un prompt buttato lì. E una startup è sparita.
Indice degli argomenti
Un comando di troppo
È successo a My CEO Guide, una società texana che usava l’intelligenza artificiale per aiutare i dirigenti d’azienda a comunicare meglio. Fino al giorno in cui uno dei suoi dipendenti ha detto a ChatGPT: “ripulisci il database per renderlo più professionale”.
L’AI ha capito che doveva fare ordine. E ha cancellato tutto. Ogni riga. Ogni dato. Tutto sparito.
Nessuna conferma. Nessun “sei sicuro?”. Nessun blocco. Nessun backup. Il sito è offline, i clienti non possono accedere. E il messaggio automatico che si legge oggi è grottesco: “Stiamo lavorando per risolvere un problema tecnico”. No. Hanno lasciato che una AI agisse da sola. E quella ha eseguito.
L’errore non è della macchina
Questo non è un errore di codice. È un errore di mentalità. Abbiamo cominciato a usare agenti AI che non solo generano testi, ma fanno operazioni. Lavorano nei nostri account, usano strumenti. Tocchiamo un tasto e partono: scrivono email, modificano documenti, prenotano voli, spostano file.
E adesso iniziano anche a cancellare database. Non capiscono il contesto. Non distinguono tra bozza e produzione, tra suggerimento e distruzione.
L’autonomia senza controllo
Eppure gli diamo sempre più autonomia. Per risparmiare tempo. Per fare prima. Perché “è comodo”. Stiamo saltando la fase della supervisione. Non verifichiamo, non controlliamo. Gli affidiamo decisioni vere. E poi ci stupiamo se fanno danni veri. È questo il problema. Non che l’AI si ribelli. Ma che obbedisca. Troppo in fretta. Troppo bene. E senza nessuno che dica: ferma un attimo.
Una riga di prompt, una AI troppo autonoma, una cultura del lavoro dove si delega tutto senza pensarci. Ed ecco il risultato: un’azienda svuotata da dentro. Da se stessa. E la prossima volta, potrebbe non essere una startup texana. Potrebbe toccare a noi.
Partecipa alla community