Dopo sette anni di incontri, il canale che mette allo stesso tavolo esperti americani e cinesi di intelligenza artificiale e sicurezza nazionale propone di istituire un gruppo di lavoro sulla terminologia. Serve a stabilire che cosa significhi controllo umano, espressione che i due Paesi usano nei documenti ufficiali dal 2024 convinti di intendere la stessa cosa. Se dopo sette anni la questione aperta è ancora il lessico, dall’incontro del 24 settembre tra Donald Trump e Xi Jinping possono uscire dichiarazioni di principio, non regole operative.
Indice degli argomenti
Chi parla e che cosa chiede
Il canale esiste dal 2019 ed è convocato dalla Brookings Institution di Washington e dal Center for International Security and Strategy dell’università Tsinghua di Pechino. Si tratta di un dialogo non ufficiale: i partecipanti non rappresentano i rispettivi governi, ma il loro lavoro alimenta le discussioni ufficiali. Il 9 settembre Brookings ne ha pubblicato le ultime proposte, firmate separatamente da Melanie Sisson, ricercatrice di Brookings, e da Tianjiao Jiang, docente all’università Fudan di Shanghai.
Le richieste sono tre.
- Linee rosse che impediscano a un sistema di intelligenza artificiale di decidere autonomamente l’uso di armi nucleari o di attaccare da solo i sistemi di comando nucleare.
- L’autorità esclusivamente umana per avviare attacchi informatici contro quegli stessi sistemi e contro le infrastrutture critiche, cioè energia, finanza e sanità.
- Una linea diretta militare dedicata agli incidenti provocati dall’intelligenza artificiale. Nessuno dei due governi le ha finora recepite.
Le stesse parole, due significati
Accanto a queste tre c’è una richiesta di natura diversa, che non riguarda che cosa fare ma come chiamarlo. Jiang chiede una definizione condivisa di controllo umano significativo, perché senza di essa i due Paesi possono usare la stessa formula per autorizzare gradi di autonomia delle macchine molto diversi.
Il modello americano del ciclo decisionale
Per spiegare perché non sia scontato, mette a confronto due tradizioni. Negli anni Settanta il colonnello dell’aviazione statunitense John Boyd descrisse il combattimento come un ciclo di quattro passaggi ripetuti di continuo: osservare, orientarsi, decidere, agire. Chi lo percorre più rapidamente dell’avversario ne condiziona le mosse. Si tratta di un modello di procedura, e da lì viene la formula occidentale di tenere l’uomo dentro il ciclo: il controllo consiste nel presidiare uno dei quattro passaggi, in particolare quello della decisione.
Il riferimento cinese alla responsabilità
Il riferimento cinese è anteriore e di natura diversa. Preparando i primi test atomici del Paese, negli anni Sessanta, Zhou Enlai impose il criterio dell’assoluta certezza: nessun margine di errore era ammesso e qualcuno doveva rispondere del risultato. Qui il controllo non è una posizione dentro una procedura, ma la responsabilità piena sull’esito. Secondo Jiang è quella formula, non quella di Boyd, che gli esperti cinesi hanno in mente quando parlano di controllo umano.
Due concezioni possono convivere finché restano sullo sfondo. Diventano un problema quando devono produrre una regola: chi ragiona per procedura si chiede a quale passaggio si trovi l’operatore, chi ragiona per responsabilità si chiede chi risponde se qualcosa va storto. La stessa espressione autorizza risposte diverse.
Da qui la proposta, che è più modesta di quanto sembri: non concordare una definizione comune, ma fare in modo che ciascuna parte accetti quella dell’altra.
Non è un ostacolo nuovo. Nel 2024 lo stesso canale aveva pubblicato un glossario dei termini dell’intelligenza artificiale applicata alla sicurezza: non un vocabolario comune, ma due elenchi affiancati, uno compilato dalla parte americana e uno da quella cinese, per capire che cosa intendesse l’altro senza pretendere di dire la stessa cosa. Due anni dopo, la proposta di un gruppo di lavoro terminologico ammette che quel metodo non è bastato.
Lo stesso episodio, due conclusioni opposte
La terza proposta, la linea diretta per gli incidenti, sembra la più semplice: nessuna definizione da concordare, solo un canale da tenere aperto. Jiang la motiva con un precedente.
Nel febbraio 2023 un pallone cinese ad alta quota attraversò lo spazio aereo statunitense e fu abbattuto al largo della Carolina del Sud. Fu una crisi breve e senza vittime, proprio per questo un banco di prova: era la situazione per cui la linea diretta militare tra i due Paesi era stata istituita. Per Jiang è un avvertimento: senza un canale dedicato, droni e imbarcazioni senza equipaggio guidati dall’intelligenza artificiale produrranno incidenti simili, con margini di tempo molto più stretti.
Ma quella linea diretta esisteva già, e in quell’occasione non funzionò: i funzionari cinesi non risposero alle chiamate americane. Carla Freeman, della Johns Hopkins, ne ha ricavato la conclusione opposta a quella di Jiang, osservando che nel sistema cinese nessuno comunica con Washington finché la leadership non ha deciso una linea e possono volerci giorni. Lo stesso episodio è quindi la ragione per costruire il meccanismo e la prova che il meccanismo non basta.
C’è poi un limite che Jiang riconosce da sé. Un attacco informatico condotto da sistemi automatici si svolge in millisecondi, e in quei tempi la decisione umana finale eccede i limiti fisiologici. Il principio che entrambi i Paesi dichiarano di voler difendere è più difficile da esercitare proprio dove servirebbe di più.
Due ministeri diversi per la stessa parola
C’è una conferma nell’organizzazione dei due governi. Pechino ha collocato l’intelligenza artificiale nel Dipartimento controllo degli armamenti del ministero degli Esteri, accanto a nucleare, non proliferazione e missili. Washington non ha un ufficio equivalente: la materia è distribuita tra Consiglio di sicurezza nazionale, Dipartimento di Stato e Pentagono, e il dossier con la Cina lo segue il Tesoro. Un ufficio di controllo degli armamenti sa scrivere divieti; un ministero del Tesoro sa scrivere transazioni.
Che cosa se ne ricava per il vertice
In sette anni una sola proposta di questo canale è arrivata al livello dei capi di Stato: nel novembre 2024 Joe Biden e Xi Jinping si impegnarono a mantenere umana la decisione sull’uso di armi nucleari.
Vale la pena chiedersi perché proprio quella. Un impegno del genere vieta un atto: nessun sistema automatico può ordinare un lancio. Per applicarlo non serve definire niente, perché la cosa vietata si riconosce quando accade. Le richieste di oggi hanno natura opposta: stabilire quanta autonomia sia ammissibile, quali infrastrutture proteggere, quando l’intervento umano sia sufficiente. Sono soglie, non divieti, e una soglia funziona solo se le due parti la misurano allo stesso modo.
Dal vertice del 24 settembre possono quindi uscire dichiarazioni di principio, che non richiedono definizioni comuni ed è improbabile che escano regole operative, che invece le richiedono.
La lezione per l’Europa
Per l’Europa la lezione è indiretta ma concreta. L’AI Act disciplina gli usi dell’intelligenza artificiale, ma poggia su definizioni che altrove sono ancora oggetto di trattativa. Regolare è utile solo se le parole con cui lo si fa sono le stesse che useranno gli altri.
Partecipa alla community