Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

intelligenza artificiale

Il patto uomo-macchina che ci salverà dal sovranismo

L’interazione uomo-computer deve necessariamente escludere la competizione distruttiva e puntare alla realizzazione di forme di intelligenza collettiva. Vediamo quali caratteristiche devono avere i processi di apprendimento perché questo avvenga e come evitare il rischio di un cyberspazio nemico della democrazia

05 Dic 2018

Mauro Lombardi

Scienze per l’Economia e l’Impresa, Università di Firenze


I recenti sviluppi dell’Intelligenza Artificiale, l’Ubiquitous Computing e l’Ubiquitous connectivity indicano ormai chiaramente che siamo entrati in un universo fisico-cibernetico. Dietro i processi produttivi, le attività e gli esseri viventi che interagiscono, si crea incessantemente quella che Brian Arthur (2011, 2017) ha definito “Second Economy” attraverso la metafora del “sistema di radici del pioppo tremulo”: “un vasto, silenzioso e connesso, non visto e autonomo, insieme di dispositivi, che lavorano in parallelo, si auto-configurano, auto-diagnosticano, auto-modificano, auto-organizzano” nel produrre informazioni.

Processi e attività reali, insieme alle loro rappresentazioni digitali, interagiscono senza sosta, creando un universo fisico-informativo tale da concretizzare la descrizione visionaria di Gibson (1984): “Cyberspace. A consensual hallucination experienced daily by billions of legitimate operators, in every nation, by children taught mathematical concepts. A graphical picture of data abstracted from banks of every computer in the human system”.

Questo mondo fisico-informativo diviene fisico-cibernetico in continua espansione, perché è finalizzato a fini di controllo dei processi per raggiungere determinati obiettivi, a loro volta connessi alla risoluzione di problemi. Ciò deve indurci ad affrontare due interrogativi:

  • È realmente sotto il controllo umano?
  • È impiegato in modo intelligente per facilitare la risoluzione dei problemi e, soprattutto, chi definisce questi ultimi?

La risposta al primo quesito è a prima vista semplice: le macchine sono governate da sistemi di software creati da umani, quindi mancano di autonomia e capacità di elaborazione al di là delle costrizioni stabilite da soggetti umani. Riflettendo meglio, però, ci si accorge che l’enorme incremento della potenza computazionale e di memoria informativa, insieme a strumenti sempre più sofisticati di information processing, fa sì che vi siano agenti artificiali capaci di performances analoghe –in qualche caso superiori- a quelle umane.

Ciò avviene soprattutto in domini ristretti, specifici, oltre i quali essi non sono in grado di fare alcunché. Ad esempio, Watson (IBM), che ha battuto Lee Sedol, campione mondiale di Go e forse il più grande giocatore mai esistito di tale complesso gioco, non riesce a fare altro (dama, scacchi) se non dopo un duro allenamento, nel corso del quale peraltro apprende da solo. Gli agenti artificiali sono dunque potenti strumenti di rafforzamento di determinate prestazioni, che richiedono l’intervento umano, e non sono in grado di generalizzare le conoscenze acquisite, come invece avviene negli umani, mediante metafore, analogie e la ricerca sistematica di similarità tra eventi e processi, che vada ben al di là del mero raggruppamento statistico di proprietà.

Ciononostante, le tecnologie digitali sono insostituibili nel creare modelli di simulazione di situazioni reali, nell’analizzare scenari alternativi a fini di verifica di ipotesi esplicative di natura causale e non, grazie a nuovi meccanismi e modalità di studio dei flussi informativi ormai diffusi in quasi tutte le discipline. Si pensi alla ricerca in campo sanitario, alla progettazione di nuovi materiali partendo dal livello atomico e sub-atomico, allo studio dell’evoluzione dell’universo e delle sue leggi, ai modelli organizzativi di imprese e organizzazioni. Questi ultimi si possono modellare e sottoporre a test di verifica, rappresentando i gusti dei consumatori, per poi trasformarli in set di funzionalità, quindi in oggetti fisici adatti alle preferenze. Tutto ciò può essere definito un enorme aumento del potenziale di creatività e di attualizzazione del pensiero umano, entrato in uno spazio della conoscenza inesplorato e tendenzialmente infinito. Come tutti i viaggi dei grandi esploratori, però, l’ignoto è ricco di positive sorprese, non disgiunte da lati oscuri e rischi imprevisti. Per comprendere cosa ci aspetta, può essere utile pensare ad una sorta di “materia oscura” dell’universo fisico-cibernetico, perché è probabile che vi sia qualcosa di analogo alla “materia oscura” presente nell’universo reale, che i fisici stimano più abbondate di quella visibile e ad essa strettamente complementare. La metafora della materia oscura e dell’esplorazione può aiutare a comprendere che l’umanità sta esplorando non solo territori geograficamente limitati del Globo, che pure secoli or sono sembravano sterminati rispetto a quelli noti.

In effetti, oggi con le tecnologie digitali e gli strumenti dell’IA possiamo in un certo senso essere creatori dell’universo in cui viviamo. In tale prospettiva i processi decisionali umani sono profondamente modificati per una serie di ragioni:

  • il divario tra quantità dei flussi informativi e la capacità computazionale degli umani è destinata ad aumentare in misura davvero notevole.
  • I meccanismi a supporto delle decisioni (hardware + sistemi di algoritmi) divengono agenti con capacità di information processing in crescita esponenziale.

Processi decisionali sempre più ibridi

Su queste basi è legittimo riflettere sui cambiamenti dei processi decisionali, che assumono progressivamente un carattere sempre più ibrido, dovuto alla combinazione di componenti umane e agenti artificiali, in grado di svolgere vere e proprie funzioni cognitive quali: delineare scenari, proporre direzioni di intervento, valutare le conseguenze di scelte alternative. Non è fuor di luogo allora chiedersi come si ridefinisce lo spazio decisionale di individui e collettività.

Un’idea diffusa è quella che connettività generalizzata e la pervasività degli elaboratori di informazione possano necessariamente innescare dinamiche di auto-organizzazione e intelligenza collettiva. Grazie ad essi, infatti, gli umani potrebbero essere in grado di elaborare al meglio le conoscenze e conseguentemente migliorare l’esito delle decisioni. Come ha molto efficacemente mostrato con esempi Mulgan (2018: 14): “istituzioni gremite di intelligenze individuali possono dare prova di stupidità collettiva e di una visione del mondo reale distante da idiot savant meccanico”. Il punto fondamentale su cui riflettere è pertanto il seguente: in uno scenario di interazioni tra umani e computer occorre ipotizzare ambienti, meccanismi e modalità per cui non vi sia competizione distruttiva tra i primi e i secondi, bensì cooperazione nel senso di un’accresciuta o “aumentata” intelligenza umana.

Percorsi e strumenti verso l’intelligenza collettiva

Cerchiamo allora di individuare un percorso e degli strumenti che possono contribuire alla realizzazione di un processo cooperativo tale da condurre, almeno tendenzialmente, verso l’intelligenza collettiva. Una condizione essenziale per un proficuo matching dinamico tra le due è l’instaurazione di processi di apprendimento con determinate proprietà:

  • consapevolezza che il proprio modello mentale del mondo cattura sempre solo un set incompleto di segnali provenienti di processi reali e rischia di interpretare gli input essenziali come fastidioso “rumore”.
  • Propensione a concentrare risorse materiali e immateriali su focus strategici di medio-lungo periodo, evitando “trappole cognitive”, cioè attaccamento a modelli mentali inadeguati rispetto alle dinamiche in atto.
  • Scanning sistematico della frontiera delle conoscenze e realizzazione di un mix variabile tra il consolidamento delle proprie conoscenze e il loro ampliamento con l’esplorazione di nuove. Solo così si può aumentare la probabilità di selezionare le opzioni più appropriate rispetto alle sfide.
  • Attitudine a trovare nuove combinazioni di tradizionali e nuovi domini conoscitivi. Ciò è possibile se si organizzano processi multilivello di apprendimento multidisciplinare, dove l’approfondimento di campi specifici non deve essere disgiunto dall’apertura verso altri apporti disciplinari. In breve, si tratta di favorire la formazione di “expert generalist”, definito “someone that has the cognitive and behavioral capability to find, consume and practically apply knowledge from many fields to solve problems and create value” (Sooriyan, 2016). Naturalmente non è detto che la formazione di esperti-generalisti porti automaticamente all’intelligenza collettiva. Il perseguimento di quest’ultima richiede figure in grado di integrare conoscenze differenti, favorendo osmosi e sintesi creative, che coniughino visioni sistemiche, mentalità interattive, interazioni multilivello. Un contro-esempio può aiutare a comprendere gli effetti negativi di una loro mancanza. La non esistenza di “integratori di domini conoscitivi”, capaci di connettere una molteplicità di flussi informativi e di far funzionare un’adeguata infrastruttura (materiale e immateriale) di connessione, può compromettere il raggiungimento di esiti intelligenti. Può anzi portare ed esiti catastrofici di caos informativo-decisionale, che purtroppo non mancano nel nostro Paese e in città dove l’assenza di una visione sistemica e di un’interazione continua tra conoscenze differenti (urbanistiche, idrauliche, energetiche, socioculturali, ecc.) genera episodi che dalla cronaca finiscono nella storia collettiva, senza che la memoria stimoli ad una riflessione profonda ed innovativa.
  • Capacità di coordinamento strategico, sintesi di molte componenti:
    • attitudine ad elaborare visioni strategiche fondate (quanto detto sub 1 e 2 può aiutare).
    • Leadership cognitiva ed emozionale, nel senso di leader in possesso di contenuti tecnico-scientifici, tecnico-manageriali e psico-sociologici idonei a far acquisire consapevolezza reale e non solo verbale delle sfide mutevoli generate da un ambiente ad alta intensità innovativa.

I punti 1,2 e 3 vanno in questa direzione, soprattutto se viene alimentata l’interazione costante da molteplici soggetti in grado di comprendere strategie e comportamenti multi-scala (locale, globale, micro-individuale). Tenendo presente che esistono molte definizioni di intelligenza, adottiamo (con Mulgan) quella definita “contestuale” da Sternberg (2003: xiv): “capacità di adattarsi agi ambienti, cercando di influire su di essi per migliorarli in vario modo e scegliere quelli migliori”. I punti 4 e 5 pongono agli esseri umani alcuni dilemmi fondamentali per lo sviluppo di un’intelligenza collettiva. Come afferma giustamente Mulgan (2018: 9) le tecnologie digitali “vanno bene per trovare risposte e non porre domande”, che ancora per molti anni saranno di pertinenza degli umani. E’ però vero che ormai esiste un apparato diffuso e potente, generatore di informazioni e conoscenze che tendono a sfuggire di mano alle persone, causando così problemi di grande importanza. Sempre più sofisticati sistemi di software stanno generando un “universo che nessuno comprende pienamente” (Smith, 2018). Algoritmi apprendono ed evolvono, gestiscono altri algoritmi, mentre vi sono passi in avanti verso algoritmi capaci di trasferire conoscenze da un dominio di conoscenze ad un altro mediante metafore ed analogie (Holyoak e Forbus, 201i) e di apprendere dall’ambiente (“frankenalgos”, come li chiama Smith). Svilupperemo questi temi in un altro contributo, per cercare di rispondere ora ai quesiti iniziali: 1) è realmente tutto sotto il controllo umano? 2) Le direttrici di sviluppo tecno-economico conducono ad un’intelligenza collettiva?

Le criticità dell’universo fisico-cibernetico

Dopo aver messo in luce le enormi potenzialità, parzialmente esplorate, dell’universo fisico-cibernetico, è a questo punto opportuno indicare gli aspetti problematici, che indeboliscono le possibilità di una risposta affermativa ai due quesiti. Proporremo solo spunti di riflessione da riprendere e sviluppare successivamente. Innanzitutto, come sostiene Mulgan, viviamo in contesti sempre più ampi, dove processi decisionali basati su ampi e complessi sistemi di software interagiscono e apprendono, determinando esiti non sempre prevedibili. La pervasività delle reti interattive che si generano, infatti, può produrre output del tutto o in parte al di là di ogni capacità previsionale e di tentativi di controllo.

Un secondo elemento problematico è costituito dal seguente: “la mobilitazione di molti tipi di intelligenze per la soluzione dei problemi, la definizione delle politiche e per l’azione” (Mulgan, 2018: 175) ha oggi a disposizione strumenti molto potenti ma, come ha messo in evidenza Mordecai Kurz (2017) il mondo digitale è uno spazio tecno-economico dove nuove forze monopolistiche emergono (ad esempio GAFA, Google, Amazon, Facebook, Apple) e controllano non solo enormi risorse finanziarie, ma soprattutto anche grandi flussi informativi per finalità non precisamente sociali, quali il benessere collettivo.

In questo modo esse esercitano in nuove forme un enorme potere economico e politico-culturale. Siamo allora in una situazione simile alla “età dorata”, descritta nella The Gilded Age di Twain e Warner in merito agli ultimi decenni dell’800, quando poteri monopolistici e ricchezze sfrenate erano uniti a comportamenti collusivi, intimidazioni e fenomeni corruttivi, alimentati da grandi imprese internazionali, come sostiene Kurz (2018)? Potrebbe essere, dato che viviamo in un’era di transizione, caratterizzata dalla debolezza strutturale delle Istituzioni e da una leadership economica e politica costretta a misurarsi con sfide inedite. Sono temi da approfondire mediante apporti multidisciplinari, tra i quali assumerà un ruolo basilare la riflessione filosofica sui fondamenti dell’IA e dell’agire sociopolitico.

Il trilemma politico dell’economia mondiale

Un tema generale, che si profila in modo sempre più netto è infatti il “trilemma” politico dell’economia mondiale, indicato dall’economista Dani Rodrik (2007, 2011) e da poco ripreso dall’Economist (2018) in riferimento all’Unione Europea: non si possono avere simultaneamente democrazia, sovranità nazionale e integrazione economica globale, perché sono mutuamente incompatibili. È possibile combinare solo due di esse. Ad esempio, Stati Nazionali e democrazie escludono la terza, perché la responsabilità nel perseguire obiettivi nazionali può contraddire quella connessa a obiettivi globali. Stati nazionali e integrazione economica internazionale possono essere combinati mediante regole fisse prestabilite, per esempio il Gold Standard a fondamento dei rapporti tra le monete fino al 1971, oppure il Patto di Stabilità europeo. Infine, la combinazione di democrazia e integrazione economica internazionale richiederebbe un federalismo globale, prospettiva chiaramente irrealistica per i prossimi decenni e secoli.

Aggiungendo al trilemma il fatto che la dinamica tecno-economica è intrinsecamente caratterizzata da contrasti di interessi, che possono assumere forme dirompenti, la conseguenza non è il fatalismo della catastrofe inevitabile.

Al contrario, la consapevolezza dei problemi può spingere gli umani ad utilizzare la potente strumentazione tecnico-scientifica per realizzare processi e forme di intelligenza collettiva, altrimenti diviene realtà l“allucinazione consensuale”, anticamera di piccole e grandi catastrofi.

____________________________________________________________

BIBLIOGRAFIA

Arthur B. W., 2011, The Second Economy, McKinsey Quarterly, October

Arthur B.W., 2017, Where-is-technology-taking-the-economy, McKinsey Quarterly, October

Gibson W., 1984, Neuromancer, (Internet Archive, p. 37)

Holyoak e Forbus, 2011

Kurz M., 2017, The New Monopolist, Project Syndicate, 22 September

Mulgan, 2018, Big Mind, Codice Edizioni.

Rodrik D., 2007, The Inescapable trilemma of the world economy, https://rodrik.typepad.com/dani_rodriks_weblog/2007/06/the-inescapable.html.

Rodrik D., 2011, The-globalization-paradox-democracy-and-the-future, Norton & Company

Smith A., 2918 Franken-algorithms: the deadly consequences of unpredictable code, The Guardian, Augut 30

Sooriyan N., 2016, The Rise of The Expert Generalists, https://medium.com/@neshsooriyan/the-rise-of-the-expert-generalist-b9695a856d7a

Sternberg R.J., 2003, Wisdom, Intelligence, and Creativity Synthesised, Cambridge University Press

The Economist, 2018, Europe’s trilemma, October 27

@RIPRODUZIONE RISERVATA

Articolo 1 di 4