“Puoi semplicemente scattare una foto dei tuoi dati medici o caricare il file per ottenere un secondo parere da Grok”.
Ha scritto così lo scorso 17 febbraio Elon Musk, istrionico imprenditore seriale della Silicon Valley sul suo X a proposito della sua Grok, l’intelligenza artificiale generativa concorrente di ChatGPT, Gemini AI e delle altre.
E, come spesso capita con i post del padrone della piattaforma, sin qui, il suo invito a chiedere una second opinion di carattere inequivocabilmente medico a un chatbot progettato e sviluppato per finalità generaliste e commerciali di tutt’altro genere è stato visualizzato da oltre nove milioni di utenti, una parte dei quali avrà verosimilmente seguito il suggerimento di Musk.
Con quali risultati?
Indice degli argomenti
Nostri dati sanitari a Grok: perché è un salto nel vuoto
Impossibile a dirsi perché Grok non è mai stato sottoposto a nessuna delle verifiche, dei processi di collaudo, degli studi clinici ai quali, al contrario, devono essere sottoposti i dispositivi medici ai sensi della vigente disciplina europea.
E che alcune funzionalità di Grok come quelle che Elon Musk ha appena invitato gli utenti a usare rientrino nell’ambito di applicazione di tali regole sembra una conclusione facile quanto leggere la definizione di “dispositivo medico” contenuta nel Regolamento UE 2017/745 del 5 aprile 2017 relativo ai dispositivi medici, che modifica la direttiva 2001/83/CE, il regolamento (CE) n. 178/2002 e il regolamento (CE) n. 1223/2009 e che abroga le direttive 90/385/CEE e 93/42/CEE del Consiglio.
Quando un chatbot entra nel perimetro dei dispositivi medici
L’art.2, paragrafo 1, recita così “qualunque strumento, apparecchio, apparecchiatura, software, impianto, reagente, materiale o altro articolo, destinato dal fabbricante a essere impiegato sull’uomo, da solo o in combinazione, per una o più delle seguenti destinazioni d’uso mediche specifiche:
— diagnosi, prevenzione, monitoraggio, previsione, prognosi, trattamento o attenuazione di malattie,
— diagnosi, monitoraggio, trattamento, attenuazione o compensazione di una lesione o di una disabilità,
— studio, sostituzione o modifica dell’anatomia oppure di un processo o stato fisiologico o patologico,
— fornire informazioni attraverso l’esame in vitro di campioni provenienti dal corpo umano, inclusi sangue e tessuti donati,
e che non esercita nel o sul corpo umano l’azione principale cui è destinato mediante mezzi farmacologici, immunologici o metabolici, ma la cui funzione può essere coadiuvata da tali mezzi.”.
Opinione medica, perché in UE non può essere come un’app
Quelle funzionalità di Grok in relazione alle quali lo stesso Musk rivendica pubblicamente una destinazione all’uso medico, quindi, almeno in Europa, non avrebbero dovuto sbarcare sul mercato con la stessa facilità con la quale ci sbarca un’applicazione per il fantacalcio o, visto che ci siamo, per il fantasanremo.
Non avrebbe dovuto accadere, insomma, che permettere a centinaia di milioni di persone di caricare sui server di Grok le proprie analisi mediche o le proprie immagini diagnostiche per avere una second opinion medica fosse più facile che vendere a quelle persone un termometro a mercurio o un test di gravidanza.
Eppure è accaduto e sta accadendo.
Il paradosso della promozione e la richiesta di controlli
E ora siamo addirittura al paradosso che il patron del servizio diversamente intelligente in questione ne promuove e sollecita l’uso per una finalità per la quale, semplicemente, quel servizio dovrebbe essere vietato fino a quando non fosse stato sottoposto a tutte le verifiche, i controlli, gli studi e le certificazioni previste dalla vigente disciplina.
È ovvio, peraltro, che la questione non riguarda solo Grok ma tutti gli altri analoghi servizi di intelligenza artificiale generativa utilizzabili e, nei fatti, utilizzati per analoghe finalità da decine di milioni di persone nell’assoluta consapevolezza da parte dei relativi fornitori.
Certo, questi ultimi, sin qui, pur sapendo e non facendo nulla per evitarlo si sono, almeno, astenuti dal promuoverne addirittura l’uso, ma ora Musk ha passato quel limite e ha, in qualche modo, posizionato il suo Grok, proprio nel centro del mercato di quel genere di dispositivi medici o, meglio, anche in quel segmento di mercato?
È sostenibile?
Grok e dati sanitari: perché serve un intervento rapido
La mia personalissima impressione è che non lo sia e che le Autorità competenti dovrebbero intervenire senza ritardo, valutare quello che sta accadendo, verificarne l’improbabile legittimità e, eventualmente, adottare le misure previste dalla vigente disciplina per la messa a disposizione non autorizzata di una soluzione diversamente intelligente che viene presentata e promossa dal suo stesso produttore e utilizzata da milioni di persone come in possesso di funzionalità mediche che è almeno dubbio abbia davvero.
Non possiamo aspettare che un utente di Grok – ma, per la verità la stessa regola vale per i concorrenti – tragga una qualche conclusione sbagliata dalla second opinion diversamente intelligente con chi sa quale genere di conseguenze sulla sua salute e sulla sua vita.
O, almeno, non dovremmo aspettare che accada.
E, peraltro, se non lo facessimo faremmo passare il principio che le nostre regole, quelle varate dalle Istituzioni democratiche, in questo caso, addirittura, per tutelare e proteggere la salute e la vita delle persone possono, letteralmente, essere sovrascritte tecnologicamente da industria e mercato.
A quel punto sarebbe a rischio anche la salute della democrazia travolta dalla tecnocrazia.
Partecipa alla community