Un uomo americano di 60 anni è stato avvelenato dall’intelligenza artificiale: no, non è la trama di un film stile Io, Robot, ma una vicenda accaduta realmente. L'uomo si è presentato in ospedale in preda ad allucinazioni e gli è stata diagnostica una rara malattia chiamata bromismo: a causargliela, è stato proprio un consiglio arrivato da ChatGPT.
Un triste epilogo per un'innocua richiesta
"Mi dici in che modo può essere sostituito il sale?": probabilmente è questa la domanda posta dall'uomo statunitense che voleva semplicemente eliminare il sale dalla propria dieta. Un consiglio che può sembrare quasi innocuo, ma che lo ha portato a presentarsi nell'ospedale più vicino in preda a paranoie e allucinazioni visive e uditive. Come affermato dalla rivista Annals of Internal Medicine che ha riportato il caso, il protagonista di questa triste vicenda si sarebbe presentato nella struttura ospedaliera affermando di essere stato avvelenato dai vicini. In realtà ciò che lo aveva intossicato era stato un consiglio dato dal suo (e ormai di tutti) "amico virtuale" che gli aveva suggerito di sostituire il cloruro di sodio (il normale sale da cucina) con il bromuro di sodio.
Ora, siamo ancora lontani da quei futuri distopici in cui le macchine riescono a conquistare il mondo e decidono di eliminare la razza umana, e sicuramente l'intenzione non era quella di intossicare il povero malcapitato, ma l'errore è stato invece nella comunicazione. Nonostante non sia stato possibile risalire alla cronologia della conversazione tra l'essere umano e il computer, i medici hanno "interrogato" quest'ultimo, ipotizzando che il gap sia stato in una mancata (ma essenziale) specificazione da parte dell'utente: con ogni probabilità non è stato chiarito che l'ambito in cui doveva essere sostituito il sale era quello alimentare e non industriale come, probabilmente, ha erroneamente interpretato dall'AI. L'uomo aveva quindi introdotto, da circa tre mesi, il bromuro nella sua dieta, scelta che lo ha portato a contrarre il bromismo, causandogli proprio disturbi fisici e psichici.
L'intelligenza artificiale non è un professionista
Non vogliamo essere troppo ipocriti: tutti almeno una volta abbiamo cercato qualche consiglio medico su internet (e quasi sempre le diagnosi sono catastrofiche). Prima c'era soltanto Google, oggi abbiamo l'intelligenza artificiale, che ha reso ancora più elementare questa dinamica: una domanda semplice e diretta, come fosse rivolta a qualsiasi medico, e una risposta purtroppo altrettanto semplice. Una soluzione che sembra efficace, immediata, ma che – soprattutto dopo eventi come questo – apre le porte a mille interrogativi: può davvero un'intelligenza artificiale sostituire un esperto? Non esistono mezzi termini, la risposta è una: no. Che sia in campo medico o alimentare, il parere di un professionista non può essere ridotto a una macchina: le diagnosi prevedono uno studio, un'attenzione minuziosa al paziente, alle sue problematiche, al suo stile di vita e a tutta una serie di parametri che portano ad avere un quadro completo prima di poter arrivare a una soluzione.
Per quanto le richieste a sistemi come ChatGPT o Gemini o chicchessia possano essere innocue – figuriamoci se questo povero signore si aspettava un epilogo del genere solo per aver chiesto come sostituire il sale – il rischio purtroppo è sempre dietro l'angolo: e non importa se la domanda viene posta correttamente senza possibilità di fraintendimento, perché ancora non siamo (e speriamo di non arrivarci mai) al punto in cui una macchina potrà davvero prendere il posto di un essere umano, con le sue capacità e con la sensibilità di chi ha passato anni e anni sui libri con l'obiettivo di poter aiutare gli altri, che sia in nutrizione, medicina o qualsiasi altro campo. Quindi, in conclusione, solo una cosa possiamo dire: utilizza questi strumenti con criterio e rivolgiti sempre a un professionista per qualsiasi tipo di parere, soprattutto se in gioco c'è la tua salute.
;Resize,width=767;)
