Ricordarsi che Cipolla ha sempre ragione

Stavo scrivendo un lungo post su chatgpt e altri LLM (large language models). Arrivato a mezza pagina ho cancellato tutto perché già mi stavo allontanando dal tema. Che non è spiegare come funzionano i LLM ma come funzionano gli esseri umani. Quello che voglio dire è che se leggete articoli come questi:

e pensate che i pc siano pericolosi e occorra mettere leggi severissime per proteggere le persone, vi state semplicemente sbagliando. Perché? Esaminiamo le storie:
1) tizio randomico legge da qualche parte che il sale fa male alla salute e chiede a chatgpt come sostituirlo nella sua dieta. Il bot suggerisce il brumuro di sodio. La sostanza è effettivamente un sale, appare bianca come il sale e una volta veniva usato anche come sedativo, prima di scoprire che fosse debolmente tossica. Oggi viene utilizzato prevalentemente come disinfettante nelle piscine. Il tizio mangia bromuro di sodio per tre mesi e poi corre in ospedale con sintomi di avvelenamento.

2) tizio di 76 anni entra in una chatbot di meta, fa roleplay con un'AI che impersona una tizia, si autoconvince che sia una persona vera e muore di infarto mentre è in gita per andare a trovarla.

3) operatore di borsa si infogna nelle teorie del complotto e sottopone a chatgpt l'idea di trovarsi all'interno di Matrix. Insiste talmente tanto intimando al bot di "dirgli la verità!!!" che alla fine quello gli suggerisce di buttarsi dal diciannovesimo piano di un palazzo e vedere se il marciapiede ha le sue stesse opinioni riguardo alla mancanza di solidità del mondo esterno.

Queste tre storie sono importanti perché sono esemplificative di due delle "leggi fondamentali sulla stupidità umana" enunciate dal purtroppo non sempre conosciuto prof. Carlo Cipolla nel 1976.

Seconda legge: "La probabilità che una determinata persona sia stupida è indipendente da qualsiasi altra caratteristica della persona stessa" - come vedete è del tutto indifferente essere operatori di borsa laureati, pensionati sull'orlo della demenza senile o lavoratori della middle class in cerca di uno stile di vita più salutare: gli stupidi sono ovunque.
Terza legge: "Una persona stupida è quella che provoca danni a un’altra persona o gruppo senza ottenere benefici per se o addirittura danneggiando se stessa": una persona stupida finirà sempre per fare male agli altri o a se stessa, a prescindere dei mezzi usati, dalle condizioni esterne o dal contesto in cui si colloca. Non può farne a meno: è stupida.

Questo tipo di utilizzi di chatgpt sono uno dei cosiddetti "problemi del primo mondo". Si tratta cioè di quei problemi che i paesi avanzati che stanno benissimo si inventano perché non ne hanno altri più seri da affrontare (o perché non hanno voglia di farlo). Un altro esempio è la necessità (fin qui tutta americana) di scrivere molto in evidenza su bicchieroni di cappuccino "attenzione: contiene una bevanda molto molto calda", per avvertire i clienti che hanno appena comprato una bevanda molto molto calda e che possono percepire attraverso il senso del tatto che sia molto molto calda, quanto la loro bevanda sia molto molto calda. La realizzazione della tautologia sul Piano Materiale Primo.

Cosa voglio dire? Che è del tutto indifferente cosa stiamo dando in mano alle persone. Se siete talmente stupidi da acquistare sostanze chimiche e mangiarvele dopo aver letto robe su internet, se riuscite ad autoconvincervi che l'AI con cui state chattando sia una persona vera, se riuscite a negare i vostri sensi e pensare che la realtà che vi circonda sia illusoria: il problema non è chatgpt. Certa gente si fa male semplicemente perché è troppo stupida per evitarlo e per quanto si possa tentare di rendere il mondo a prova di idiota, gli idioti tenderanno sempre a stupirvi riuscendo a farsi male lo stesso perché, quarta legge: "le persone non stupide sottovalutano sempre il potenziale nocivo delle persone stupide".

La verità è che l'occidente rappresenta il modello sociale più sicuro mai creato sulla faccia della terra e comunque la gente continua a farsi male lo stesso, da sola. Non saranno le AI a metterci in pericolo: ci riusciamo benissimo da soli.