Pappagalli stocastici

Intelligenza artificiale,
l’impatto sulla mente umana

Articolo di Federico Berti

Da un anno a questa parte, l’esplosione delle intelligenze artificiali generative e del pessimo impiego che ne viene fatto su larga scala, ha sollevato diversi problemi etici: quello del diritto d’autore ad esempio, da parte di coloro che si sentono (comprensibilmente) defraudati del loro lavoro cannibalizzato da questi sistemi di modellizzazione. Quello delle allucinazioni di cui soffrono portandoli a ripetere cose di cui non comprendono il significato, riportando spesso informazioni inaffidabili che possono indurre in errore se non andiamo a verificarle. Quello dell’occupazione, dovuto all’opportunismo dei datori di lavoro che pensano di poter sostituire l’uomo con la macchina e non si rendono conto che l’innovazione dovrebbe servire a migliorare il mondo, non a creare nuove sacche di povertà.

Fra tutti questi dibattiti si è posto il problema dell’addestramento delle intelligenze artificiali che affiancato all’auto-apprendimento della macchina stessa porta col tempo la mente umana a ricalcare gli schemi del suo alter ego, depauperandola dell’inventiva, dell’intuizione, della fantasia, depotenziando l’immaginazione. Ne avevamo parlato in modo più approfondito a proposito delle nuove generazioni di scacchisti¹, addestrate da sistemi di modellizzazione con cui la mente umana ormai non può competere, i quali si ritrovano a giocare con uno stile sempre più freddo, riducendo il gioco a un problema di memoria e calcolo, epurandolo dall’aspetto ludico e creativo, favorendo così l’emersione di personalità disturbate e narcisiste.

Purtroppo la tendenza più diffusa in questi casi è incolpare di tali fenomeni regressivi l’intelligenza artificiale in sé, quando il problema andrebbe ricercato altrove. Precisamente, non nel mezzo ma nell’uso che ne viene promosso. Prendiamo ad esempio l’esperienza di Irina di cui parla Cecilia Sala² nel suo interessante podcast, che Annarita Nocerino ha proposto al gruppo Telegram: una giovane studentessa e scrittrice, per sostenere i suoi studi universitari ha accettato un lavoro come trainer di un’intelligenza artificiale. Inizialmente il lavoro le richiedeva solo poche ore al giorno ma col tempo l’impegno è cresciuto in accordo con le esigenze dell’azienda. Dopo diversi mesi Irina ha notato un cambiamento significativo nella sua mente, nel suo modo stesso di ragionare e quel che è peggio, una forte contrazione della sua creatività. Iniziava a ragionare come l’IA che stava addestrando e a doversi confrontare con la mancanza di ispirazione per scrivere. Si sentiva svuotata dei propri pensieri.

La storia di Irina non è un caso isolato. Molti lavoratori che addestrano IA possono sperimentare una sorta di transfert con le intelligenze artificiali che stanno formando. Questo fenomeno è in gran parte attribuibile all’immersione costante in un ambiente cognitivo specifico, dove la macchina diventa una sorta di alter ego virtuale dato che il sistema di autoapprendimento è studiato proprio per imitare³ i processi mentali di coloro che li addestrano. Ecco dunque la povera Irina prendersela istintivamente con l’automazione stessa del pensiero, non con l’impiego che è stata indotta a farne da un’azienda che non ha saputo valorizzare le sue risorse umane.

Il problema di cui la giovane scrittrice ha dovuto fare dolorosa esperienza non risiede nella tecnologia in sé, bensì nello standard di produttività imposto dall’azienda, che sarebbe risultato alienante con qualsiasi altra mansione replicata per molte ore di seguito. L’obbligo di trascorrere la maggior parte del proprio tempo a interagire con una macchina può diventare disumano e dannoso per la mente del trainer. È fondamentale trovare un equilibrio tra l’efficacia nell’addestramento delle IA e il rispetto dei lavoratori coinvolti. È il riflesso di un problema più ampio, che esiste da molto prima dell’avvento delle intelligenze artificiali generative. L’immagine di Charlie Chaplin in “Tempi moderni,” risucchiato dalla catena di montaggio della fabbrica, rappresenta un esempio classico di come il lavoro produttivo possa diventare disumanizzante e alienante⁴. La stessa questione si applica a molti lavoratori moderni, che passano lunghe ore davanti al computer o ai dispositivi tecnologici, spesso distanziati dalle relazioni umane e dal mondo esterno.

Conclusioni

L’addestramento di intelligenze artificiali è un campo di grande interesse che può portare un’implementazione dei processi cognitivi, ma va gestito con attenzione per preservare l’equilibrio tra produttività e benessere umano. L’esperienza di Irina ci insegna che l’interazione costante con le IA può avere impatti significativi sulla mente e sulla creatività. La macchina non può e non deve sostituire l’uomo, la tecnologia deve servire noi, non noi alla tecnologia: un tema di riflessione che porta molto più lontano e riguarda in parte i diritti del lavoro, in parte lo studio dei processi cognitivi in sé. La soluzione non sta nel rifiuto della tecnologia, ma nella creazione di ambienti di lavoro più umani. L’obiettivo deve essere quello di utilizzare lo strumento tecnologico per migliorare la qualità della vita, non solo per implementare il profitto degli investitori. In conclusione, non attribuiamo la causa del problema allo strumento di cui ci serviamo, anche Platone in fondo se la prendeva con la scrittura perché sosteneva che indebolisse la memoria, ma la storia ha poi insegnato che proprio grazie alla scrittura si sono potuti compiere dei passi altrimenti inarrivabili con la sola trasmissione orale del sapere. Possiamo anzi affermare senza dubbio che proprio l’invenzione della scrittura ha portato all’implementazione di una mnemotecnica più consapevole⁵. L’importante è non lasciarci possedere da quel che possediamo, o usare da quel che usiamo.

Note

1. Su questo tema rimando a Intelligenza artificiale, in:Federico Berti, Rivoluzione interiore. Mondi possibili e guerra cogmitiva, Bologna, Streetlib, 2023, p.163, “Un esempio del tema qui sollevato , è emerso di recente nel mondo degli scacchi: se un tempo i maestri del nobile gioco sostenevano a priori la superiorità strategica dell’uomo, megli ultimi vent’anni siamo arrivati a creare intelligenze artificiali con una potenza di calcolo tale da rendere lo strumento imbattibile dai migliori giocatori del mondo. Il risultato di quest’operazione è che sempre più scacchisti di nuova generazione iniziano effettivamente a ripeterne gli schemi di ragionamento, perdendo umanità nel modo di giocare. Gli scacchi sono diventati un gioco di memoria, lamentò il maestro Bobby Fischer prima di ritirarsi dalle scene” ↩︎
2. Cecilia Sala, Dovevo educare un’AI. Sono diventata una macchina, in: ‘Storie’, Podcast su Spotify ↩︎
3. Emily M. Bender e.a. parlano a questo proposito di ‘pappagalli stocastici’, in: On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in: FAccT ’21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and TransparencyMarch 2021Pages 610–623 ↩︎
4. Sul concetto di alienazione si veda Manlio Giuffrida e.a., Emergenza ecologica Alienazione Lavoro, Officine filosofiche, 2016 ↩︎
5. Si veda a questo proposito Cultura orale e scritta, in: Federico Berti, Memoria. L’arte delle arti, Bologna, Streetlib, 2023, p.49, “La famosa polemica di Platone non è rivolta contro la scrittura in sé, ma contro l’uso che ne viene fatto al suo tempo, in particolare dai sofisti, per imporre il culto dell’opinione sulla ricerca della verità. La scrittura da sola non basta, bisogna saper andare oltre il testo scritto”. ↩︎

Libri consigliati su questo sito