Julian Nida-Rümelin è uno dei più noti intellettuali tedeschi. Ha studiato filosofia e fisica, è stato Ministro della Cultura nel primo governo Schröder e oggi è ordinario di Filosofia e Scienze Politiche all’Università di Monaco di Baviera. L’ultimo suo libro, edito da FrancoAngeli, si intitola “Umanesimo digitale. Un’etica per l’epoca dell’Intelligenza Artificiale” ed è stato scritto a quattro mani con Nathalie Weidenfeld. Il saggio getta un ponte tra riflessione filosofica, cinema, letteratura, scienze naturali e tecnologie informatiche. Gli autori sostengono l’“umanesimo digitale”, alternativa all’imperante ideologia della Silicon Valley. Una posizione attenta alle esigenze della tecnica e a quelle degli uomini, che si distingue dalle visioni apocalittiche, perché confida nella ragione umana, e da quelle tecno-entusiastiche, perché riconosce i limiti della tecnologia digitale. Ecco un estratto dal libro.
In un senso ampio, la denominazione Intelligenza Artificiale designa tutto ciò che può venire realizzato con tecniche digitali, con la computazione. A partire dal calcolatore tascabile per arrivare al sistema di software che è capace di autoapprendimento e agisce autonomamente. In campo filosofico, l’interpretazione che si spinge più a fondo in questo errore viene chiamata “IA forte” (strong artificial intelligence), una posizione secondo la quale non esiste alcuna differenza categoriale tra uomo e computer: i sistemi di software che imitano il comportamento, i giudizi e le decisioni degli esseri umani dimostrano di avere anche proprietà assimilabili a quelle di questi ultimi. La IA forte ha due diverse varianti: una materialistica e una animistica.
Nella variante materialistica, i cervelli umani non sono nient’altro che computer complessi. Quindi il lessico delle proprietà mentali è fondamentalmente superfluo e con il progresso delle scienze naturali il “mentalese” (il lessico delle proprietà mentali) sarà destinato a scomparire.
Se si prendesse sul serio il meccanicismo digitale come una visione del mondo, ciò significherebbe la fine della forma di vita propriamente umana.
Nella variante animistica, che caratterizza molti film hollywoodiani, i sistemi di software vengono considerati come esseri animati, dotati esattamente delle stesse proprietà mentali degli esseri umani.
L’interpretazione “debole” dell’Intelligenza Artificiale non afferma che non esista alcuna differenza categoriale tra uomo e computer, ma unicamente che, in linea di principio, tutte le prestazioni cognitive degli esseri umani possano venire fornite anche dai computer.
L’aspettativa ottimistica che le capacità cognitive dei sistemi di software siano suscettibili di uno sviluppo illimitato va spesso di pari passo con una specie di speranza di redenzione: le tecnologie digitali libereranno gli esseri umani dalle fatiche e dalle limitazioni imposte alla loro esistenza e, tramite l’interazione e la comunicazione, creeranno un nuovo tipo d’interlocutore, estendendo in modo indefinito le capacità percettive e conoscitive degli esseri umani. Il messaggio lanciato da alcuni imprenditori della Silicon Valley a favore di una totale digitalizzazione del mondo in grado di dare avvio a una nuova èra, rammenta una certa retorica millenaristica che nella cultura statunitense ha sempre avuto un grande rilievo. Questa sorta di millenarismo tecnologico propugnato dalla Silicon Valley è una specie di versione degenerata dell’escatologia cristiana, che presenta la rivoluzione digitale come la risposta a tutti i nostri problemi economici, sociali e anche spirituali.
L’umanesimo digitale contrappone a questa ideologizzazione delle tecnologie digitali un contegno di sobrietà. Come tutte le tecnologie del passato, anche quelle digitali sono ambivalenti. Non vi è in esse alcun immanente e automatico percorso di umanizzazione né tantomeno di redenzione. Sono le forme concrete di utilizzo a decidere del carattere favorevole od ostile che possono avere per gli esseri umani. L’umanesimo digitale ha un atteggiamento pragmatico nei confronti dei processi di digitalizzazione: che cosa può risultare utile sotto il profilo economico, sociale e culturale, e dove sono in agguato dei pericoli? Abbiamo difeso questa posizione facendo ricorso a una serie di esempi, dai veicoli a guida autonoma fino al transumanesimo.
In secondo luogo, l’umanesimo digitale si contrappone all’IA forte. Non c’è niente che faccia pensare che i si- stemi di software abbiano delle percezioni o persino del- le emozioni, che possano conoscere e decidere. Ciò di cui sono capaci è tutt’al più una simulazione più o meno riuscita di processi cognitivi ed emotivi. Dovremmo guardarci da quella forma di autoinganno che consiste dapprima nello sviluppare macchine digitali che simulino emozioni, conoscenze e decisioni, poi nel constatare con sorpresa che queste macchine sembrano a tutti gli effetti essere in grado di avere emozioni e di conoscere e decidere.
A questo punto entra in gioco un argomento che affonda le sue radici nella logica, nella matematica e nella teoria della conoscenza. I risultati metamatematici di incompletezza e indecidibilità ai quali giunsero Kurt Gödel e altri logici nella prima parte del XX secolo sono decisivi a questo riguardo. Li abbiamo considerati come la confutazione conclusiva della tesi dell’IA debole. Questi risultati mostrano che non può esistere una simulazione completa delle capacità di giudizio e di decisione proprie degli esseri umani. Molte esperienze sembrano suggerirci che anche la differenza categoriale tra uomo e macchina stia proprio qui. È in ogni caso questa la tesi che il matematico e fisico teorico Roger Penrose ha difeso in due ponderose monografie. Ma, anche indipendentemente da tale questione, sarebbe già di per sé fuorviante attribuire ai sistemi di software delle proprietà mentali, perché in tal modo la nostra consuetudine quotidiana con i computer diventerebbe problematica e l’ulteriore progresso tecnologico verrebbe bloccato. Se i computer conoscessero, decidessero e sentissero, dovremmo infatti trattare queste macchine con riguardo e riconoscere loro anche dei diritti sulla base del grado di somiglianza con gli esseri umani. In modo del tutto contraddittorio rispetto alla sua intenzione, l’IA forte diventa così un ostacolo al progresso.
L’umanesimo digitale mantiene il senso delle proporzioni. Sottolinea l’immutabilità che riguarda numerosi tratti della natura umana e le condizioni di uno sviluppo umano. Difende le conquiste culturali come la separazione tra pubblico e privato e ciò che la Corte costituzionale tedesca ha definito “autodeterminazione informativa”. Prende posizione a favore di un rafforzamento della democrazia, anche tramite l’impiego delle nuove possibilità digitali, mette in guardia contro il progressivo indebolimento della capacità degli esseri umani di intendersi gli uni con gli altri in tempi di crescente anonimizzazione e manipolazione della comunicazione via Internet. Prende posizione a favore di un rafforzamento della capacità di giudizio al fine di rendere possibile riuscire a orientarsi in modo affidabile in un contesto caratterizzato da una enorme offerta di dati.
L’umanesimo digitale non assume una posizione difensiva né intende frenare il progresso tecnologico nell’epoca dell’Intelligenza Artificiale. Vuole piuttosto favorire il progresso umano, utilizzando le opportunità digitali per rendere le nostre vite più ricche, più efficienti e più sostenibili. Non coltiva il sogno di una forma del tutto nuova di esistenza umana come fanno i transumanisti, rimane scettico nei confronti di aspettative utopistiche, ma è ottimista per quanto riguarda la capacità degli esseri umani di riuscire a plasmare le potenzialità digitali.
