Per una critica all’ideologia della Silicon Valley: la condizione umana non può avere come vettore le sole tecnologie. Intervista del manifesto a Julian Nida-Rümelin e Nathalie Weindenfeld. In «Umanesimo digitale» (Franco Angeli) un’analisi degli esiti della digitalizzazione della nostra vita. Un filosofo e una storica del cinema immaginano un’etica per l’età dell’intelligenza artificiale
![](https://comune-info.net/wp-content/uploads/2019/10/163398438.jpg)
Digital humanities è l’espressione chiave usata per aprire le porte blindate di alcune discipline del sapere umanistico e scientifico con l’obiettivo dichiarato di scardinare la loro separazione in vista di un rinnovato incontro, dopo il divorzio più o meno consensuale consumato con l’affermarsi di una società dominata dalla tecnoscienza. I digital humanities sono tuttavia diventati molto più che la sollecitazione a un generico «tornare a parlarsi». Sono cioè un consolidato ambito di ricerca attorno alla digitalizzazione della vita umana, il cosiddetto «computazionismo»: l’esercizio del potere e della democrazia nel capitalismo contemporaneo.
Tutto ciò è evidente fuori dai confini del nostro Paese, dove i digital humanities sono purtroppo ancora espressione del lavoro e dell’impegno «volontario» di docenti e ricercatori che attivano progetti e seminari quasi in clandestinità rispetto alla vita universitaria. Negli Stati Uniti si assiste invece ad un’ampia articolazione tematica che spazia dallo studio del software all’antropocene fino alla statuto teorico dell’intelligenza artificiale. Mentre in Germania tali studi sono al centro di una fiorente riflessione che verte sulla cosiddetta industria 4.0, sul rischio di un uso incontrollato dell’intelligenza artificiale rispetto al comportamento degli umani, sul rapporto tra democrazia rappresentativa e democrazia diretta.
È in questo contesto che ha preso forma il volume Umanesimo digitale (Franco Angeli, pp. 190, euro 18) e il sodalizio intellettuale tra Julian Nida-Rümelin e Nathalie Weindenfeld. Il primo è un filosofo chiamato agli inizi del nuovo millennio dall’allora leader socialdemocratico Gerhard Schröder a guidare il ministero della Cultura. Una parentesi dopo la quale Rümelin ha pubblicato Democrazia e verità, Per un’economia umana, Pensare oltre i confini (tutti per Franco Angeli). Nathalie Weidenfeld, invece, è una docente di cinematografia alla Freie Universität di Berlino. Due personalità intellettuali che in questo libro provano a fondersi nella prospettiva dell’elaborazione di un’«etica per l’epoca dell’intelligenza artificiale», come recita il sottotitolo. Così, se il primo si confronta con la tematica dei diritti delle macchine, Weidenfeld affronta la costruzione di un immaginario collettivo attorno alla pervasività delle macchine operata dal cinema, la fantascienza letteraria, le tante serie tv su futuri più o meno distopici. Non mancano riferimenti a temi più cogenti, come la disoccupazione di massa e l’aumento delle diseguaglianze sociali, all’interno tuttavia di una prospettiva che poco o nulla concede alla richieste di un’innovazione teorica attorno alle politiche sociali e del lavoro in una prospettiva critica del capitalismo.
Nel libro, i «digital humanities» sono presentati come una critica all’ideologia della Silicon Valley, arrivando a mettere sotto accusa la visione della vita, le concezioni delle relazioni sociali, perfino quelle affettive, frutto del cosiddetto computazionismo o calcolismo insito in quell’ideologia. Quali sono le caratteristiche della vostra concezione dell’umanesimo digitale?
NIDA-RÜMELIN: L’umanesimo digitale è basato su un’idea semplice, cioè che la condizione umana non ha come vettore privilegiato le sole tecnologie. Gli umani sono esseri senzienti con propri diritti, dignità, autonomia decisionale e deliberativa. Tali caratteristiche non riguardano invece le macchine. L’umanesimo digitale non rifiuta però la tecnologia. Afferma tuttavia che devono essere gli umani a esercitare il controllo sulla propria, provando altresì a immaginare soluzioni alle derive «calcoliste» che riducono gli umani a simulacri di macchine, quasi che questi ultimi funzionassero appunto come macchine.
Nel recente passato, c’è chi ha sostenuto che i robot fossero
realtà, esseri ai quali estendere alcuni diritti civili e umani. Voi
respingete questa ipotesi. Perché?
WEIDENFELD: Il tema dei diritti dei robot ha una lunga storia.
Inizialmente si intreccia con le regole auree dei robot stilata dallo
scrittore, tecnologo e filosofo Isaac Asimov. Le tre regole del loro
funzionamento presupponevano implicitamente anche dei loro diritti. Più
recentemente, l’argomento è stato articolato alla luce del possibile uso
dell’intelligenza artificiale in alcuni ambiti. Le automobili senza
guidatore rappresentano uno di questi casi; ma ce ne sono altri, come
l’uso dei droni in alcune situazioni che esulano dalle guerre; oppure
quando viene definita una terapia sanitaria da parte di un sistema
esperto. Tutti casi che hanno visto manager e dirigenti di impresa
ipotizzare l’estensione di alcuni diritti umani alle macchine. Da questo
punto di vista, si pone un primo problema. Le macchine sono programmate
per svolgere alcune funzioni, operazioni. Possono eseguirle «apparendo»
intelligenti, ma alle base c’è sempre un fattore deterministico di
input e output. Manca cioè la dimensione relazionale, riflessiva intorno
alle ragioni di una scelta piuttosto di un’altra, che è caratteristica
umana. Diventa difficile dunque parlare di diritti per chi funziona in
base a logiche computazionali che rispondono a criteri di «sì» e «no»,
di 0 e 1. Le macchine fanno calcoli precisi, veloci e con pochissimi
errori. Tutto ciò sembra aprire finestre su mondi migliori di quelli
imperfetti creati dagli umani. Possiamo anche indugiare su questi
elementi: velocità, precisione, accuratezza, financo una certa capacità
estetica, come si può ricavare dalla fantascienza, che attorno alle
macchine ha coltivato illusioni e filoni narrativi e cinematografici di
grande successo. Possiamo inoltre dire che la fantascienza è stata
l’ambasciatrice, se non il produttore attivo di un immaginario relativo
alle macchine divenuto ormai dominante. Ci sono stati film, ad esempio,
che in maniera melodrammatica hanno messo in scena il dolore di robot di
fronte a situazioni di privazione dell’affetto e del loro ruolo di
operai, o meglio di schiavi silenti e obbedienti. Penso a A.I. –
Intelligenza artificiale di Spielberg; oppure al possibile incontro tra
un robot e un poliziotto diffidente come avviene in Io Robot di Alex
Proyas. Due film che per primi hanno equiparato i diritti degli umani a
possibili e necessari diritti delle macchine. Ma quel che si cela dietro
le storie messe in scena sul grande schermo, più che i diritti della
macchine sono la sofferenza, l’oppressione, le condizioni di
subalternità che caratterizzava in passato e caratterizza ancora oggi la
vita di specifici umani: gli afroamericani, per quanto riguarda gli
Stati Uniti, ma anche altre minoranze.
Possiamo dunque dire che l’ideologia della Silicon Valley avrebbe avuto
qualche difficoltà in più a diffondersi così velocemente senza il
supporto della fantascienza. Al contrario, i digital humanities svolgono
un ruolo essenziale nel non fare proprie letture edificanti o
melodrammatiche delle storie narrate, ma di coglierne la dimensione
metaforica o metonimica. Spesso, infatti, si dice robot per non dire
afroamericano. Perciò, si può affermare che l’intelligenza artificiale
non possiede intenzionalità, emozioni, capacità di avere sensazioni.
Nella visione computazionale si impone un’idea povera di intelligenza,
ridotta a mera capacità di calcolo. Ma l’intelligenza è molto di più. E
questo è evidente quando, appunto, si prendono in esame alternative,
scelte, si delibera qualcosa.
In questo senso, sembrate stabilire una differenza tra intelligenza artificiale forte e intelligenza artificiale debole…
J. N-R: Per il filosofo John Searle l’intelligenza artificiale forte si
poneva il problema di stabilire l’esistenza e le caratteristiche degli
stati mentali del software, mentre l’intelligenza artificiale debole si
occupava di simulazioni di stati mentali. Da questo punto di vista la
differenza è notevole, ma che si comprende solo nel corso del tempo,
cioè nel lavoro di ricerca.
Nel libro rifiutate le tesi sul lavoro ridotto a risorsa scarsa dall’innovazione tecnologica e del reddito di cittadinanza come politica di gestione di un mondo segnato dalla disoccupazione e dal lavoro intermittente. Pensate che se vengono cancellati posti di lavoro in un settore a causa delle macchina, altri compenseranno con la crescita dell’occupazione? Eppure, molte analisi dicono il contrario…
J.N-R: Al di là delle tante promesse o incubi evocati, la digitalizzazione non ha provocato un aumento della produttività, una riduzione radicale dei redditi e la tanto ventilata disoccupazione di massa. Con il reddito di cittadinanza c’è il rischio di un congelamento, un’istituzionalizzazione delle diseguaglianze attuali, che sono si cresciute, ma non sono immutabili. Perciò, meglio trovare altre strade per gestire gli effetti della digitalizzazione sulla società.
Fonte: il manifesto
Il tema s’innesta in una rilevazione empirica che faceva già Sherry Turkle e sui covremmo riflettere tutti: mentre le macchine imparano a riconoscere le espressioni emotive, i giovani perdono la capacità di provare empatia tramite le eomozioni…