LA FILOSOFIA DELL’INTELLIGENZA ARTIFICIALE

«Non so se porsi queste domande sia fare filosofia, ma sono convinta che alla nostra società non servano solo informatici, ma anche persone che abbiano un'idea del futuro e che non accettino pedissequamente qualsiasi dinamica venga loro propinata, come se fosse inevitabile»                                                                                                                             

Giusto due anni fa, nel novembre 2023, la Silicon Valley è stata scossa da un terremoto invisibile: Sam Altman, il CEO dell’azienda tecnologica più promettente degli ultimi anni, OpenAI, è stato licenziato e poi assunto nuovamente, il tutto nel giro di cinque giorni.

A scatenare questa crisi, tanto repentina quanto inaspettata, è stata una frattura ideologica tra due fazioni interne alla stessa azienda, una più prudente (allora maggioritaria nel consiglio di amministrazione) e l'altra più spregiudicata (capeggiata appunto da Altman).
La crisi si è aperta nel momento in cui Altman ha deciso di rendere pubblica una versione sperimentale e ancora molto imperfetta di ChatGPT, allo scopo di battere sul tempo Anthropic, una diretta concorrente di OpenAI.

Questa frattura, che si è risolta nel giro di pochissimi giorni con Altman prontamente rimontato in sella, è solo la punta dell’iceberg di uno scontro più ampio tra due opposte correnti di pensiero: quella dell’altruismo efficace (in inglese EA, Effective Altruism) e quella dell’accelerazionismo efficace (Effective Accelerationism, spesso indicato con la sigla “e/acc”).

Altruismo efficace vs Accelerazionismo efficace

L’altruismo efficace è la corrente più cauta: crede che la tecnologia sarà in grado di migliorare sensibilmente la vita del genere umano, ma che sia necessario evitare fughe in avanti, dal momento che uno sviluppo incontrollato dell’IA potrebbe avere, secondo molti esperti, delle conseguenze potenzialmente disastrose.

Lo scopo dichiarato dell’altruismo efficace è quello di procurare “il massimo bene per il maggior numero di persone” e per questo si inserisce a buon diritto nella scia dell’utilitarismo, cioè di quella concezione filosofica che individua nell'utilità il criterio fondante dell'azione morale. L’utilitarismo, nella ricerca del massimo bene per il maggior numero di persone, cerca di fare dell’etica una scienza esatta, come la matematica. L’altruismo efficace punta a costruire un’intelligenza artificiale che possa mettere l’algoritmo al servizio dell'etica.

Questa corrente di pensiero è stata influenzata anche dalle teorie sul "lungotermismo" del pensatore William MacAskill, che nel saggio What We Owe the Future sostiene che «influenzare positivamente il futuro a lungo termine sia una priorità morale chiave del nostro tempo».

L’accelerazionismo efficace, al contrario, ritiene che le storture possano essere risolte solo con un colpo di reni, con una spinta violenta e potenzialmente distruttiva, che operi una frattura e una successiva ricomposizione del quadro. Questa corrente si ispira dichiaratamente a una teoria politica, l’accelerazionismo, secondo la quale il superamento del capitalismo si può ottenere solo accelerando, e non contrastando i processi che lo caratterizzano. Nonostante questo riferimento quasi “marxista” al superamento del capitalismo, quella dell’accelerazionismo efficace è una teoria sposata dall’estrema destra americana (quella dei multimiliardari della Silicon Valley come Elon Musk e Peter Thiel) che si oppone a qualsiasi forma di redistribuzione della ricchezza e che inneggia, più o meno velatamente, al nazismo. Nello scontro interno a OpenAI di cui abbiamo parlato, Altman si posiziona dalla parte di quelli che spingerebbero forte sul pedale dell’accelerazione.


Nell’articolo Among the A.I. Doomsayers (tradotto: “Tra i profeti di sventura dell’I.A.” pubblicato sul New Yorker, si legge che:

Se credi davvero che l'IA abbia una probabilità pari a quella di un lancio della moneta di uccidere te e tutti coloro che ami, ha chiesto Nielsen, allora come puoi continuare a costruirla? La risposta di questa persona è stata: "Nel frattempo, avrò una bella casa e una bella macchina". Non tutti lo ammettono ad alta voce, ma molte persone – e non solo nella Silicon Valley – hanno la vaga sensazione che i lussi di cui godono nel presente possano costare caro alle generazioni future. Il fatto che facciano questo scambio potrebbe essere una questione di semplice avidità o di sottile negazionismo. Oppure potrebbe trattarsi di ambizione: astenersi prudentemente dal costruire qualcosa, dopotutto, non è il modo migliore per entrare nei libri di storia.
Among the A.I. Doomsayers, di Andrew Marantz, The New Yorker, 11 marzo 2024. (La traduzione è mia)

Questa celebrazione della velocità, della macchina e della violenza non è un concetto nuovo. Nel 1909 Filippo Tommaso Marinetti pubblicava il Manifesto del Futurismo, in cui scriveva: «noi siamo sul promontorio estremo dei secoli!.. Perché dovremmo guardarci alle spalle, se vogliamo sfondare le misteriose porte dell'Impossibile? Il Tempo e lo Spazio morirono ieri. Noi viviamo già nell'assoluto, poiché abbiamo già creata l'eterna velocità onnipresente». E ancora, sul primato della macchina: «noi affermiamo che la magnificenza del mondo si è arricchita di una bellezza nuova: la bellezza della velocità. Un automobile da corsa col suo cofano adorno di grossi tubi simili a serpenti dall'alito esplosivo... un automobile ruggente, che sembra correre sulla mitraglia, è più bello della Vittoria di Samotracia».
La “macchina” allora era un veicolo, mentre oggi è un sistema computazionale, ma poco cambia: possiamo genericamente far rientrare entrambi nel concetto più ampio di tecnica.

L'età della tecnica

Il filosofo Umberto Galimberti ha ragionato molto sul ruolo della tecnica nella storia dell'umanità. Nel mondo greco, dice Galimberti, la vita dell'uomo era scandita e regolata dalla natura, che si presentava come un insieme di leggi necessarie e immutabili. Il ruolo dell'essere umano dunque era quello di contemplare la natura, di cercare di catturare delle costanti a cui adattarsi. L'uomo infatti percepiva se stesso in una posizione di subalternità. Prometeo, che infrange le regole e dona il fuoco (metafora della tecnica) all’uomo, viene punito e incatenato. 

Nel Seicento si compie un importantissimo cambio di paradigma. Pensatori come Galileo e Cartesio rovesciano il punto di vista sulla natura. Questi pensatori consegnano all’uomo il primato sull’ordine naturale, ponendo al primo posto le loro ipotesi. «La natura è ora l'imputato che risponde alle domande degli uomini e, se conferma le ipotesi che questi hanno formulato, tali ipotesi vengono assunte come “leggi di natura”». (Umberto Galimberti, I miti del nostro tempo, Feltrinelli, 2009)

Con l’introduzione di questo approccio, che definiamo metodo scientifico si compie la rivoluzione copernicana e nasce la scienza moderna. Le leggi di natura perdono la loro immutabilità: esse infatti non sono valide in sé ma solo fintanto che non verranno formulate delle ipotesi che, contraddicendole, le sostituiscano.

La Seconda Guerra mondiale costituisce un momento di passaggio ulteriore nella storia della tecnica, non solo perché la corsa forsennata alla bomba atomica ha convogliato enormi investimenti economici e intellettuali, ma anche perché è apparso evidente che di fronte a un tale avanzamento tecnico, l'essere umano non ha opposto alcuna resistenza, anzi, si è subito messo al servizio della tecnica in modo passivo e alienato.

Il filosofo tedesco Günther Anders, rifugiatosi in America per sfuggire all’Olocausto, scorge una somiglianza inquietante tra il lavoro passivo che si ritrova a svolgere in uno stabilimento Ford, al servizio di grandi macchinari precisi e implacabili, e il lavoro dei gerarchi nazisti al servizio di quell’enorme “macchina della morte” che sono stati i Lager.
Al processo di Norimberga, i gerarchi nazisti si erano giustificati sostenendo di aver semplicemente svolto il loro lavoro, e curiosamente è la stessa risposta che ha fornito il pilota che ha sganciato la bomba atomica su Hiroshima. Interrogato sulla tragicità di quel momento, ha risposto: that was my job.

Non è necessario arrivare a dei casi così estremi: chiunque lavora di fronte a un computer non ha difficoltà a riconoscere di essere in una condizione di subalternità rispetto alla tecnologia, la quale lo sovrasta in precisione, memoria e potenza di calcolo. Il lavoro dell’essere umano spesso consiste nell’essere al servizio della tecnica; nell’apparecchiare, correggere, revisionare i dati, affinché l’algoritmo (lui!) possa elaborare la soluzione e prendere una decisione.

«L'AI ci propone di funzionare: vuole farti da amministratore di condominio, suggerire la prescrizione medica o il consiglio legale, o addirittura comporre il romanzo che ho in mente - ma i pomodori li lascia raccogliere a un umano povero in un campo assolato. Per noi "precari intellettuali" sono tempi duri» suggerisce brillantemente un lettore del Post. 

È un notevole mutamento culturale: per secoli abbiamo pensato che il lavoro nobilitasse l’uomo, che la direzione della conoscenza dovesse procedere dagli anziani ai più giovani, che le competenze fossero preziose. Che quello che sai o sai fare ti definisse; ora chiunque sa tradurre un testo, scrivere una tesi, produrre un podcast. 

O perlomeno, lo sa fare finché non salta la corrente.

Al di là dello studio che dedico a questo argomento per interesse personale, per lavoro mi sono trovata a seguire un webinar che trattava delle varie applicazioni dell’intelligenza artificiale nel mondo aziendale. L’impressione che ho avuto, raccapezzandomi in un vacuo storytelling “impaginato bene”, è che ben pochi posti di lavoro possano definirsi veramente al sicuro. Immagino con quale stato d’animo i ragazzi di oggi vadano a scuola, allettati (i più ingenui), dalla falsa illusione di prendere bei voti imbrogliando con l’IA e con l’amara consapevolezza, (i più perspicaci) di doversi confrontare con una concorrenza sleale.

Non è colpa dell’IA: è sempre (sempre!) una questione di classe sociale, anche se ci ostiniamo a negarlo. L’IA potrebbe rimpiazzare anche gli amministratori delegati, ma la categoria non si sente minacciata, e a ragione. Il re è nudo.

Sovranità e sostenibilità dell'intelligenza artificiale

Al Festival delle Idee di Mestre, lo scorso 11 ottobre, è intervenuto don Paolo Benanti, teologo e ricercatore, unico italiano membro del Comitato sull'intelligenza artificiale delle Nazioni Unite. Ascoltare la sua conferenza mi è stato molto utile per capire quale sia, molto concretamente, il nocciolo della questione. Tralasciamo gli scenari più distopici e restiamo sul piano della realtà: quali sono i rischi concreti da tenere in considerazione?

Quando è stata inventata l'automobile, ha detto Benanti, abbiamo inventato anche il guard rail per tutelare il passeggero. Inoltre, abbiamo deciso che per guidare l'auto servisse la patente, e che fosse opportuno dotarsi di una targa, in modo che in caso di incidente fosse possibile risalire a chi l’ha causato.

Per l'intelligenza artificiale, quali tutele abbiamo predisposto? L’intelligenza artificiale è una tecnologia potenzialmente distruttiva, non tanto perché butti giù i palazzi, ma perché distrugge le nostre categorie interpretative e culturali.
La verità è che stiamo tornando analfabeti: non sappiamo più decodificare le informazioni. Prima sapevamo distinguere se un'informazione proveniva da un libro di filosofia o da un libro di barzellette. Ora con l’IA non siamo più in grado di farlo, e infatti molti contenuti prodotti in malafede con l'intelligenza artificiale stanno già minando dall'interno la credibilità delle istituzioni.

Stiamo delegando alle macchine delle decisioni delicatissime, come decidere a chi concedere un prestito o a chi assegnare una priorità nei trapianti. È un salto nel vuoto senza rete di protezione. Alcune istituzioni più prudenti, come l’Unione Europea (prudente è chiaramente un eufemismo) stanno provando a regolamentare l’uso di queste nuove tecnologie, anche se è quasi impossibile riuscire a far rispettare le regole. Esse infatti sono valide sul territorio europeo, ma come fare se i server si trovano negli Stati Uniti, in Cina o a Dubai?

Tra le varie proposte, c’è quella di puntare su una sorta di sovranità tecnologica. Per limitare la dipendenza da e l’interferenza di potenze straniere, sarebbe opportuno che i data center si trovassero in Europa. C’è un problema, però: un solo data center consuma quanto un'intera città. Per alimentarlo serve una centrale nucleare.

Il contratto sociale su cui si basa il benessere occidentale presuppone la condivisione delle infrastrutture per il bene comune. Non è una fantasticheria da vecchi comunisti: è quello che ci distingue dal terzo mondo. Ospedali, acquedotti, ferrovie, sono tutte infrastrutture che diamo per scontate e che ci consentono di non preoccuparci se l'acqua che esce dal rubinetto è potabile o se i macchinari negli ospedali sono disponibili.

Come vanno considerati i data center, in relazione al contratto sociale? Sono anch’essi delle “infrastrutture pubbliche” o sono piuttosto dei “super utenti" che succhiano l’energia finora destinata ad altri servizi? L’energia elettrica non è una risorsa infinita: se viene usata per l’IA rischiamo la deindustrializzazione, o perché l'energia disponibile non basta più, o perché la sua scarsità ne aumenta il prezzo al punto che i costi di produzione dei prodotti crescono così tanto da renderli invendibili. Se imbocchiamo la via della deindustrializzazione, le persone restano senza un lavoro, e siccome è con le tasse sul lavoro che lo stato finanzia sanità, previdenza, istruzione, e tutto il resto, sarebbe giusto chiedersi se il gioco valga la candela.

Quella dei costi è una questione dirimente: chi paga? Abbiamo l’impressione che l’intelligenza artificiale sia un bene “gratuito”, che il costo si esaurisca con la bolletta della rete internet o (al massimo) sottoscrivendo un abbonamento... ma è un'illusione.
Sono tante le cose che sembrano gratis, ma gratis non sono. O meglio, sono degli inviti al consumo occulti, che nel consumo indotto trovano una compensazione economica. Pensiamo alle arachidi sul bancone del bar: il barista le offre, ma solo perché fanno venire sete. Le grandi aziende tecnologiche hanno presentato l’IA al pubblico attraverso versioni gratuite dei loro chatbot, e molte aziende stanno già iniziando a integrarli nei loro processi, talvolta addirittura riducendo il personale. Cosa succederà se un domani questa tecnologia smettesse improvvisamente di essere accessibile e diventasse costosissima? Per molte aziende sarebbe un colpo letale.

Non so se porsi queste domande sia fare filosofia, ma sono convinta che alla nostra società non servano solo informatici, ma anche persone che abbiano un'idea del futuro e che non accettino pedissequamente qualsiasi dinamica venga loro propinata, come se fosse inevitabile.

Talvolta, quando sento parlare di intelligenza artificiale in modo acritico e sognante, ho l'impressione di essere in una classe di adolescenti smanettoni e scemi, mentre io mi sentirei più tranquilla se sapessi che a occuparsene c’è qualche adulto dotato di raziocinio. 

Papa Leone XIV ha dichiarato di aver scelto questo nome in continuità con il pontefice che nel 1878 «affrontò la questione sociale nel contesto della prima grande rivoluzione industriale». La sfida della Chiesa di oggi, ha detto papa Prevost, è quella di rispondere a un’altra rivoluzione industriale: quella dettata dall’intelligenza artificiale, che comporta «nuove sfide per la difesa della dignità umana, della giustizia e del lavoro».

Da quanto hanno detto don Benanti e papa Leone XIV, sembra che il Vaticano sia avanti a noi di un bel pezzo. Giudicate voi se questo è incoraggiante.

Per approfondire:

Nella Silicon Valley capiscono i film?, di Pietro Minto, Il Post, 26 maggio 2024

Meet the Silicon Valley CEOs Who Insist That Greed Is Good, di Ali Breland, Mother Jones, gennaio-febbraio 2024

Among the A.I. Doomsayers, di Andrew Marantz, The New Yorker, 11 marzo 2024