Nuove tecnologie e intelligenza artificiale.
Esperienza del limite e desiderio di infinito
Cuneo 21-24 Settembre 2023
Relazione di Paolo Benanti
all’Incontro nazionale di studi delle Acli nazionali
DEMOCRAZIA E ALGOTERICA
(testo non rivisto dal relatore)
Perché l’etica applicata alle nuove tecnologie, e soprattutto l’intelligenza artificiale, in questo momento pone alcune sfide alle democrazie e ai contesti di vita sociale? Per rispondere al quesito dobbiamo guardare all’inizio del processo di sviluppo dell’intelligenza artificiale, che sostanzialmente nasce in un laboratorio dell’Abs quando per la prima volta si formalizza il concetto di informazione. Per passare dall’informazione all’intelligenza artificiale ci sarà bisogno di tempo ma la scaturigine del processo è la nascita dell’informazione.
Claude Shannon è colui che per primo ha messo al centro il concetto di informazione. Il suo problema era trasmettere un messaggio tra le due parti dell’Atlantico durante la guerra perché gli Alleati potessero comunicare senza essere intercettati. Per farlo Shannon teorizza la nuova categoria, che all’epoca non esisteva, dell’informazione. Subito dopo si trova forzato a mettere per scritto in uno studio cosa significa “informazione” ed è qui che egli si ricorda degli insegnamenti del suo maestro di dottorato, il quale gli disse: se non vuoi che i tuoi colleghi critichino il tuo lavoro intellettuale usa l’entropia; sottolineando con questo che l’entropia è una categoria molto difficile da gestire e che non fosse capita fino in fondo nel contesto scientifico contemporaneo. Siamo comunque negli anni Quaranta, a metà del ‘900 e Shannon riprende il concetto di entropia di James Clerk Maxwell modificando un po’ il suo paradigma.
Maxwell per spiegare cosa fosse l’entropia, un concetto che non si vedeva fisicamente, ha bisogno di un esperimento mentale e crea il cosiddetto “diavoletto di Maxwell”: perché se metto un gas caldo e un gas freddo all’interno di un contenitore questi non rimangono separati ma prima o poi si miscelano in un unico gas di temperatura media? La risposta di Maxwell è: perché avvenga il contrario, ovvero che i gas rimangano separati, occorrerebbe un piccolo diavolo che apre e chiude una botola facendo passare una molecola calda e respingendo una molecola fredda.
Partendo da questo esperimento mentale Shannon ha una intuizione brillante e si chiede: che cosa serve al diavoletto di Maxwell per capire quale molecola far passare? La risposta è: un bit di informazione; zero non passa, uno passa. Con questo brillante costrutto narrativo Shannon di fatto introduce il concetto di informazione come quella differenza che fa la differenza. Detto altrimenti l’informazione è quella categoria che consente il controllo degli accadimenti: uno o zero producono un controllo di quello che accade.
Quando sentiamo parlare di informazione o di controllo sono due categorie strettamente connesse nell’impianto stesso dell’informazione. L’informazione da Shannon stesso verrà utilizzata per controllare un piccolo topolino meccanico all’interno del labirinto, il quale sbattendo sulle pareti fa scattare un relè che gli fa cambiare direzione e urto dopo urto il topolino è in grado di trovare l’uscita. L’uso che fa Shannon dell’informazione per controllare la macchina produce qualcosa che è in grado, dato un fine: trovare l’uscita, di scegliere i mezzi per raggiungere questo fine. Questa è la base che sta dietro l’intelligenza artificiale che diventerà prima la cibernetica che poi con McCarty diventerà intelligenza artificiale.
L’intelligenza artificiale è una grande famiglia di tecnologie guidate da algoritmi diversi che consentono alla macchina non più di essere programmata, come si faceva negli anni Settanta e Ottanta, in cui un programmatore per ogni circostanza in cui si sarebbe trovata la macchina doveva definire cosa la macchina avrebbe fatto, ma secondo i nuovi modelli è la macchina che acquisisce i dati che le consentono di addestrarsi e di rispondere alle diverse circostanze. I dati non son altro che i vettori dell’informazione e la macchina acquisisce la capacità di autocontrollarsi dalle informazioni che estrae dai dati; questo semplificando il processo che vi sta dietro.
A questo punto, eticamente e filosoficamente, dobbiamo interrogare questo processo, perché se l’informazione è una questione di controllo e se di fatto la macchina riesce a gestire mezzi e fini mediante l’informazione e la capacità di controllo. Ecco che l’intelligenza artificiale applicata a dati di fatto prodotti da sistemi ingegneristici, danno alla macchina un capacità, che oggi ci sembra indispensabile, di previsione. Una intelligenza artificiale posta sulla stazione spaziale orbitante dalle vibrazioni anomale sulla stazione riesce a dire quale pezzo di romperà e questo consente agli astronauti di intervenire prima che il pezzo si rompa mettendo in pericolo la vita di qualcuno. Ma il marketing soprattutto e altri scopi della nostra vita sociale hanno cominciato ad applicare questi stessi algoritmi non ai dati prodotti da un sistema senza gradi di libertà, ingegneristico, ma a un sistema strano a base di carbonio – me e voi – in cui i dati prodotti sono quelli della nostra navigazione online.
Ecco che improvvisamente ci siamo resi conto che l’intelligenza artificiale applicata ai dati umani ha sulle persone un effetto assai diverso da quello che ha sulle macchine in quanto in realtà non predice semplicemente quello che faranno, ma come probabilmente vi siete accorti l’ultima volta che siete andati su una piattaforma online, l’intelligenza artificiale con quel loro suggerirvi “forse ti interessa anche” producono più vendite. Ovvero hanno la capacità di produrre o influenzare il comportamento umano.
Qui arriviamo al più grande problema: l’uso democratico dell’intelligenza artificiale; perché un dispositivo che è in grado di cambiare il comportamento delle persone ha la stessa definizione che diamo alla legge: uno strumento a disposizione dell’istituzione per cambiare il comportamento delle persone. Solo che i grandi problemi di legittimità del Novecento ci hanno mostrato che il vero problema della legge è la sua legittimità e ancorare la legittimità della la legge al Roule of Law è parte del processo democratico. Ma cosa accade? Che le grandi piattaforme online e gli algoritmi di intelligenza artificiale oggi hanno di fatto una capacità, o possono avere, una capacità di influenzare il comportamento delle persone simile a quello della legge senza obbedire ai principi del Roule of Law.
In conclusione vorrei porre all’attenzione la tensione tra i nuovi strumenti che iniettiamo nella società e quei principi cardine che abbiamo anche pagato col sangue nel secolo scorso che sono i principi dello Stato di diritto e i principi della democrazia. Come armonizzare e addomesticare questi strumenti così potenti nello spazio democratico non solo è la domanda ma anche la questione da affrontare perché le democrazie continuino a svolgere quel ruolo fondamentale che permette ai singoli individui di godere del bene comune.
______________________
Paolo Benanti francescano del Terzo Ordine Regolare si occupa di etica, bioetica ed etica delle tecnologie. In particolare i suoi studi si focalizzano sulla gestione dell’innovazione: internet e l’impatto del Digital Age, le biotecnologie per il miglioramento umano e la biosicurezza, le neuroscienze e le neurotecnologie.
Le altre relazioni pubblicate:
Intelligenza artificiale tecnologia digitale. Carlo Acutis e la dimensione spirituale – Luca Peyron
Intelligenza artificiale e tecnologia digitale. La dimensione etica – prof.ssa Daniela Tafani
Intelligenza artificiale e tecnologia digitale. Democrazia , Costituzione – Giulio M. Salerno
Intelligenza artificiale e lavoro che cambia – Ivana Pais
