Cosa c’è dietro gli appelli apocalittici sull’IA

Tra preoccupazione e regolamentazione

La prima domanda nasce da ciò che è accaduto il 9 settembre, quando Jacob Coxon, ormai ex dipendente di Anthropic, subito dopo aver dato le sue dimissioni dall’azienda ha parlato dello sviluppo irresponsabile dell’IA, definendolo un pericolo per l’umanità (con Páginas Digital ne abbiamo parlato qui). Poco dopo, anche l’ad di Anthropic Dario Amodei si è unito a suo modo all’appello di Coxon, pubblicando una lettera di quasi 4000 parole in cui denunciava la mancata regolamentazione intorno a questa tecnologia. “C’è chi è scettico e si chiede: ma perché tutto insieme?”, ci dice Giustozzi. “Un po’ di preoccupazione e attenzione bisogna averla – continua – perché stiamo parlando di tecnologie le cui applicazioni hanno degli effetti collaterali non del tutto noti. Allo stesso tempo in tanti fanno notare alcune tempistiche curiose: nel giro di pochi minuti tutti i grandi del settore hanno parlato della lettera di Amodei”. Sia Sam Altman, ad di OpenAI, che Elon Musk, il fondatore di SpaceX, hanno condiviso il messaggio della lettera, creando un fronte comune che si verifica raramente. “Potrebbe essere – ci spiega Giustozzi – almeno in parte, un’iniziativa di marketing. C’è sicuramente un’utilità a mettere in circolazione queste notizie.

Poi c’è un autocompiacimento, come a dire: ‘questi strumenti ci stavano per scappare anche noi, ma siamo capaci a gestirli perché siamo bravi e attenti, mentre gli altri non lo sono’”. Infine, sembra esserci il tentativo di mantenere un vantaggio competitivo. “Quando c’è una rincorsa spasmodica, dove si sta rincorrendo chi già corre, chi sta in testa ha tutto l’interesse nel fermare la gara, così da mantenere la posizione di predominio”. Un’analisi che trova d’accordo anche Taddeo, che aggiunge: “Il pericolo dell’IA è la sua capacità di penetrazione nei sistemi informatici e dato che abbiamo affidato tutto a questi sistemi, il problema che ne segue riguarda tutti noi e ogni servizio, dal funzionamento di un treno a quello di un tribunale. Amodei, nella sua lettera, spiega la necessità di creare una cordata tra le aziende, chiedendo una deroga all’Antitrust, una cosa grave e seria. In pratica le aziende USA stanno dicendo che per autoregolamentare lo sviluppo dell’IA devono violare le norme dell’autorità e creare un cartello. Partendo da questo elemento, Amodei chiede anche di far valutare i modelli da aziende terze no profit.

Ma noi possiamo lasciare la validazione di questi modelli a queste aziende piuttosto che alla responsabilità delle organizzazioni statali?”. Secondo Taddeo, però, quando si affrontano queste tematiche è importante uscire dalla narrazione apocalittica e fantascientifica dell’IA. “Noi descriviamo questa tecnologia in termini antropomorfi, ma è un linguaggio metaforico. L’IA non fa altro che grandi calcoli su un’enorme mole di dati. Seguono delle indicazioni ma non c’è mai un intento cattivo. Gli agenti si muovono in maniera imprevista e fuori controllo, ma attuano nel migliore dei modi ciò che abbiamo domandato loro. Sono problemi di cybersicurezza, certamente, ma l’umanità non è a rischio”. Nonostante questo, Cadenas non crede “che questi individui stiano facendo propaganda, sono realmente preoccupati e vedono i rischi piuttosto che i benefici. Tutta questa paura è in fondo irrazionale, ma ciò non vuol dire che non si debba cercare una strada per arrivare a una regolamentazione a livello globale”.

Il valore dell’AI Act

Uno dei punti centrali è comprendere in cosa consistono tutte queste regole e guardare a ciò che già c’è. “C’è l’AI Act europeo – ricorda Cadenas. Tutto il mondo ci deride per questo essere dei burocrati ma poi l’impianto ci viene copiato. L’AI Act si è posto il problema di regolamentare qualcosa di cui ancora non c’era la regolamentazione. Il diritto fa così: quando per strada sono comparse le prime macchine non esisteva il codice della strada. Poi si sono presentati i primi problemi e ci abbiamo lavorato. L’UE ha cercato di anticipare i problemi di questo settore con un impianto normativo volutamente ampio e generico”.

Per Capuzza, questa struttura ampia è dovuta al fatto che dovranno essere poi gli Stati membri ad adattare il testo con la propria normativa nazionale. “In Italia – spiega il professore – dai principi dettati dall’AI Act sono usciti fuori due decreti legislativi: il primo ha a che fare con il tema giudiziario e di polizia che è già stato inserito in Gazzetta Ufficiale, mentre il secondo investe l’uso dell’IA nelle pubbliche amministrazioni, con una serie di obblighi formativi e del personale”.

E poi c’è un altro aspetto del regolamento, che è il suo ruolo a livello internazionale. “Un valore ce l’ha sicuramente – continua – e non è un caso che l’Europa abbia fatto questo poco dopo lo scoppio del dibattito sulla questione, riconducibile al novembre del 2022. È stato un bel segnale per mettere al centro dell’attenzione tutte le domande che questa tecnologia porta con sé. Inoltre crea una serie di diritti e ha una visione antropocentrica: è sempre l’uomo che deve condurre, perché c’è prima l’uomo e poi la macchina”. Se questo è vero, è vero anche che la regolamentazione prodotta dall’Unione Europea potrebbe non incontrare il parere favorevole della comunità mondiale. “Possiamo mettere tutte le regole del mondo ma se coloro che guidano il settore non le rispettano è inutile”, afferma Cadenas.

Mentre Giustozzi parla di alcune differenze valoriali che ci sono tra i grandi continenti: “Dobbiamo capire quanto gliene importa alle altre nazioni fuori dall’Occidente delle regole che vogliamo mettere in campo. Nella medicina sperimentale, ad esempio, le nostre regole non sono quelle degli altri. La Cina ha affermato di essere pronta a fare un trapianto di testa, da noi questo è considerato inaccettabile. C’è una sensibilità diversa anche rispetto alla protezione dei dati personali. Durante il Covid i cinesi avevano lo stato di vaccinato all’anagrafe e non si aprivano i tornelli della metro se non eri vaccinato. Loro si vantavano di questo, da noi sarebbe un attacco alla libertà”.

L’etica e la “Magnifica Humanitas” di Papa Leone XIV

Quando parliamo di etica, tendiamo a interpretarla come qualcosa che a volte sembra non esserci più, o che non sia importante. Il professor Capuzza cita l’enciclica del Papa e parla di “transumanesimo” e “postumanesimo”. “Noi dove siamo?”, si chiede. “La prima parola parla di oltrepassare i limiti dell’uomo tramite la macchina, la seconda chiede di passare oltre l’umanità e di instaurare una nuova forma di servitù. L’etica sta spingendo per trovare uno spazio ma non ha potere, è un’espressione culturale che richiama alla formazione dell’individuo”. Taddeo, invece, ci spiega come “l’etica non è la mamma cattiva che ti bacchetta. Stabilisce dei limiti, è vero, ma è anche un supporto strategico per vincere una partita che stiamo giocando bene. L’etica nel digitale ha una base universale, dettata dai diritti umani e su questo si appoggia il concetto di accettabilità sociale. Ha un’applicazione concreta: come si gestiscono i dati raccolti tramite l’IA di pazienti diabetici italiani e spagnoli per inviarli a dei dottori tedeschi? L’etica ci serve per identificare queste sfide”. Per questo Cadenas descrive l’enciclica di Papa Leone come “la cosa più utile che abbiamo. Non c’è stato nessuno che ha derubricato come superfluo il suo lavoro. C’è una presa di posizione vera e razionale davanti a questi strumenti. Ha un valore morale. La prima emozione che abbiamo davanti all’evoluzione dell’IA è la paura, ma il Papa non è spaventato e si chiede cosa possiamo fare con l’IA”.