IA: quando non si decide, si sta già decidendo

Quando qualcuno annuncia che il mondo sta per finire, è meglio diffidare. Se il sipario della storia sta per calare sulle nostre teste, la responsabilità, ovvero la libertà, smette di avere senso: non si può più decidere. I leader delle aziende tecnologiche ci annunciano ora l’avvicinarsi dell’apocalisse: le macchine sono diventate autonome, agiscono di propria iniziativa. Non c’è nulla, o quasi nulla, che possiamo fare. Traduciamo il messaggio: quei signori hanno deciso di non decidere, come spesso facciamo anche noi, ed è proprio da lì che nascono i problemi. La verità è che la storia segue il suo corso e noi continuiamo a essere liberi.

Jacob Coxon, ex ricercatore di Anthropic, ha scatenato un vero e proprio terremoto affermando che c’è una probabilità del 10% che l’Intelligenza Artificiale distrugga l’umanità. Negli ultimi giorni abbiamo sentito come Dario Amodei, CEO di Anthropic, chiedesse di frenarne lo sviluppo per controllarla meglio. Elon Musk, Sam Altman (responsabile di OpenAI) e altri leader delle grandi aziende del settore si sono detti d’accordo. Donald Trump ha respinto l’idea. Trump vuole sempre andare molto veloce e spesso, per non dire sempre, cade nel baratro.

Perché ora i nuovi “padroni del mondo” vogliono fermare lo sviluppo dell’IA? È sincera la minaccia di un’apocalisse imminente? Finora non hanno dato prova di agire secondo i tradizionali criteri del bene comune. È ragionevole pensare che le intenzioni che dichiarano non siano quelle che li animano realmente.

La settimana scorsa, Michael Ignatieff, che tra l’altro è membro dell’Istituto di Etica dell’IA dell’Università di Oxford, ha sottolineato che uno dei motivi per cui i leader del settore dell’IA ora vogliono frenarne lo sviluppo è la loro situazione finanziaria. Le aziende di IA hanno investito somme astronomiche negli ultimi dieci anni, ottenute dagli investitori in borsa, senza aver ancora raggiunto la redditività. Si stanno finanziando sulla base delle aspettative. Frenare lo sviluppo significa smettere di spendere ingenti somme di denaro e raccogliere ciò che è già stato seminato.

Un altro motivo potrebbe essere il desiderio di controllare ancora di più il mercato. Per anni le grandi aziende tecnologiche si sono opposte a qualsiasi tipo di regolamentazione. Ora vogliono dettare loro stesse le regole per impedire l’ingresso di nuovi concorrenti. Amodei ha proposto la creazione di un’organizzazione indipendente in grado di mettere ordine. Ma un’autorità di regolamentazione che non dipenda da uno Stato o dal coordinamento delle nazioni sarà sempre nelle mani dei giganti del settore. Da tempo le grandi aziende tecnologiche agiscono come se la sovranità degli Stati, ovvero la volontà popolare, non avesse più alcun valore. Assistiamo a una concentrazione di potere che minaccia seriamente la libertà.

È possibile, e questa è la terza ragione, che si siano resi conto di aver concesso troppo potere decisionale ai modelli che hanno sviluppato. Forse temono effettivamente che l’IA provochi effetti devastanti. L’esempio citato è quanto accaduto con gli agenti di IA di OpenAI: quest’estate hanno hackerato «di propria iniziativa» la piattaforma Hugging Face per portare a termine un compito che era stato loro assegnato.

L’attacco a Hugging Face ha contribuito a rafforzare l’immagine secondo cui l’IA è un’intelligenza simile a quella umana che agisce in totale autonomia. Ed è proprio qui che sta la trappola: le grandi aziende tecnologiche vogliono trasmettere l’idea che la macchina sia indipendente, senza che ciò che fa sia colpa di nessuno.

Coloro che hanno sviluppato i modelli di IA non sanno come funzionino al loro interno. Ma ciò non significa che non abbiano alcuna responsabilità riguardo al loro comportamento. I modelli si alimentano di un’enorme quantità di dati e vengono poi addestrati dall’intelligenza umana. Ed è qui che entra in gioco la responsabilità: il modello può essere addestrato, vietandogli, ad esempio, di barare.

Lo sviluppatore dell’IA decide sempre cosa può fare l’IA e decide anche cosa delegare all’IA, cosa scegliere di non decidere. Quanto meno prevedibile è il comportamento del modello, tanto meno si deve delegare e tanto più seriamente lo si deve supervisionare.

Ai leader delle grandi aziende tecnologiche capita la stessa cosa che capita a noi. Sulla nostra scala di grandezza abbiamo potere e siamo responsabili quanto loro: spesso decidiamo di non decidere. Decidiamo di non assumerci la nostra responsabilità: ma quando fuggiamo dalla nostra libertà, abbiamo già deciso.

Il potere smisurato delle aziende tecnologiche fa impallidire gli Stati