L’IA stava per far scoppiare una guerra tra USA e Cina

Un rapporto sbagliato che poteva costare caro

Quando parliamo di intelligenza artificiale e dei suoi possibili rischi, spesso ci concentriamo – soprattutto nelle ultime settimane, come abbiamo raccontato qui e qui – sul suo futuro controllo nei confronti dell’umanità, dimenticandoci alcune applicazioni della stessa che già oggi creano problemi non da poco. Uno scoop della CNN ha raccontato come un rapporto di intelligence falso, prodotto con l’IA, stava per portare gli Stati Uniti a intercettare una nave cinese in Medio Oriente. Secondo l’emittente statunitense, “l’esercito statunitense è entrato in azione con l’intenzione di intercettare la nave. Due di queste fonti affermano che membri armati dell’esercito americano si stavano preparando ad abbordare l’imbarcazione. Aerei militari erano in volo, hanno riferito una di queste fonti e un’altra fonte vicina all’incidente. Solo poco prima dell’operazione pianificata, i funzionari hanno esaminato più a fondo il rapporto redatto da un analista del comando delle operazioni speciali e hanno scoperto che era stato generato con l’aiuto dell’intelligenza artificiale (IA) e che un chatbot utilizzato dall’analista aveva identificato erroneamente il materiale trasportato dalla nave”. Secondo una delle fonti della CNN, l’errore “ha quasi scatenato una guerra”. Stando a quanto riporta Agenda Digitale, “il sistema aveva combinato informazioni provenienti da fonti aperte con intelligence classificata raccolta dagli Stati Uniti. L’analista aveva poi utilizzato nuovamente l’AI per trasformare il risultato in un rapporto nel formato normalmente utilizzato dall’intelligence militare. L’errore ha così percorso quasi tutta la catena che separa l’elaborazione di un’informazione da un’operazione nel mondo reale”.

Il tentativo diplomatico

Non sono un caso, dunque, gli incontri tra le delegazioni americane e cinesi per trovare canali di collaborazione sul tema. Come descritto da AI News, “il Segretario al Tesoro degli Stati Uniti Scott Bessent e il Vicepremier cinese He Lifeng si sono incontrati a New York per discutere di temi cruciali che riguardano non solo l’economia ma anche la sicurezza nazionale e la tecnologia. L’incontro rappresenta un tentativo di stabilire un nuovo quadro di collaborazione tra le due superpotenze in un momento di grande tensione commerciale e tecnologica. Le conversazioni hanno toccato diversi argomenti sensibili tra cui lo stato di una tregua commerciale tra Stati Uniti e Cina che scadrà il 10 novembre prossimo. Questa scadenza rappresenta un punto di svolta per i rapporti economici tra i due paesi che hanno vissuto anni di guerre tariffarie e restrizioni commerciali. La possibilità di estendere o modificare questa tregua potrebbe avere implicazioni profonde per l’economia globale e per le catene di approvvigionamento tecnologiche. Un tema centrale dei colloqui riguarda il flusso di magneti al neodimio e minerali critici cinesi verso gli Stati Uniti. La Cina controlla una quota significativa della produzione globale di terre rare essenziali per la produzione di dispositivi elettronici e sistemi di difesa. Bessent ha definito le restrizioni all’esportazione di terre rare imposte da Pechino come una sfida che vede la Cina contro il mondo intero. Questa posizione riflette la preoccupazione statunitense sulla dipendenza tecnologica da un potenziale avversario strategico”. Infine, “un altro aspetto innovativo – continua l’articolo – nei negoziati riguarda la proposta di Bessent di istituire un meccanismo di notifica reciproca per la sicurezza dell’intelligenza artificiale e la sicurezza nazionale. Questa iniziativa mira a prevenire conflitti derivanti dallo sviluppo e dall’impiego di tecnologie AI in ambiti militari e di sicurezza”. Le mosse di Bessent sembrano essere piaciute al presidente americano Donald Trump, tanto che, secondo alcuni siti americani, starebbe pensando di affidargli il ruolo di “zar dell’intelligenza artificiale” americana.

Le trattative continueranno nell’atteso incontro tra il presidente americano Donald Trump e il leader cinese Xi Jinping, iniziato nella notte del 24 settembre e che terminerà oggi. È prevista, tra le altre cose, anche una cena di stato, dove parteciperanno i big del settore, da Elon Musk a Sam Altman, Ceo di OpenAI, passando per Jeff Bezos, il fondatore di Amazon.

Questi incontri assumono valore considerando che Altman sarà presente al prossimo Consiglio di sicurezza delle Nazioni Unite, come riporta, ancora, AI News. È la prima volta che un Ceo di un’azienda privata di AI compie questo passo. “Il tema centrale del briefing – scrive AI News – riguarderà la sicurezza dell’intelligenza artificiale e la necessità di una coordinazione internazionale. Altman è atteso a discutere della creazione di standard di sicurezza condivisi tra le nazioni. L’obiettivo è evitare che lo sviluppo della tecnologia proceda in modo caotico e pericoloso”.

Arrivano nuovi modelli

Il 21 settembre, xAI, il modello di intelligenza artificiale sviluppato da Elon Musk, ha lanciato Grok 4.7. Il salto tecnico non è da poco, dato che i parametri sono stati aumentati a 2,1 trilioni rispetto ai precedenti 1,5. Inoltre, sono stati integrati al suo interno dati di SpaceX, l’altra grande azienda di Musk. Nonostante questi nuovi elementi, il suo valore, rispetto agli ultimi modelli Claude o ChatGPT, è ancora inferiore. Anche Anthropic ha lanciato un nuovo modello: Claude Opus 5.5. E date le caratteristiche sembra proprio una risposta alla domanda di sicurezza a cui le stesse aziende hanno dato importanza. Sul sito di Anthropic, infatti, viene spiegato come, rispetto al modello precedente, violi le regole l’85% delle volte in meno. Inoltre, consuma il 30% di risorse in meno e ha un costo ridotto del 20%. Un altro aspetto da sottolineare è che il lancio precede il debutto in borsa dell’azienda.