La IA estuvo a punto de desencadenar una guerra entre EE. UU. y China
Google Creative Commons
Un informe erróneo que podría haber salido muy caro
Cuando hablamos de inteligencia artificial y de sus posibles riesgos a menudo nos centramos —sobre todo en las últimas semanas, como hemos contado aquí y aquí— en el control que puede ejercer sobre la humanidad en un futuro, olvidándonos de algunas de sus aplicaciones que hoy en día ya plantean problemas nada desdeñables. Una primicia de CNN ha revelado cómo un informe de inteligencia falso, elaborado con IA, estuvo a punto de llevar a Estados Unidos a interceptar un buque chino en Oriente Medio. Según la cadena de noticias, «el ejército estadounidense entró en acción con la intención de interceptar el buque. Dos de estas fuentes afirman que miembros armados del ejército estadounidense se estaban preparando para abordar la embarcación. Había aviones militares en vuelo, según informaron una de estas fuentes y otra fuente cercana al incidente. Justo antes de la operación prevista, los funcionarios examinaron más a fondo el informe redactado por un analista del comando de operaciones especiales y descubrieron que se había generado con la ayuda de la inteligencia artificial (IA) y que un chatbot utilizado por el analista había identificado erróneamente el material transportado por el buque». Una de las fuentes de CNN afirma que el error «casi desencadenó una guerra». Según informa Agenda Digitale, «el sistema había combinado información procedente de fuentes abiertas con información clasificada recopilada por Estados Unidos. A continuación, el analista había vuelto a utilizar la IA para transformar el resultado en un informe con el formato que suele emplearse en los servicios de inteligencia militar. El error recorrió así casi toda la cadena que separa el procesamiento de la información de una operación en el mundo real».
El intento diplomático
Por tanto, las reuniones entre las delegaciones estadounidense y china para encontrar vías de colaboración en este tema no son casuales. Tal y como describe AI News, «el secretario del Tesoro de Estados Unidos, Scott Bessent, y el vice primer ministro chino, He Lifeng, se reunieron en Nueva York para debatir temas cruciales que afectan no solo a la economía, sino también a la seguridad nacional y la tecnología. La reunión supone un intento de establecer un nuevo marco de colaboración entre las dos superpotencias en un momento de gran tensión comercial y tecnológica. Las conversaciones han abordado diversos temas delicados, entre ellos el estado de la tregua comercial entre Estados Unidos y China, que expirará el próximo 10 de noviembre. Este plazo supone un punto de inflexión para las relaciones económicas entre ambos países, que han vivido años de guerras arancelarias y restricciones comerciales. La posibilidad de prorrogar o modificar esta tregua podría tener profundas implicaciones para la economía mundial y para las cadenas de suministro tecnológicas. Un tema central de las conversaciones es el flujo de imanes de neodimio y minerales críticos chinos hacia Estados Unidos. China controla una cuota significativa de la producción mundial de tierras raras, esenciales para la fabricación de dispositivos electrónicos y sistemas de defensa. Bessent ha calificado las restricciones a la exportación de tierras raras impuestas por Pekín como un desafío que enfrenta a China contra el mundo entero. Esta postura refleja la preocupación estadounidense por la dependencia tecnológica respecto a un posible adversario estratégico». Por último, «otro aspecto innovador —continúa el artículo— en las negociaciones se refiere a la propuesta de Bessent de establecer un mecanismo de notificación recíproca para la seguridad de la inteligencia artificial y la seguridad nacional. Esta iniciativa tiene como objetivo prevenir conflictos derivados del desarrollo y el uso de tecnologías de IA en ámbitos militares y de seguridad». Las medidas de Bessent parecen haber sido del agrado del presidente Donald Trump, hasta tal punto que, según algunos sitios web estadounidenses, estaría pensando en confiarle el cargo de «zar de la inteligencia artificial» estadounidense.
Las negociaciones han continuado en la esperada cumbre entre el presidente estadounidense Donald Trump y el líder chino Xi Jinping, que tuvo lugar del 24 al 29 de septiembre. Entre otras cosas, hubo una cena de gala a la que asistieron las figuras más destacadas del sector, desde Elon Musk hasta Sam Altman, director ejecutivo de OpenAI, pasando por Jeff Bezos, el fundador de Amazon.
Estos encuentros cobran especial relevancia si se tiene en cuenta que Altman estará presente en la próxima reunión del Consejo de Seguridad de las Naciones Unidas, tal y como informa, una vez más, AI News. Es la primera vez que el director ejecutivo de una empresa privada de IA da este paso. «El tema central de la sesión informativa —escribe AI News— versará sobre la seguridad de la inteligencia artificial y la necesidad de una coordinación internacional. Se espera que Altman aborde la creación de normas de seguridad compartidas entre las naciones. El objetivo es evitar que el desarrollo de la tecnología avance de forma caótica y peligrosa».
Llegan nuevos modelos
El 21 de septiembre, xAI, el modelo de inteligencia artificial desarrollado por Elon Musk, lanzó Grok 4.7. El avance técnico no es pequeño, ya que los parámetros se han incrementado a 2,1 billones frente a los 1,5 billones anteriores. Además, se han integrado en él datos de SpaceX, la otra gran empresa de Musk. A pesar de estos nuevos elementos, su valor, en comparación con los últimos modelos Claude o ChatGPT, sigue siendo inferior. Anthropic también ha lanzado un nuevo modelo: Claude Opus 5.5. Y, dadas sus características, parece una respuesta a la cuestión de la seguridad a la que las propias empresas han dado importancia. De hecho, en la página web de Anthropic se explica que, en comparación con el modelo anterior, incumple las normas un 85 % menos de veces. Además, consume un 30 % menos de recursos y su coste se ha reducido en un 20 %. Otro aspecto a destacar es que el lanzamiento precede a la salida a bolsa de la empresa.











