¿Qué hay detrás de las advertencias apocalípticas sobre la IA?

Entre la preocupación y la regulación

La primera pregunta surge a raíz de lo ocurrido el 9 de septiembre, cuando Jacob Coxon, ya exempleado de Anthropic, nada más presentar su dimisión se pronunció sobre el desarrollo irresponsable de la IA, calificándolo de peligro para la humanidad (en Páginas Digital lo comentamos aquí). Poco después, el director ejecutivo de Anthropic, Dario Amodei, se sumó al llamamiento de Coxon publicando una carta de casi 4.000 palabras en la que denunciaba la falta de regulación en torno a esta tecnología. 

«Hay quien se muestra escéptico y se pregunta: “Pero ¿por qué todo esto a la vez”?», nos dice Giustozzi. Y continúa: «Hay que tener un poco de preocupación y atención porque estamos hablando de tecnologías cuyas aplicaciones tienen efectos secundarios que no se conocen del todo. Al mismo tiempo, muchos señalan algunas coincidencias curiosas: en cuestión de minutos, todos los grandes del sector se han hecho eco de la carta de Amodei». Tanto Sam Altman, director ejecutivo de OpenAI, como Elon Musk, fundador de SpaceX, han compartido el mensaje de la carta, creando un frente común que rara vez se da. «Podría ser —nos explica Giustozzi—, al menos en parte, una iniciativa de marketing. Sin duda, resulta útil difundir estas noticias. Además, hay una cierta autocomplacencia, como si se dijera: “Estas herramientas también se nos iban a escapar a nosotros, pero somos capaces de gestionarlas porque somos buenos y estamos atentos, mientras que los demás no lo están”». Por último, parece haber un intento de mantener una ventaja competitiva. «Cuando hay una carrera frenética, en la que se persigue a quien ya corre, quien va en cabeza tiene todo el interés en detener la carrera para así mantener su posición de dominio». 

Un análisis con el que también está de acuerdo Taddeo, quien añade: «El peligro de la IA es su capacidad de penetración en los sistemas informáticos y, dado que lo hemos confiado todo a estos sistemas, el problema que se deriva de ello nos afecta a todos y en todos los servicios, desde el funcionamiento de un tren hasta el de un tribunal. Amodei, en su carta, explica la necesidad de crear una alianza entre las empresas, solicitando una excepción a la autoridad de competencia, algo grave y serio. En la práctica, las empresas estadounidenses están diciendo que, para autorregular el desarrollo de la IA, deben infringir las normas de la autoridad y crear un cártel. Partiendo de este elemento, Amodei también pide que los modelos sean evaluados por empresas de terceros sin ánimo de lucro. Pero ¿podemos dejar la validación de estos modelos en manos de estas empresas en lugar de que sea responsabilidad de las organizaciones estatales?». 

Según Taddeo, sin embargo, a la hora de abordar estas cuestiones es importante alejarse de la narrativa apocalíptica y de ciencia ficción sobre la IA. «Describimos esta tecnología en términos antropomórficos, pero se trata de un lenguaje metafórico. La IA no hace más que realizar grandes cálculos sobre una enorme cantidad de datos. Sigue unas instrucciones, pero nunca hay una intención maliciosa. Los agentes actúan de forma imprevista y fuera de control, pero llevan a cabo de la mejor manera posible lo que les hemos pedido. Son problemas de ciberseguridad, sin duda, pero la humanidad no corre peligro». 

A pesar de ello, Cadenas no cree «que estas personas estén haciendo propaganda; están realmente preocupadas y ven los riesgos más que los beneficios. Todo este miedo es, en el fondo, irracional, pero eso no significa que no debamos buscar una vía para llegar a una regulación a nivel global».

El valor de la Ley de IA

Uno de los puntos centrales es comprender en qué consisten todas estas normas y fijarse en lo que ya existe. «Está la Ley de IA europea —recuerda Cadenas—. Todo el mundo se burla de nosotros por ser unos burócratas, pero luego nos copian el modelo. La Ley de IA se ha planteado el reto de regular algo que aún no estaba regulado. El derecho funciona así: cuando aparecieron los primeros coches en las calles, no existía el código de circulación. Luego surgieron los primeros problemas y nos pusimos a trabajar en ello. La UE ha intentado anticiparse a los problemas de este sector con un marco normativo deliberadamente amplio y genérico».

Para Capuzza, esta estructura amplia se debe a que serán los Estados miembros los que, posteriormente, deberán adaptar el texto a su propia legislación nacional. «En Italia —explica el profesor—, de los principios establecidos por la Ley de IA han surgido dos decretos legislativos: el primero se refiere a los aspectos judiciales y policiales, y ya se ha publicado en el Boletín Oficial, mientras que el segundo aborda el uso de la IA en la administración pública, con una serie de obligaciones en materia de formación y de personal». 

Y luego hay otro aspecto del reglamento que es su papel a nivel internacional. «Sin duda tiene valor —continúa Capuzza—, y no es casual que Europa haya dado este paso poco después de que estallara el debate sobre la cuestión, que se remonta a noviembre de 2022. Ha sido una buena señal para poner en el centro de la atención todas las cuestiones que esta tecnología conlleva. Además, establece una serie de derechos y tiene una visión antropocéntrica: siempre es el ser humano quien debe llevar las riendas, porque primero está el ser humano y luego la máquina». Si esto es cierto, también lo es que la normativa elaborada por la Unión Europea podría no contar con la aprobación de la comunidad internacional. «Podemos establecer todas las normas del mundo, pero si quienes dirigen el sector no las respetan, no sirve de nada», afirma Cadenas.