IA: cuando no se decide se toma una decisión

Cuando alguien anuncia que el mundo está a punto de terminarse, es mejor desconfiar. Si el telón de la historia va a caer sobre nuestras cabezas, la responsabilidad, es decir, la libertad deja de tener sentido: ya no se puede decidir. Los líderes de las empresas tecnológicas nos anuncian ahora la cercanía del apocalipsis: las máquinas se han hecho autónomas, actúan por su cuenta. No hay nada o casi nada que podamos hacer. Traduzcamos el mensaje: esos señores han decidido no decidir, como también hacemos nosotros a menudo, y de ahí es de donde vienen los problemas. Lo cierto es que la historia sigue su curso y seguimos siendo libres.

Jacob Coxon, ex investigador de Anthropic, provocó un gran terremoto al asegurar que hay una probabilidad del 10% de que la Inteligencia Artificial (IA) acabe con el ser humano. Durante los últimos días hemos escuchado cómo Dario Amodei, CEO de Anthropic, pedía frenar su desarrollo para controlarla mejor. Elon Musk, Sam Altman (máximo responsable de OpenAI) y otros líderes de las grandes empresas del sector se han mostrado de acuerdo. Donald Trump ha rechazado la idea. Trump siempre quiere ir muy rápido, y a menudo, por no decir siempre, se cae por el precipicio.

¿Por qué ahora los nuevos “señores del mundo” quieren detener el desarrollo de la IA? ¿Es sincera la amenaza de un apocalipsis inminente? Hasta el momento no han dado muestras de actuar siguiendo los tradicionales criterios del bien común. Es razonable pensar que las intenciones que declaran no son las que realmente les mueven.

La semana pasada, Michael Ignatieff, que entre otras cosas es miembro del Instituto de Ética de la IA de la Universidad de Oxford, señalaba que un motivo para que los líderes de la IA ahora quieran frenar su desarrollo es su situación financiera. Las empresas de IA han invertido cantidades astronómicas durante los últimos diez años, obtenidas de los inversores en las bolsas, sin haber alcanzado todavía rentabilidad. Se están financiando a base de expectativas. Frenar el desarrollo supone dejar de gastar mucho dinero y recoger ya lo sembrado.

Otro motivo puede ser el deseo de controlar aún más el mercado. Durante años las grandes tecnológicas han estado en contra de cualquier tipo de regulación. Ahora quieren dictar ellos las normas para cerrar la entrada a nuevos competidores. Dario Amodei ha propuesto la creación de una organización independiente que pueda poner orden. Pero un regulador que no dependa de un Estado o del concierto de las naciones, estará siempre en manos de los gigantes del sector. Las grandes tecnológicas hace tiempo que actúan como si la soberanía de los Estados, es decir la voluntad popular, no tuviera ya valor. Asistimos a una concentración de poder que amenaza seriamente la libertad.

Puede, y esta es la tercera razón, que se hayan dado cuenta de que han dado demasiado poder de decisión a los modelos que han desarrollado. Puede que efectivamente teman que la IA provoque efectos devastadores. El ejemplo que se pone es lo sucedido con los agentes de IA de OpenAI: este verano jaquearon “por su cuenta” la plataforma Hugging Face para cumplir con una tarea que se les había asignado.

El ataque a la plataforma Hugging Face ha contribuido a fortalecer la imagen de que la IA es una inteligencia semejante a la humana que actúa totalmente por su cuenta. Y aquí es donde está la trampa: las grandes tecnológicas quieren trasladar la idea de que la máquina es independiente sin que lo que hace sea culpa de nadie.

Los que han desarrollado los modelos de IA no saben cómo funcionan por dentro. Pero eso no significa que no tengan responsabilidad respecto al comportamiento de los modelos. Los modelos se alimentan de un número enorme de datos y luego son entrenados por la inteligencia humana. Y aquí es donde entra la responsabilidad: el modelo puede ser entrenado, prohibiéndole, por ejemplo, que haga trampas.

El desarrollador de la IA siempre decide qué puede hacer la IA y decide también qué delega en la IA, qué decide no decidir. Cuanto menos predecible sea la actuación del modelo, menos debe delegar y más seriamente debe supervisarla.

A los líderes de las grandes empresas tecnológicas les pasa lo mismo que a nosotros. A nuestra escala tenemos poder y somos tan responsables como ellos: a menudo decidimos no decidir. Decidimos no asumir nuestra responsabilidad: pero cuando huimos de nuestra libertad ya hemos decidido.

El megapoder de las empresas tecnológicas deja pequeños a los Estados