«El ser humano es el centro; la IA requiere una cultura humanística»

¿Cómo valora la encíclica Magnifica Humanitas?

Es difícil resumirlo en pocas palabras. En primer lugar, considero sumamente importante que esta encíclica se haya redactado en este momento en torno a estos temas, y la referencia a Rerum Novarum, mencionada en varias ocasiones, me parece muy acertada. Es decir, los tiempos cambian, hay nuevas tecnologías que tienen un impacto en la vida de todos y en la sociedad en general, y me parece muy interesante e importante que la Iglesia se ocupe de ello.

Christopher Olah, pionero en inteligencia artificial y cofundador de Anthropic, cuando presentó la encíclica dijo que no sabemos exactamente cómo funciona. Esto también se menciona en la encíclica. Para un profano, resulta un poco abrumador.

En mi opinión, este es el principal problema de los planteamientos para comprender el tema. Porque existe esta aparente paradoja: ¿cómo es posible que un sistema basado en algoritmos, es decir, un sistema determinista, un sistema claro, transparente, con reglas evidentes, tenga un comportamiento incomprensible? Por lo tanto, parece presentar un comportamiento no determinista. Esto es incomprensible. El malentendido, que el profano no comprende, es que el comportamiento de un sistema de IA no está determinado por sus algoritmos. Es decir, la informática normal, cualquier proceso automático normal, se basa en codificar reglas para obtener la solución de un determinado problema del que se conoce la regla. Si tengo que calcular una raíz cuadrada, sé cuál es el procedimiento: codifico ese procedimiento en un algoritmo y ese algoritmo siempre me dará la respuesta correcta en esos casos. Cuando tengo que calcular el sueldo de una persona a fin de mes, sé cuáles son las reglas: cuántos días ha trabajado, cuál es el sueldo base, cuáles son los extras, es decir, una serie de cosas exactas, y aplico fórmulas claras y evidentes y obtengo un resultado determinado. En la IA no es así. La solución a un problema no está codificada en un algoritmo, porque hay problemas que no tienen una solución algorítmica.

Por ejemplo, si te preguntara: ¿cómo distingo un perro de un gato? ¿Cuál es la regla? Te pongo en un aprieto. No hay una regla clara para distinguir un perro de un gato. Tú puedes decir: «Tienen cuatro patas», los dos; «Tienen bigotes», los dos; «Pueden ser de muchos colores», los dos. Es decir, no existe una forma precisa y algorítmica de distinguir a los perros de los gatos. Entonces, si quiero crear una máquina que distinga a los perros de los gatos, le muestro imágenes. No puedo codificar la solución en una regla. Pero lo que sí puedo hacer es codificar otro problema: ¿cómo aprendo de la experiencia? Así que escribo un sistema de aprendizaje y le muestro un montón de fotos de perros y gatos, y le digo cada vez: «Esto es un perro, esto es un perro, esto es un gato», y también fotos de perros y gatos de todos los colores, de todos los tamaños, en todas las posiciones, con todos los fondos, con todo tipo de elementos. Al final, después de haberle mostrado miles de fotos, la máquina podrá abstraer la esencia del perro y del gato… Disculpa si uso neologismos: la «canidad» y la «gatidad», la «perricidad» y la «gaticidad», no sé cómo llamarlo. Habrá entendido que todas esas imágenes de un cierto tipo se refieren a perros, y esas otras a gatos. En este punto, le enseño una foto y le digo: «¿Qué es esto?». Y ella, estadísticamente, me dice: «En mi opinión es un perro» o «En mi opinión es un gato». Claro. Si he hecho bien el entrenamiento, acierta. Pero esto es probabilístico. No es algorítmico. La IA funciona así: de forma probabilística, basada en estadísticas. Y si luego le pregunto: «Pero ¿por qué has dicho que esto es un perro?», la máquina no lo sabe.

El Papa dice que la IA no es neutral y denuncia además que su desarrollo esté en manos de grandes empresas que acumulan un poder enorme. ¿Están relacionadas ambas cosas?

Personalmente sigo pensando que la tecnología es neutra; lo que marca la diferencia es cómo se utiliza. Por lo tanto, no diría que la IA lleve a la concentración de poder. Si hubiera sido otra tecnología disruptiva, habría pasado lo mismo. La concentración de poder es independiente. Con los coches pasó lo mismo: la concentración de poder se dio entre las petroleras y los fabricantes; no fue la tecnología en sí. En este caso no es solo un riesgo: es algo que ya ha pasado. Justo esta mañana leía que el valor de Anthropic ha alcanzado los 500.000 millones de dólares, una cifra de locos. Y por eso es sin duda un tema social que hay que debatir. La alta tecnología, en general —la IA es solo la guinda del pastel—, ha creado una enorme concentración de poder nunca vista en el pasado.

¿Cómo se puede poner un límite a esto? Porque los Estados son más débiles que las empresas.

La mayoría de estas empresas son más poderosas que los Estados, tienen un valor superior al PIB de los Estados y cuentan con una capacidad enorme. Se trata de un problema importante y no sé cuál puede ser la solución. Es probable que las viejas lógicas monopolísticas del pasado ya no sean aplicables. Es decir, los Estados ya no tienen la fuerza necesaria para imponer límites a las empresas que, como bien dices, son más fuertes que los propios Estados.

Me parece que no es solo una cuestión de límites éticos y de soberanía de los Estados. Quizá lo más importante sea la cuestión del tipo de sujeto humano que hay que formar y educar ante el desarrollo de la IA. ¿Qué tipo de persona, qué tipo de educación hay que desarrollar para ser libres y utilizar mejor la IA?

Creo que se trata, ante todo, de una cultura humanística. Sigo pensando que el enfoque humanístico es importante.

¿Por qué?

No hace falta ser un técnico para utilizar las tecnologías. Pongo el ejemplo del coche: o eres mecánico, y entonces tienes que entender cómo funciona, o te basta con saber conducir el coche para no hacerte daño ni a ti ni a nadie, llevar a los niños al colegio, ir a la playa los domingos, respetando la seguridad de todos y las normas. En este sentido, el mundo ha cambiado mucho. A principios del siglo pasado, para conducir un coche tenías que ser un experto en tecnología automovilística, porque los coches se estropeaban y tenías que repararlos tú mismo. Hoy en día es normal que una abuela lleve a sus nietos al colegio por la mañana en coche, porque no solo ha cambiado el motor, sino también todo lo que rodea al coche. Existen los códigos de circulación, hay señalización, las carreteras son mejores, hay autoescuelas para enseñar a la gente a conducir, es decir, la sociedad ha creado una serie de normas, reglas y condiciones que hacen que el uso de la tecnología sea fácil y no requiera ser un experto, a menos que, repito, uno sea mecánico o fabricante de automóviles de profesión. Esto también era cierto en el mundo de la informática. En los años setenta y ochenta se decía que quien no supiera programar un ordenador sería el analfabeto del año 2000. Y eso es erróneo. No hace falta ser informático para usar un ordenador o un teléfono móvil.

En cambio, creo que necesitamos un enfoque humanístico: estas tecnologías son herramientas que nos ayudan en nuestras actividades cotidianas. Una vez más, si eres ingeniero, usas el ordenador para hacer cálculos sobre hormigón armado; si eres una persona normal, usas el ordenador para gestionar tus citas, para buscar información, para catalogar tus documentos. Es como si tuvieras un asistente humano que colabora contigo para resolver tus problemas. El ser humano y nuestras actividades están en el centro de todo. Un enfoque demasiado orientado a la máquina, más allá de cualquier connotación filosófica, es simplemente ineficaz. Es como quien escucha música con un equipo de alta fidelidad, pero no escucha la música: escucha el equipo. Se preocupa por saber si el equipo suena bien y se pierde la música. El equipo de alta fidelidad sirve para que escuches la música; tienes que escucharla.

La cuestión de la formación humanística se refiere al sentido de lo que se hace, de lo que se conoce. Pero el problema es que la IA tiene una apariencia de sentido para las cosas. Por eso existe esta ambigüedad.

Por eso creo que es importante un enfoque humanístico, precisamente para poner todo en su justa medida. Sin duda hay que explicar cuáles son los límites de las tecnologías, porque en este momento, en el que hay un gran furor y grandes expectativas, se piensa que la IA puede hacer cualquier cosa, que es perfecta. No es una tecnología perfecta, ninguna lo es. Tiene límites estructurales que, como siempre, pueden mejorarse, pero nunca podrán eliminarse. Y por eso hay que poder explicar a los usuarios dónde y cómo esta tecnología puede ser útil y dónde no. En otros campos es mucho más obvio. Por quedarnos en el sector automovilístico: con un Panda no puedo correr en un circuito. Si cojo un Ferrari, no puedo llevarme el material de trabajo si soy carpintero. Cada herramienta es adecuada para hacer ciertas cosas. Sí, en mi opinión es un error haberla llamado «inteligencia», porque es todo menos una inteligencia. Tiene capacidad de análisis, de correlación, etcétera, pero de ahí a hablar de inteligencia… Este nombre genera enormes expectativas.

Pero cuando hablas de límites, me parece que no te refieres a límites éticos, sino más bien a límites de concepción, de significado, de lo que es la tecnología y de la naturaleza del ser humano. No solo no es una cuestión de enfoque ético, por lo que estás diciendo, sino de comprensión del sujeto humano.

Yo me refiero sobre todo a los límites técnicos, es decir, a ciertas cosas en las que la IA falla —las famosas alucinaciones—, pero también a muchas otras. La IA todavía no es capaz de hacer inferencias correctas en determinadas situaciones. Es extraordinariamente eficaz cuando se le pide, por ejemplo, que analice documentos, incluso corpus muy grandes e imponentes, y que cree e identifique estructuras y relaciones. Es menos eficaz a la hora de intentar inventar algo; en ese caso, por lo general, acaba imitando algo que ya existe, y no es seguro que eso sea correcto. Hablo en términos muy generales, aunque está claro que hay muchísimas aplicaciones diferentes. No me estaba refiriendo específicamente a los límites éticos, pero es evidente que también existen tales límites. Porque utilizar la IA —en realidad, cualquier herramienta de automatización avanzada— de forma acrítica puede conducir a discriminaciones, a sesgos, además de a errores propiamente dichos. Desde este punto de vista, la IA sin duda exacerba un problema ya existente. Cada vez que intentamos automatizar en exceso ciertos procesos que implican decisiones relacionadas con situaciones que tienen un impacto en la vida de las personas, se corre el riesgo de generalizar o de crear discriminaciones y sesgos. Sin duda es importante, pero se trata de un tema bastante conocido y abordado en la Ley de IA de la Unión Europea. Porque, cuando hablamos de tecnologías de mayor o menor riesgo, nos referimos esencialmente a esto mismo: la capacidad de vulnerar los derechos y las libertades de las personas y, por lo tanto, de discriminarlas en base a decisiones totalmente automatizadas.