El umbral del espejo es un concepto propuesto por Francisco-José García-Ull y Mónica Melero-Lázaro (2023) que describe la dificultad de obtener de una inteligencia artificial respuestas que vayan más allá de los límites, conocimientos y marcos desde los que el propio usuario formula sus preguntas. La IA puede ampliar una respuesta, pero sigue operando dentro de un espacio condicionado por aquello que somos capaces de preguntarle.
El concepto surgió durante una investigación sobre estereotipos de género en imágenes generadas por inteligencia artificial. Analizamos con DALL·E 2 la representación de 37 profesiones y encontramos que en 22 de ellas las imágenes generadas correspondían siempre al mismo género.
¿Qué es el umbral del espejo?
Los resultados eran especialmente llamativos en profesiones fuertemente asociadas tradicionalmente a hombres o mujeres. Al solicitar imágenes de profesiones técnicas, científicas o de la construcción aparecían hombres de forma sistemática; con otras, como enfermería o empleada de hogar, ocurría lo contrario.
El 59,4% de las profesiones analizadas aparecía completamente estereotipado, frente al 35% de fuerte estereotipado observado en investigaciones previas realizadas con adolescentes.
Fue entonces cuando apareció una idea que sigue pareciéndome fundamental:
La IA no está inventando estos estereotipos, nos los está devolviendo.
El sistema funciona en cierta medida como un espejo. Cuando preguntamos desde nuestros propios marcos culturales, categorías y prejuicios, la respuesta queda condicionada por ellos. Incluso aquello que decidimos preguntar contiene ya una manera concreta de interpretar la realidad.
¿Por qué la IA funciona como un espejo?
El problema no reside únicamente en que una inteligencia artificial pueda producir una respuesta sesgada. También está en la propia pregunta.
En el artículo planteábamos que la respuesta puede estar parcialmente implícita en la manera de formularla. El usuario difícilmente puede preguntar completamente fuera de su propia cosmogonía, porque pregunta desde aquello que conoce, las categorías que utiliza y su forma de comprender el mundo.
Ahí aparece el umbral del espejo: el punto en el que pretendemos utilizar la IA para ir más allá de nuestro conocimiento, pero seguimos condicionados precisamente por ese conocimiento para formular la pregunta.
¿Qué es el umbral del desarrollador?
Incluso suponiendo que pudiéramos superar nuestros propios prejuicios al preguntar, encontraríamos un segundo límite: el umbral del desarrollador.
Los sistemas de inteligencia artificial tampoco surgen en el vacío. Los datos utilizados para desarrollarlos, las decisiones tomadas durante su diseño y las personas e instituciones que participan en ese proceso forman parte de contextos sociales y culturales determinados.
En nuestro artículo recuperábamos una idea de Neil Postman: cada tecnología contiene también una ideología. Por eso proponíamos trabajar sobre la diversidad y equidad de los datos de entrenamiento, aumentar nuestra conciencia sobre los propios estereotipos y fomentar comunidades de desarrollo diversas e inclusivas.
¿Cómo se puede traspasar el umbral del espejo?
Tres años después, no creo que podamos hacerlo completamente, tampoco con modelos actuales como ChatGPT, Claude o Gemini.
Podemos formular mejores preguntas, pedir contraargumentos o introducir perspectivas diferentes. Pero incluso para pedirle a una IA que cuestione nuestro punto de vista tenemos que imaginar primero qué queremos cuestionar.
Esta cuestión me recuerda a Heidegger en Ser y tiempo. Una parte fundamental del problema no consiste simplemente en encontrar una respuesta, sino en encontrar la pregunta adecuada. Y precisamente ahí está buena parte del trabajo intelectual.
Podemos ensanchar el espejo. Lo que resulta mucho más difícil es colocarnos completamente fuera de él.
¿Qué tiene que ver con la educación?
En educación, esta distinción es especialmente importante. Utilizar una IA no significa automáticamente acceder a una perspectiva externa, neutral o más amplia que la nuestra.
Por eso considero que enseñar a utilizar inteligencia artificial debería incluir también enseñar a interrogarla: analizar desde qué supuestos hacemos una pregunta, qué perspectivas estamos dejando fuera y por qué una determinada respuesta nos parece natural.
La IA puede ayudarnos a pensar, pero no elimina nuestra responsabilidad sobre el pensamiento. Al final, sigue reflejando en buena medida nuestro sentir común, nuestras virtudes y también nuestros defectos.
Datos clave
- Concepto: umbral del espejo.
- Autores: Francisco-José García-Ull y Mónica Melero-Lázaro.
- Origen: artículo científico publicado en 2023.
- Muestra: imágenes generadas con DALL·E 2 para 37 profesiones.
- Resultado principal: el 59,4% de las profesiones apareció completamente estereotipado por género.
Referencia
García-Ull, F. J. y Melero-Lázaro, M. (2023). Gender stereotypes in AI-generated images. Profesional de la información, 32(5), e320505. https://doi.org/10.3145/epi.2023.sep.05
Imagen: foto de Михаил Секацкий (Mikhail Sekatsky) en Unsplash.