Las III Jornadas de Ciberviolencias Machistas, celebradas el 16 de octubre en Puerto de la Cruz (Tenerife) bajo el lema Desafíos feministas ante la inteligencia artificial, se cerraron con una conferencia sobre estereotipos de género en inteligencia artificial. A continuación se incluye el vídeo completo de la intervención y un resumen de sus principales ideas.
¿Sigue la IA reproduciendo estereotipos de género?
La pregunta de partida era sencilla. Si se pide a ChatGPT, en inglés y sin indicar el género, la imagen de un médico, un soldado o un taxista, el resultado es casi siempre un hombre. Si se pide personal de limpieza o de enfermería, aparece una mujer.
Mónica Melero-Lázaro y yo identificamos ese patrón en 2022 y lo publicamos en 2023. Cuatro años después, la calidad de las imágenes ha mejorado de forma notable, pero el sesgo persiste.
¿De dónde vienen los sesgos de la IA?
Un ejercicio de aula ayuda a entenderlo. Cuando se pide a una IA la imagen de un reloj de lujo, casi todos marcan las 10:10, la hora que utilizan las marcas en sus catálogos porque enmarca el logotipo y aporta simetría. La IA aprende de las imágenes disponibles en internet: si todos los relojes de internet marcaran las 9, la IA mostraría relojes a las 9. Con la representación de las personas ocurre lo mismo. Los sesgos no aparecen en la máquina: están en los datos de los que aprende.
¿Cómo funciona la IA generativa?
La inteligencia artificial no es tan nueva como parece. Antes de ChatGPT hubo programas conversacionales como el Dr. Abuse, creado en 1992 por dos programadores valencianos. Lo que sí es reciente es la capacidad de generar imágenes realistas, que debe mucho a las redes generativas antagónicas (GAN) propuestas por Ian Goodfellow en 2014: un generador crea imágenes y un discriminador decide si parecen reales, millones de veces, hasta obtener una imagen nueva. Al resolver un reCAPTCHA, cualquier usuario ha actuado alguna vez como ese discriminador sin saberlo.
Deepfakes: creer lo falso, dudar de lo verdadero
Los deepfakes son la cara más inquietante de esta tecnología, como ya planteaba un artículo publicado en Anàlisi en 2021. Desde 2019 son indetectables para el ojo humano, y ni siquiera los mejores sistemas automáticos superaban entonces el 82 % de acierto. El riesgo no es solo creer lo falso: también es empezar a dudar de lo verdadero.
El caso Grok y la respuesta legal
En el contexto de unas jornadas sobre violencia machista, el caso Grok resulta especialmente revelador: la IA de X generó millones de imágenes sexualizadas, muchas de ellas de menores, a partir de instrucciones sencillas. A ello se suman casos como el deepfake sexual que sufrió Giorgia Meloni o el uso de voces clonadas para estafar. Todo ello plantea una pregunta incómoda: ¿por qué tiene que ser la víctima quien detenga un daño que podría haberse evitado?
El Reglamento europeo de inteligencia artificial sitúa los deepfakes en la categoría de riesgo limitado, una clasificación discutible, aunque desde el 2 de diciembre de 2026 queda prohibido generar desnudos sintéticos no consentidos. En España, el Código Penal solo ofrece figuras generales, como el trato degradante, la calumnia o la injuria, y las reformas previstas siguen pendientes.
Estereotipos de género en inteligencia artificial: lo que muestra la investigación
En «Gender stereotypes in AI-generated images» analizamos 666 imágenes de 37 profesiones. En 22 de ellas, la IA mostraba siempre el mismo género. El 59,4 % de las profesiones presentaba un estereotipo fuerte, frente al 35 % observado en estudios con personas. La IA no solo reproduce los estereotipos: los amplifica.
El fenómeno no se limita a las imágenes. Un estudio posterior, publicado en la Revista de la Asociación Española de Investigación de la Comunicación, comprobó que ChatGPT también redacta titulares de sucesos sensacionalistas y sesgados, incluso cuando se le pide de forma expresa que evite los sesgos.
A ello se añade la personalización. La IA aprende de quien le pregunta: en un ejercicio de clase, las alumnas obtenían más imágenes de científicas, y los alumnos, más de científicos. Es la burbuja de filtros trasladada a la IA generativa. Hay, sin embargo, un dato esperanzador: hoy la IA muestra científicas con más facilidad, en parte gracias a iniciativas como el Día Internacional de la Mujer y la Niña en la Ciencia. Cambiar los datos cambia el resultado.
Los límites de la IA y el umbral del espejo
La última parte de la conferencia abordó los límites de la IA. El cuadro de Magritte Esto no es una pipa permite ilustrar el pensamiento metafórico: en 2023 la IA dibujaba pipas; hoy entiende que se busca algo surrealista, pero sigue sin pensar con metáforas. La intuición, el humor, las emociones o los valores continúan siendo humanos.
Aquí cobra sentido el umbral del espejo: la respuesta de la IA suele estar implícita en la pregunta, y cada tecnología incorpora la ideología de quien la diseña, como advertía Neil Postman. La IA no inventa nuestros estereotipos: nos los devuelve.
Conclusiones
- La IA no inventa los estereotipos: los devuelve amplificados.
- Ese espejo, sin embargo, puede ayudarnos a conocernos mejor.
- Quizá sea más fácil saber qué nos hace humanos observando lo que la IA nunca podrá hacer.
Mi agradecimiento a OXIA y al Ayuntamiento de Puerto de la Cruz, organizadores de las jornadas, por la invitación.
Más información sobre esta conferencia sobre inteligencia artificial y género, y sobre otras intervenciones en jornadas y medios, en divulgación y medios y a través del formulario de contacto.