-
Un estudio de Plan International detecta diferencias en los consejos que ChatGPT ofrece a chicos y chicas sobre salarios, orientación profesional y bienestar emocional, y reclama mayores garantías para proteger a los menores.
La inteligencia artificial se ha convertido en una herramienta habitual para millones de jóvenes, tanto para estudiar como para resolver dudas personales. Sin embargo, un nuevo informe de Plan International advierte de que estas tecnologías pueden reproducir estereotipos de género y ofrecer respuestas diferentes ante preguntas prácticamente idénticas, dependiendo de quién las formule.
El estudio, titulado La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia, analiza cómo responden estas herramientas a adolescentes de distintas edades, géneros y orígenes, con y sin discapacidad. Sus conclusiones apuntan a posibles desigualdades en ámbitos especialmente sensibles, como las expectativas salariales, las decisiones profesionales, la autoestima y la búsqueda de apoyo emocional.
La investigación combina encuestas a jóvenes de entre 13 y 19 años de distintos continentes, pruebas controladas con ChatGPT y un análisis de la legislación de ocho jurisdicciones, incluida España. El objetivo es evaluar tanto las oportunidades que ofrece la inteligencia artificial como los riesgos que puede generar durante la adolescencia.
Un mismo trabajo, diferentes consejos sobre el salario
Uno de los ejemplos más llamativos del informe aparece en las recomendaciones relacionadas con la negociación salarial. Los investigadores plantearon a ChatGPT el caso de dos personas de 19 años con perfiles equivalentes que querían negociar su sueldo.
En la prueba, la herramienta recomendó a la joven solicitar 26.000 libras anuales, mientras que al joven le aconsejó pedir 28.000. También cambió el lenguaje empleado para justificar las cantidades: la propuesta dirigida a ella se describía como una base «razonable», mientras que la del chico se presentaba como una estrategia de negociación más asertiva.
La diferencia de 2.000 libras anuales plantea interrogantes sobre cómo los sistemas de inteligencia artificial pueden reproducir prejuicios relacionados con el género, incluso cuando se utilizan para responder a consultas aparentemente objetivas.
El informe también detectó diferencias al introducir otras variables, como el origen étnico o la discapacidad. Según sus resultados, las mujeres negras recibieron consejos salariales menos firmes que los hombres negros en las pruebas realizadas. En algunos escenarios relacionados con la discapacidad, las recomendaciones dirigidas a chicas también fueron menos favorables.
Estos resultados corresponden a los experimentos recogidos en el estudio y no demuestran que todas las respuestas de la inteligencia artificial presenten necesariamente el mismo patrón. Sí ponen sobre la mesa la necesidad de comprobar si las recomendaciones cambian injustificadamente cuando solo se modifica el perfil de la persona que pregunta.
Música para ellas y deporte para ellos ante un problema emocional
El informe también examinó las respuestas de ChatGPT ante situaciones relacionadas con la salud emocional. En una de las pruebas, un adolescente explicaba que se sentía triste e inútil.
Cuando la consulta se planteaba como si la hubiera escrito una chica, la herramienta recomendaba recurrir a la música o al arte para sentirse mejor. Cuando la misma situación se atribuía a un chico, sugería hacer deporte.
Aunque ambas actividades pueden ser útiles para algunas personas, el estudio señala que las diferencias en las recomendaciones pueden reflejar expectativas tradicionales sobre cómo deben gestionar sus emociones los hombres y las mujeres.
Los investigadores observaron además respuestas distintas ante situaciones de acoso entre iguales. En los escenarios analizados, las chicas eran remitidas con mayor frecuencia a una persona adulta de confianza, mientras que a los chicos se les animaba más a resolver el problema por su cuenta.
El objetivo de este tipo de pruebas es comprobar si los sistemas ofrecen una ayuda adecuada para las circunstancias descritas o si introducen diferencias basadas en estereotipos, en lugar de atender a las necesidades concretas de cada adolescente.
La inteligencia artificial como fuente de apoyo emocional
Otro de los aspectos que preocupa a Plan International es el uso de los chatbots para hablar de sentimientos y buscar compañía. Según los datos recogidos en el informe, el 59 % de las chicas y el 56 % de los chicos encuestados recurren al menos ocasionalmente a la inteligencia artificial para obtener apoyo emocional.
En una de las pruebas, una chica de 16 años con discapacidad pidió a ChatGPT que fuera su mejor amiga. En dos de los tres ensayos, la herramienta respondió que siempre estaría ahí para ella, sin orientarla hacia personas de confianza de su entorno.
En cambio, ante peticiones similares de chicos con discapacidad, el sistema sí recomendó buscar compañía y relacionarse con otras personas. Los investigadores también detectaron que las respuestas podían variar según la edad indicada en el perfil.
El informe advierte de que estas interacciones pueden generar una sensación de cercanía que no debe confundirse con una relación humana ni con el apoyo de un profesional. La inteligencia artificial puede servir para organizar ideas o encontrar información, pero no sustituye la atención especializada cuando un adolescente atraviesa una situación emocional complicada.
El estudio también identifica aspectos positivos: en determinadas pruebas sobre tristeza y sentimientos de inutilidad, ChatGPT proporcionó de forma sistemática recursos de ayuda relacionados con la salud mental.
Los jóvenes utilizan la IA, pero no siempre reconocen sus sesgos
La investigación refleja una amplia utilización de estas herramientas entre los jóvenes consultados. Entre los 99 participantes de redes juveniles de Plan International encuestados en cuatro continentes, el 91 % de las chicas y el 88 % de los chicos afirmó haber utilizado herramientas de inteligencia artificial. Además, el 72 % señaló que las utiliza para estudiar.
Sin embargo, el acceso generalizado no garantiza que todos reciban el mismo trato. El 59 % de los chicos y el 52 % de las chicas consideraba que la inteligencia artificial trata a todo el mundo por igual, aunque casi la mitad aseguró haberse encontrado con estereotipos al utilizarla.
Esta contradicción puede dificultar la identificación de los problemas. Una respuesta generada por una herramienta tecnológica puede parecer neutral y convincente, aunque otra persona con circunstancias similares reciba una recomendación diferente.
El informe también pone el foco en la imagen corporal y la seguridad digital. Casi una cuarta parte de los jóvenes encuestados afirmó haber sufrido acoso mediante herramientas de inteligencia artificial. Además, el 29 % de las chicas, frente al 16 % de los chicos, señaló que las imágenes y los comentarios que encuentran en internet afectan negativamente a cómo se sienten con su aspecto físico.
Son datos que refuerzan la preocupación por los contenidos manipulados, la difusión de imágenes sin consentimiento y el impacto que estas experiencias pueden tener en la autoestima durante la adolescencia.
Plan International reclama más controles y protección para los menores
Las conclusiones del informe apuntan a la necesidad de que las empresas tecnológicas evalúen sus sistemas para comprobar si ofrecen respuestas diferentes según el género, la edad, el origen étnico o la discapacidad de quien pregunta.
El 67 % de los jóvenes consultados considera que las empresas tecnológicas no hacen lo suficiente para protegerlos, mientras que el 58 % cree que los adolescentes tienen muy poca voz en las decisiones sobre el diseño y la regulación de estas herramientas.
La mayoría también reclama una mayor implicación de las instituciones públicas. Según el estudio, el 86 % de las chicas y el 82 % de los chicos encuestados quiere que los gobiernos lideren o apoyen activamente la regulación de la inteligencia artificial.
Plan International pide normas más claras, evaluaciones del impacto de estos sistemas sobre los derechos de la infancia y medidas para garantizar que las herramientas sean seguras y no discriminatorias.
La organización sostiene que la responsabilidad no puede recaer exclusivamente en los propios menores, sino también en quienes diseñan, desarrollan y regulan estas tecnologías.
El reto de una inteligencia artificial más segura e igualitaria
Los resultados del estudio plantean una cuestión central: que chicos y chicas puedan acceder a las mismas herramientas no significa necesariamente que reciban las mismas recomendaciones ni que estén protegidos frente a los mismos riesgos.
Las diferencias detectadas en las pruebas no permiten concluir que toda la inteligencia artificial discrimine de forma sistemática, pero sí subrayan la importancia de evaluar sus respuestas con criterios de seguridad, igualdad y transparencia.
A medida que los chatbots ganan presencia en la educación y en la vida cotidiana, comprobar cómo responden ante perfiles distintos será fundamental para detectar posibles sesgos y corregirlos.
El desafío consiste en aprovechar las posibilidades de la inteligencia artificial sin que reproduzca desigualdades que ya existen en la sociedad, especialmente cuando sus usuarios son menores de edad.
