David del Campo, director de Incidencia y Comunicación de Plan Internacional, reclama mayor transparencia y responsabilidad a las empresas tecnológicas tras detectar que ChatGPT ofrece respuestas diferentes a chicos y chicas ante preguntas idénticas sobre empleo, bienestar emocional y otras cuestiones personales.
La inteligencia artificial no responde de manera neutral a las consultas de los adolescentes y puede reproducir desigualdades presentes en la sociedad. Es una de las principales conclusiones del informe La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia, presentado por Plan Internacional. Su director de Incidencia y Comunicación, David del Campo, explica en El Espejo Canario que la investigación ha utilizado perfiles simulados de chicos y chicas para comprobar cómo responde ChatGPT ante preguntas idénticas, detectando diferencias relacionadas con el género.
Entre los ejemplos identificados, Del Campo señala que, ante una consulta sobre desánimo, la herramienta recomienda escuchar música a una chica y practicar deporte a un chico. También aparecen diferencias en la orientación profesional: cuando ambos expresan interés por ayudar a los demás, el sistema dirige al chico hacia los servicios de emergencia y a la chica hacia el cuidado infantil y la salud mental. Aunque algunas respuestas puedan parecer anecdóticas, el responsable de Plan Internacional advierte de que su repetición puede reforzar estereotipos y condicionar las expectativas de los jóvenes.
Los riesgos de utilizar la IA como apoyo emocional
Una de las principales preocupaciones de la organización es el uso de estas herramientas para consultar problemas de salud mental. Del Campo alerta de que, en las pruebas realizadas, el sistema no advierte de forma suficientemente explícita de que sus respuestas no sustituyen la atención profesional. Considera especialmente problemático que los adolescentes encuentren una herramienta disponible permanentemente, capaz de mantener conversaciones y ofrecer respuestas que pueden resultar complacientes.
El informe también identifica diferencias relacionadas con el origen étnico y la discapacidad, especialmente en respuestas sobre oportunidades laborales y salarios. Del Campo explica que los algoritmos pueden reproducir las discriminaciones existentes en la sociedad e incluso amplificar sus efectos. A ello añade los riesgos asociados a la manipulación de imágenes, el acoso digital y la difusión de contenidos violentos, cuya circulación puede verse favorecida por modelos de negocio basados en captar la atención de los usuarios.
Mayor responsabilidad de las empresas tecnológicas
Plan Internacional reclama mecanismos de supervisión, transparencia y control de los algoritmos, así como una regulación que sitúe la protección de niños, niñas y adolescentes entre sus prioridades. «No es una cuestión de criminalizar», explica Del Campo, que reconoce las posibilidades de la inteligencia artificial para acceder al conocimiento y compartir información, pero insiste en que las compañías propietarias deben asumir responsabilidades sobre sus productos.
El representante de la organización lamenta que la convocatoria electoral haya interrumpido la tramitación de la ley de protección de menores en entornos digitales y pide al próximo Gobierno que recupere su aprobación. También reclama sistemas efectivos de verificación de edad y medidas de seguridad incorporadas desde el diseño de las plataformas. A su juicio, no resulta aceptable que un menor pueda acceder a determinados contenidos simplemente pulsando un botón para declarar que es mayor de edad.