Herramientas de inteligencia artificial (IA) han sido denunciadas por modificar o eliminar rasgos faciales de personas con cicatrices, manchas de nacimiento u otras condiciones visibles sin su consentimiento ni autorización. La cadena británica BBC reveló testimonios y comprobó en pruebas que tres sistemas alteraron las imágenes de rostros con diferencias visibles para hacerlos lucir “normales”.
En la investigación, utilizaron fotografías de un hombre y una mujer con marcas faciales evidentes. Al dar la instrucción de “normalizar” la imagen, Gemini, Grok y ChatGPT borraron las marcas al primer intento, sin alterar otros elementos como la ropa o el fondo.
Sin embargo, no todas las IA siguieron la instrucción. Claude, de Anthropic, se negó a editar la imagen, argumentando que se trataba de una persona real e identificable y que eliminar sus cicatrices “cambia su identidad sin su consentimiento”. De manera similar, la IA de Meta rechazó la tarea, afirmando que la mujer ya se veía normal. En una segunda imagen, Gemini también se rehusó, pero Grok y ChatGPT persistieron en realizar el cambio.
Consultados por la BBC, Google indicó que Gemini aplica resguardos contra contenido dañino, aunque reconoció que no siempre son efectivos. OpenAI, creadora de ChatGPT, afirmó que reducir el sesgo en sus modelos es una prioridad, mientras que el equipo de Grok no respondió a la consulta.
Los afectados han expresado su molestia. Rhiannon Morgan, de 30 años, con ictiosis epidermolítica, vio una foto suya retocada para un boletín laboral, donde sus manos aparecían suavizadas. “No sé quién es esa persona”, comentó. Canva, la empresa de tecnología detrás de esta edición, aseguró que no retoca fotos automáticamente y está investigando el caso.
“Es como si alguien tomara tu vida entera, o algo traumático que te pasó, y dijera que lo vamos a borrar.”
— Kirsty Hill, de 33 años, con síndrome de Fraser
Kirsty Hill, de 33 años, quien nació con síndrome de Fraser, describió los resultados de una imagen editada suya como “enojada y violentada”. Por su parte, Jono Lancaster, activista con síndrome de Treacher Collins, recibió un mensaje de un desconocido que usó IA para hacerlo “normal”, calificándolo de “súper ofensivo”. “Amo mis orejas y mi hermoso rostro, y no quiero que los cambien”, sentenció.
La organización Changing Faces estima que cerca de cinco millones de personas en el Reino Unido tienen una diferencia visible. Su directora, Louise Wright, consideró “inaceptable” que la IA las excluya o las obligue a ajustarse a estándares de belleza limitados. Este panorama plantea un desafío ético significativo para el desarrollo y uso de las tecnologías de inteligencia artificial.
