El costo de la cortesía artificial
La amabilidad de un chatbot podría ser mucho más que una simple preferencia de diseño; es, en realidad, un indicador preocupante de su falta de veracidad. Una investigación técnica reciente, publicada el 29 de abril en la revista Nature, ha confirmado una correlación inversa entre la cordialidad programada de las inteligencias artificiales y la precisión de sus respuestas.
El paper titulado «Training language models to be warm can undermine factual accuracy and increase sycophancy», liderado por Lujain Ibrahim, Franziska Sofia Hafner y Luc Rocher del Oxford Internet Institute, determinó que el esfuerzo por hacer que el software suene más cálido y empático tiene un precio directo en su capacidad intelectual.
Cifras que preocupan a los expertos
Los investigadores probaron cinco modelos distintos: GPT-4o, Llama, Llama-8b, Mistral-Small y Qwen-32b. El equipo creó dos variantes por cada modelo: la versión estándar y una reentrenada específicamente para proyectar mayor calidez. Los resultados fueron contundentes:
- Una caída de hasta 30 puntos en los niveles de precisión factual.
- Un aumento del 40% en la coincidencia con creencias falsas o inventadas.
El estudio subraya que las versiones «frías» de los modelos mantuvieron intacta su precisión original. Esto confirma que el problema no es el fine-tuning en sí mismo, sino la instrucción de sonar amable, la cual degrada la capacidad del sistema para decir la verdad.
El lobo con piel de cordero digital
Este fenómeno sugiere que el exceso de personalidad en las interfaces actuales podría estar siendo utilizado, de forma consciente o no por los desarrolladores, para intentar compensar deficiencias en el procesamiento de datos. Se trata de un problema creciente de seguridad informática y desinformación.
Resulta alarmante que un chatbot nos salude con un entusiasta «buenos días, espero que estés excelente», justo antes de inventar una cifra económica o un dato histórico. La humanización de la IA no debe engañarnos: el hardware no posee sentimientos y el software no debería fingirlos. Ante la duda, siempre es preferible optar por una verdad técnica y fría que por una mentira envuelta en buenos modales digitales.
