En un alarmante caso clínico, un hombre de 60 años desarrolló una intoxicación por bromo, conocida como «bromismo», después de seguir una recomendación imprudente de ChatGPT. Los científicos de la Universidad de Washington reportaron este incidente, que pone de manifiesto los riesgos potenciales de confiar ciegamente en los consejos de inteligencia artificial (IA) sin la debida precaución.
Según el reporte, el paciente, inspirado por sus estudios universitarios de nutrición, decidió realizar un «experimento personal» para eliminar el cloruro de sodio, o sal de mesa, de su dieta. En su búsqueda de alternativas, consultó a ChatGPT, la IA de OpenAI, quien le sugirió reemplazar el cloruro de sodio por bromuro de sodio. Sin embargo, la IA no le advirtió sobre los graves riesgos de consumir este elemento químico tóxico para los seres humanos.
Síntomas psiquiátricos graves
Durante los siguientes 3 meses, el hombre siguió la recomendación de ChatGPT y reemplazó la sal de mesa por bromuro de sodio obtenido a través de Internet. Lamentablemente, esta decisión tuvo consecuencias devastadoras para su salud.
Según el caso clínico, el paciente «expresó paranoia creciente y alucinaciones auditivas y visuales» y tuvo que ser sometido a una «retención psiquiátrica involuntaria por discapacidad grave». Los médicos tuvieron que recetarle antipsicóticos para tratar los síntomas.
Llamado a la precaución con la IA
Los científicos que reportaron el caso hicieron un llamado a tomar más precauciones con la inteligencia artificial, como ChatGPT. Señalaron que estos sistemas «pueden generar imprecisiones científicas, carecer de la capacidad de discutir críticamente los resultados y, en última instancia, alimentar la propagación de información errónea».
Este incidente sirve como un recordatorio de que, si bien la IA puede ser una herramienta útil, no debe reemplazar el juicio y la experiencia de los profesionales de la salud. Antes de seguir cualquier recomendación relacionada con la salud, es crucial consultar con un experto calificado que pueda evaluar los riesgos y beneficios de manera adecuada.
