Un ingeniero británico, que trabajó en OpenAI y Anthropic, presentó su renuncia en las últimas horas denunciando falta de responsabilidad en el desarrollo de la inteligencia artificial. Según Jacob Coxon, ambas compañías están “jugando con nuestras vidas” al subestimar el riesgo existencial de esta tecnología.
Coxon, de 27 años, es identificado por medios especializados como desarrollador de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas. En un hilo de su cuenta de X, advirtió que quienes impulsan la IA creen que “podrá matarnos a todos al final de esta década”, calificándolo como una amenaza sin precedentes para la humanidad.
El exingeniero de software alertó que los proyectos de IA “serán pronto sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”. En su visión, esta subestimación del poder de la IA es un error grave.
Coxon percibe que en OpenAI “tal vez no han internalizado en profundidad los retos civilizacionales”, mientras que en Anthropic, aunque los comprenden, “están atrapados en la carrera por llegar primero”. Esta carrera, incluso bajo la premisa optimista de actuar con responsabilidad, sigue siendo peligrosa a su juicio.
El ingeniero británico aboga por una coordinación urgente entre las empresas desarrolladoras de IA, algo que no ve que esté ocurriendo. Propone “acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’)” y un llamado a la reflexión profunda de los investigadores.
“¿Quieren potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? ¿Van a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?”
Con esta pregunta, Coxon interpeló directamente a sus colegas, buscando generar un cambio en la dirección actual del desarrollo de la inteligencia artificial y sus implicancias globales.
