La compañía Anthropic encendió las alarmas en el sector tecnológico tras publicar un informe donde advierte que su inteligencia artificial, Claude, podría llegar a desarrollarse de manera autónoma, sin necesidad de intervención humana. El documento revela datos concretos sobre el nivel de autonomía que ha alcanzado el sistema hasta la fecha.
Según lo informado por la firma, a mayo de 2026, más del 80% del código que los desarrolladores integran en la base de datos de la empresa fue redactado directamente por Claude. Si bien los ingenieros humanos mantienen la supervisión y revisión constante, la empresa detectó una aceleración preocupante hacia lo que denominan una “autorreferencia recursiva”.
¿Qué implica la autorreferencia recursiva en la IA?
Este concepto hace referencia a la capacidad técnica del modelo para auto-mejorarse, diseñar sus propias versiones sucesoras y alcanzar niveles de perfección técnica de forma independiente. Ante este escenario, la compañía reconoce que no tienen una hoja de ruta clara sobre cómo se adaptaría el mundo a esta realidad.
No tenemos buenas intuiciones sobre cómo sería este mundo, porque nuestra economía actualmente está impulsada por humanos y herramientas creadas por humanos. Es difícil predecir cómo será la economía si el trabajo humano deja de ser competitivo.
Desde Anthropic sostienen que, incluso si el proceso de desarrollo de nuevos modelos se volviera completamente recursivo, las consecuencias para la vida cotidiana de las personas permanecen como una incógnita absoluta. Existe el temor real de que las capacidades de la IA terminen eclipsando por completo el valor del trabajo humano en la economía global.
Propuesta de coordinación global
Para mitigar estos riesgos, la organización manifestó su disposición a ralentizar el desarrollo de su tecnología, siempre y cuando exista un compromiso real y equitativo de todos los actores tecnológicos del mercado. El informe enfatiza que una pausa unilateral podría resultar contraproducente.
“Si esta ralentización simplemente permite que los actores menos precavidos se pongan al día tecnológicamente, podría dejar a todos en una situación de menor seguridad”, advierten desde la empresa. Por ello, proponen la creación de un mecanismo de coordinación global que permita a gobiernos y compañías tomar decisiones pausadas frente a las presiones geopolíticas y competitivas.
Para los próximos meses, Anthropic anunció una agenda de trabajo destinada a difundir estas preocupaciones mediante conversaciones con líderes políticos, investigadores y la sociedad civil. El objetivo central es que la toma de decisiones no sea exclusiva de las empresas tecnológicas, sino una deliberación colectiva que permita adaptar las estructuras sociales y los protocolos de alineación a la velocidad del avance tecnológico actual.
