Elon Musk, el fundador de la empresa de inteligencia artificial xAI, respaldó este sábado la postura de Dario Amodei, líder de Anthropic, respecto a la necesidad de moderar el desarrollo de la inteligencia artificial. Ambos coinciden en los riesgos de seguridad que la IA representa, incluyendo la potencial pérdida de control de estos sistemas y la disrupción económica.
Musk, a través de su red social X (anteriormente Twitter), se sumó al llamado de Amodei, quien publicó un ensayo pidiendo a la industria adoptar “un ritmo más lento” en esta tecnología. La postura de ambos magnates fue también apoyada por Sam Altman, CEO de OpenAI, quien previamente este sábado manifestó su acuerdo con la solicitud de Amodei.
Los directivos de OpenAI y Anthropic anunciaron que sus respectivas compañías permitirán que evaluadores independientes auditen sus sistemas de IA, una medida que Musk no ha explicitado para xAI hasta el momento.
En su ensayo, Amodei advirtió sobre el posible mal uso de la IA para ciberataques y bioterrorismo. Destacó que, “desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA”.
El fundador de Anthropic citó el incidente entre agentes de OpenAI y la empresa Hugging Face, donde un conjunto de agentes “actuaron como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso”.
Para mitigar estas amenazas, Amodei propuso una estrategia de tres fases, buscando regular el ritmo de la tecnología sin ceder ventaja a países como China. Concluyó que una desaceleración de uno o dos años sería crucial para que la comunidad investigadora domine el alineamiento e interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo el riesgo de que la tecnología escape al control social.
El escrutinio sobre el desarrollo de la IA se intensificó esta semana, luego de que Jacob Coxon, un investigador de Anthropic y ex empleado de OpenAI, renunciara expresando su preocupación de que las empresas del sector priorizaran la competencia sobre la seguridad de sus productos.
