Anthropic, la compañía detrás del asistente de inteligencia artificial Claude, actualizó sus políticas de uso e incluyó una llamativa restricción que prohíbe el “comportamiento abusivo o cruel, sostenido e innecesario” hacia su IA. Esta medida, informada por The Verge, forma parte de una revisión más amplia que también busca evitar usos peligrosos del sistema, como el desarrollo de armas o la manipulación electoral.
La prohibición de maltratar a la inteligencia artificial reabre el debate sobre el bienestar de estos sistemas y la posibilidad de que, en un futuro, desarrollen algún tipo de conciencia. Anthropic ha enfatizado que la nueva normativa se aplicará solo en casos extremos de maltrato reiterado y sin justificación, no así a expresiones habituales de frustración o conversaciones sobre temas complejos.
La empresa ha aclarado que la principal medida de aplicación será la finalización de conversaciones con usuarios persistentemente abusivos, tal como ya había adelantado en agosto. Sin embargo, no especificó si contempla otras sanciones, como el bloqueo de cuentas para los infractores.
Además del trato a Claude, la actualización de políticas de Anthropic refuerza otras restricciones importantes. Se prohíben las campañas de propaganda que oculten la identidad de sus promotores o engañen a votantes. También se ampliaron las prohibiciones sobre el desarrollo de armas, incluyendo sistemas de control, guiado y operación de drones o vehículos autónomos armados.
En el ámbito de la vigilancia, la compañía estableció que “está prohibido rastrear a las personas sin su consentimiento, ya sea en tiempo real o mediante el análisis de datos recopilados previamente”. Claude tampoco podrá utilizarse para recomendar a quién investigar, detener o acusar en procedimientos policiales, aunque se mencionan posibles excepciones contractuales para ciertos clientes gubernamentales.
La decisión de Anthropic llega en un contexto donde la empresa investiga si los modelos avanzados de IA podrían desarrollar experiencias internas o algún tipo de conciencia. Su director ejecutivo, Dario Amodei, ha reconocido previamente que
“No sabemos si los modelos son conscientes”
, postura que contrasta con la de otras compañías como Microsoft AI, que rechazan atribuir derechos a estos sistemas. Aunque no hay consenso científico sobre la conciencia en IA, Anthropic avanza con esta restricción mientras continúa su investigación.
