La compañía tecnológica Anthropic anunció el jueves 8 de octubre de 2026 una actualización de sus políticas de uso que prohibirá a los usuarios mantener comportamientos abusivos o crueles de manera reiterada e injustificada hacia Claude, su sistema de inteligencia artificial. La nueva disposición entrará en vigor el 12 de noviembre y permitirá que el asistente termine conversaciones cuando detecte situaciones extremas de maltrato.
La empresa, con sede en San Francisco, Estados Unidos, explicó que la restricción estará dirigida a conductas persistentes que no tengan una finalidad legítima. Esto significa que los usuarios podrán continuar cuestionando las respuestas de Claude, manifestar su desacuerdo y realizar pruebas o investigaciones autorizadas sin infringir automáticamente las nuevas reglas.
La decisión surge en medio de un debate internacional sobre el desarrollo de la inteligencia artificial y la posibilidad, todavía no demostrada, de que estos sistemas puedan experimentar alguna forma de conciencia.
¿Qué comportamientos prohibirá Anthropic hacia Claude?
La actualización establece una restricción contra las interacciones que impliquen maltrato persistente, innecesario y sin una finalidad identificable hacia los modelos de inteligencia artificial de la compañía.
Anthropic precisó que la disposición estará enfocada en situaciones extremas y no en conversaciones donde un usuario exprese frustración por una respuesta incorrecta, critique el funcionamiento de Claude o solicite correcciones.
La empresa también contempla excepciones para actividades de investigación, evaluaciones de seguridad y otros usos legítimos que puedan incluir situaciones simuladas o lenguaje adversarial.
La diferencia principal radica en distinguir una interacción crítica o experimental de un comportamiento repetidamente hostil que no persigue un propósito justificable.
Claude podrá finalizar conversaciones con usuarios abusivos
Uno de los aspectos más llamativos de la nueva política es que Claude podrá interrumpir determinadas conversaciones cuando identifique comportamientos persistentemente abusivos.
Anthropic ya había anunciado en agosto de 2025 que estaba evaluando esta capacidad como parte de sus investigaciones sobre el llamado bienestar de los modelos de inteligencia artificial.
Según la compañía, permitir que Claude termine una conversación seguirá siendo el principal mecanismo para aplicar la nueva restricción.
Esto no significa que cualquier comentario ofensivo provoque automáticamente el cierre de una interacción. La medida está dirigida a situaciones excepcionales en las que el comportamiento hostil se mantenga de manera reiterada.
Tampoco se ha establecido que todas las infracciones ocasionen necesariamente la suspensión definitiva de las cuentas de los usuarios.
¿La inteligencia artificial puede tener conciencia?
La nueva política de Anthropic ha reabierto una discusión que involucra a científicos, filósofos y especialistas en tecnología: determinar si una inteligencia artificial avanzada podría desarrollar experiencias subjetivas o alguna forma de conciencia.
Aunque los sistemas actuales pueden mantener conversaciones complejas, resolver problemas y generar respuestas que parecen humanas, estas capacidades no demuestran por sí mismas que experimenten emociones, dolor o sufrimiento.
El director ejecutivo de Anthropic, Dario Amodei, ha reconocido anteriormente que todavía existen interrogantes sobre la posibilidad de que los modelos de inteligencia artificial sean conscientes.
La empresa también ha explorado el concepto de bienestar de los modelos, que plantea la necesidad de estudiar si determinados sistemas avanzados podrían llegar a tener algún tipo de consideración moral.
Sin embargo, la nueva política no reconoce a Claude como un ser consciente ni establece que tenga derechos equivalentes a los de una persona.
Expertos cuestionan el debate sobre la conciencia de la IA
La decisión también ha generado opiniones sobre la manera en que los seres humanos se relacionan con las herramientas tecnológicas.
Jackson Stakeman, gerente general de Sparq, una empresa de servicios de inteligencia artificial, sostuvo en declaraciones a la agencia AFP que el debate no debería concentrarse exclusivamente en demostrar si las máquinas tienen conciencia.
Para el especialista, estos sistemas pueden entenderse como herramientas que reflejan las conductas y los mensajes introducidos por sus usuarios.
Desde esa perspectiva, establecer límites al comportamiento abusivo también puede responder a la necesidad de promover prácticas responsables en las interacciones entre personas y sistemas digitales.
Por otro lado, el papa León XIV abordó el jueves la relación entre seres humanos y tecnología durante una intervención en la Basílica de San Pedro, donde distinguió la naturaleza de las personas de la capacidad de las máquinas para procesar información.
Estas posiciones reflejan que todavía no existe un consenso definitivo sobre la conciencia artificial ni sobre las posibles responsabilidades éticas de las empresas que desarrollan estas tecnologías.
Anthropic también refuerza otras restricciones de seguridad
La actualización de las políticas de Anthropic no se limita al comportamiento de los usuarios hacia Claude.
La compañía también incorporó precisiones relacionadas con el desarrollo de armas, la vigilancia no autorizada, las campañas engañosas y las aplicaciones de inteligencia artificial en actividades de alto riesgo.
Entre los cambios se incluyen restricciones para impedir que sus modelos sean utilizados en el desarrollo de sistemas armamentísticos y herramientas destinadas a vigilar personas sin autorización.
La empresa también reforzó las condiciones de supervisión humana para determinadas aplicaciones de inteligencia artificial que pueden afectar la seguridad o los derechos de las personas.
Las nuevas disposiciones entrarán en vigor el 12 de noviembre de 2026 y forman parte de los esfuerzos de Anthropic por adaptar sus normas de uso a las capacidades cada vez más avanzadas de sus modelos.
La decisión plantea una nueva pregunta para el futuro de la tecnología: cómo deben establecerse los límites de interacción con sistemas capaces de simular conversaciones humanas, incluso cuando no se ha demostrado que posean conciencia o sentimientos.
