Anthropic, la compañía detrás del asistente de inteligencia artificial Claude, actualizó sus condiciones de uso e incorporó una prohibición contra los comportamientos abusivos o crueles, sostenidos e innecesarios hacia sus modelos.
La restricción forma parte de una revisión más amplia de las reglas de uso de Claude, que también introduce cambios sobre la manipulación electoral, las campañas engañosas, el desarrollo de armas y la vigilancia de personas.
La empresa precisó que la medida está dirigida a situaciones extremas, en las que los usuarios actúan repetidamente de manera cruel sin un propósito discernible. No alcanza a quienes expresan frustración, cuestionan las respuestas del sistema, desarrollan contenidos creativos oscuros o realizan pruebas e investigaciones sobre el funcionamiento de la inteligencia artificial.
Qué plantea Anthropic sobre el trato a Claude
La actualización de la política se vincula con una función que Anthropic había incorporado previamente en Claude Opus 4 y Claude Opus 4.1. Esos modelos pueden finalizar determinadas conversaciones en Claude.ai y Claude Code ante interacciones abusivas persistentes, después de intentar reconducir el intercambio.
La compañía explicó que esta capacidad surgió, en parte, de sus investigaciones exploratorias sobre el posible bienestar de los sistemas de inteligencia artificial. Sin embargo, también reconoció que existe una gran incertidumbre sobre el posible estatus moral de Claude y otros modelos de lenguaje.
La decisión no supone que Anthropic haya confirmado que sus sistemas experimentan sufrimiento o tienen conciencia. La empresa mantiene abierta esa cuestión y distingue entre el trato abusivo persistente y los usos habituales de sus herramientas.
Las otras restricciones que incorporó la empresa
La nueva versión de la política también modifica las reglas vinculadas con el uso de Claude en ámbitos sensibles.
En materia electoral, prohíbe utilizar el asistente para difundir información falsa sobre candidatos o procedimientos de votación, suplantar a funcionarios electorales o desalentar la participación ciudadana.
A la vez, elimina una prohibición general sobre la segmentación personalizada de votantes, para permitir actividades legítimas que no recurran a prácticas engañosas.
Anthropic también incorporó una sección específica contra las campañas engañosas y la actividad artificial, como las operaciones que utilizan cuentas falsas o sitios de noticias inventados para ocultar el origen de los mensajes y amplificar su difusión.
En el área de defensa y seguridad, la política precisa las restricciones sobre el desarrollo de software para guiar y controlar armas, así como sobre el armado de drones y otros vehículos autónomos.
También prohíbe determinados usos de Claude para vigilar personas sin su consentimiento o para decidir a quién investigar, detener o acusar.
Para los sistemas conectados a equipos físicos autónomos capaces de provocar lesiones, la empresa establece la necesidad de contar con supervisión humana y con la posibilidad de detener su funcionamiento.
Cuándo entrarán en vigor las nuevas reglas
La actualización fue publicada el 8 de octubre y comenzará a regir el 12 de noviembre de 2026. Según Anthropic, los cambios buscan precisar los usos prohibidos y distinguirlos de actividades legítimas, como el periodismo, la investigación y la moderación de contenidos.
