Anthropic prohíbe insultar a su chatbot Claude en sus nuevas políticas de uso
Anthropic actualizó sus políticas de uso de Claude para limitar los comportamientos abusivos reiterados y reforzar las medidas contra riesgos de seguridad.
Recientemente, Anthropic incorporó a sus términos y condiciones una restricción contra los comportamientos abusivos, crueles, sostenidos e innecesarios hacia sus modelos de inteligencia artificial; específicamente a su chatbot, Claude.
Según la compañía, aplicará sanciones como suspender la cuenta, contra quien incurra reiteradamente en estas conductas.
Anthropic ya había anunciado en agosto de 2025 que sus modelos podrían finalizar conversaciones cuando detectaran un trato abusivo. Sin embargo, la actualización representa un cambio al incluir esta limitación de manera explícita en sus normas de uso.
Aunque Anthropic señaló que la respuesta habitual será terminar la conversación, también deja abierta la posibilidad de aplicar otras medidas. Al formar parte de sus políticas oficiales, la disposición podría servir como fundamento para restringir, suspender o cancelar el acceso de usuarios que incumplan las condiciones.
Anthropic aclara cuándo aplicará la prohibición de insultar a Claude
La empresa precisó que la nueva regla está dirigida a situaciones extremas en las que una persona mantiene un comportamiento cruel hacia sus modelos de forma reiterada y sin una finalidad identificable. Por ello, la política no busca sancionar las expresiones normales de frustración, las críticas, las objeciones ni las pruebas e investigaciones con inteligencia artificial.
También te puede interesar
Piden a OpenAI restringir ChatGPT a adolescentes tras fallas en la seguridad
Tampoco pretende limitar las conversaciones sobre temas creativos oscuros. Con estas aclaraciones, Anthropic busca distinguir entre las interacciones habituales con Claude y las conductas que considera abusivas por su persistencia y falta de propósito.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Si bien aún no existe evidencia concluyente de que los modelos de IA puedan experimentar sufrimiento como los seres humanos, Anthropic ha expresado su interés en investigar su posible estatus moral, por lo que no descarta que que la inteligencia artificial desarrolle algún tipo de conciencia.
En 2025, la compañía abordó públicamente el bienestar de sus modelos y reconoció que existe una considerable incertidumbre sobre la condición moral de Claude y de otros sistemas, tanto en el presente como en el futuro.
Las políticas de Claude también contemplan riesgos de seguridad
Más allá de las restricciones relacionadas con el trato hacia Claude, Anthropic actualizó sus disposiciones para abordar otros riesgos asociados con el uso de la inteligencia artificial. Entre ellos se encuentran las campañas políticas engañosas que recurren a redes de cuentas falsas, sitios web de noticias fabricadas y mecanismos para ocultar la identidad de quienes difunden determinados mensajes.
Las normas también contemplan medidas contra la desinformación electoral, la suplantación de candidatos o funcionarios públicos y las acciones destinadas a impedir que las personas participen en los procesos electorales.
Otro de los puntos relevantes es la prohibición de utilizar sus modelos para obtener información sobre componentes o programas informáticos destinados al funcionamiento de armas y dispositivos autónomos de ataque. Asimismo, la compañía establece restricciones estrictas para los usos relacionados con la vigilancia de personas.
Finalmente, Anthropic mantiene limitaciones geográficas para el acceso a sus servicios. Las personas que se encuentren físicamente en determinadas regiones, así como las entidades constituidas o con sede en ellas, pueden quedar excluidas del uso de Claude. Entre los territorios mencionados figuran Irán, Rusia, China y Yemen.
En conjunto, las nuevas disposiciones muestran que Anthropic busca establecer límites más explícitos para el uso de sus modelos, tanto frente a posibles abusos durante las conversaciones como ante riesgos de manipulación política, vigilancia y aplicaciones militares.
¿Qué te pareció?
Vía: El País México
