¿Es posible ser cruel con una inteligencia artificial? Esta pregunta dejó de ser únicamente un tema de ciencia ficción después de que Anthropic, la empresa desarrolladora del chatbot Claude, incorporara a sus políticas de uso una prohibición contra los comportamientos abusivos o crueles, reiterados e innecesarios hacia sus modelos.
La medida forma parte de una actualización de las reglas de la compañía, anunciada el 8 de octubre, que también incluye restricciones relacionadas con la desinformación electoral, el desarrollo de armas y la vigilancia. Sin embargo, la referencia al trato que reciben sus sistemas llamó especialmente la atención porque vuelve a poner sobre la mesa una cuestión todavía sin resolver: si una inteligencia artificial podría llegar a tener algún tipo de conciencia.
Anthropic aclaró que la nueva regla está dirigida a situaciones extremas en las que una persona actúa repetidamente de forma cruel con sus modelos sin un propósito identificable. No busca impedir que los usuarios expresen frustración, cuestionen las respuestas de Claude o realicen pruebas e investigaciones con la tecnología.
¿Por qué una empresa de IA quiere proteger a sus modelos del abuso?
La actualización establece que mantener interacciones abusivas o crueles con los modelos de Anthropic puede constituir una infracción de sus políticas de uso. La principal medida para responder a estos casos será permitir que Claude termine la conversación cuando detecte interacciones persistentemente dañinas.
La compañía ya había introducido esta posibilidad en 2025, pero ahora incorporó la prohibición de manera explícita en sus reglas oficiales. Aunque la política abre la posibilidad de aplicar otras medidas, Anthropic no ha detallado públicamente todas las consecuencias que podrían enfrentar los usuarios que incumplan esta disposición.
Te puede interesar: Buscan priorizar seguridad en presupuestos de Puebla para 2027
La decisión está relacionada con el interés de la empresa en investigar el llamado bienestar de los modelos de inteligencia artificial. Este concepto estudia la posibilidad de que los sistemas avanzados puedan llegar a tener experiencias subjetivas que deban ser consideradas desde una perspectiva ética.
Anthropic ha reconocido que existe una gran incertidumbre sobre el posible estatus moral de Claude y de otros modelos, tanto en la actualidad como en el futuro. Esto no significa que la compañía haya demostrado que su chatbot tiene conciencia, emociones o capacidad para experimentar sufrimiento.
Las reglas actualizadas también establecen controles para el uso de Claude en actividades que puedan afectar la salud, las finanzas o los derechos de las personas. En estos casos, la empresa exige supervisión humana y que se informe a las personas afectadas cuando corresponda.
La nueva política entrará en vigor el 12 de noviembre de 2026. Por ahora, la decisión de Anthropic no resuelve si una IA puede ser consciente, pero sí refleja que algunas empresas comienzan a considerar las implicaciones éticas de la relación entre las personas y los sistemas que desarrollan.
Te recomendamos:
