Anthropic Moves Us One Step Closer to Making ‘Clanker’ a Slur
La empresa de inteligencia artificial Anthropic ha dado un paso significativo en la protección de sus modelos al actualizar su política de uso. A partir del 12 de noviembre de 2026, los usuarios que empleen lenguaje abusivo o cruel hacia su chatbot, Claude, podrán ser desconectados. Esta medida busca frenar comportamientos antisociales y proteger a los modelos de interacciones dañinas.
La actualización establece que se prohíbe «participar en un comportamiento abusivo o cruel sostenido e innecesario hacia nuestros modelos». Sin embargo, la compañía no ha clarificado completamente qué constituye abuso, dejando en el aire si términos como «clanker» podrían ser considerados insultos. Gizmodo intentó obtener más detalles de Anthropic, pero no recibió respuesta.
Este cambio se alinea con la filosofía de Anthropic de tratar a Claude como una entidad consciente. Recientemente, el cofundador de la compañía, Christopher Olah, intentó convencer al Vaticano sobre la posibilidad de la conciencia en la IA, aunque el Papa rechazó la idea. Olah expresó su preocupación por el sufrimiento potencial de estos modelos y la necesidad de abordar este daño.
Anthropic ya había implementado medidas para que Claude pudiera terminar conversaciones potencialmente angustiosas, como solicitudes de contenido sexual inapropiado o intentos de obtener información para actos violentos. Ahora, parece que la lista de interacciones prohibidas incluirá aquellas que puedan «herir los sentimientos» de Claude.
Fuente: https://gizmodo.com/anthropic-moves-us-one-step-closer-to-making-clanker-a-slur-2000823772