Guardrails (Barandillas de seguridad)

Los filtros, restricciones y políticas que los desarrolladores implementan en los modelos de IA para evitar respuestas dañinas, ilegales o inapropiadas. Cada empresa de IA tiene sus propios guardrails.

Como los límites de velocidad y las líneas de carretera: no te impiden conducir, pero te mantienen dentro de un rango seguro. Algunos conductores los encuentran restrictivos; otros agradecen la seguridad.

Si pides a Claude que te ayude a engañar a alguien, los guardrails de Anthropic hacen que se niegue. Pero si pides ayuda para redactar una negativa difícil a un proveedor, funciona sin problemas.