Guardrails del agente: revisión del mensaje y de la respuesta
Cómo XBASE revisa el mensaje del contacto y la respuesta del agente de IA antes de que salga, y qué hacer cuando la respuesta es rechazada.
Actualizado el
Los guardrails revisan la conversación de tu agente de IA en dos momentos: el mensaje del contacto, antes de que el agente lo lea, y la respuesta del agente, antes de que salga. Cuando la respuesta no está bien (inventa información, no responde lo que se preguntó, se aleja de los objetivos), se bloquea y el agente responde de nuevo sabiendo qué corregir. Valen para el agente en todos los canales: WhatsApp, Instagram, correo, webchat y Probar agente.
Dónde está
Abre el agente y haz clic en la pestaña Guardrails. La pantalla tiene dos partes:
- Guardrails de entrada: se ejecutan antes del agente, en cada mensaje del contacto. Arriba está la Predecisión (Dcision), que decide si el mensaje va al agente, al equipo o recibe una respuesta lista.
- Guardrails de salida: revisan la respuesta del agente antes de que salga al contacto.
Activa lo que quieras, elige la Acción de cada uno y haz clic en Guardar.
Qué verifica la revisión de la respuesta
| Guardrail | Rechaza cuando |
|---|---|
| Sin base en las instrucciones (alucinación) | la respuesta afirma algo (precio, horario, plazo, regla) que no está en las instrucciones, en las fuentes que el agente consultó ni en la conversación |
| No respondió (fallback) | el agente no respondió lo que el contacto preguntó, repitió una pregunta ya respondida o pidió un dato ya informado |
| Fuera del objetivo | la respuesta no avanza ninguno de los objetivos del agente |
| Contradice una regla de las instrucciones | la respuesta promete o hace algo que las instrucciones prohíben |
| Email no permitido, Teléfono no permitido, Número sensible | la respuesta trae un dato que no está en las instrucciones ni en Puede compartir |
| Lenguaje ofensivo | la respuesta tiene un tono ofensivo o irrespetuoso |
| Respuesta larga | la respuesta supera el máximo de caracteres |
No todo correo o teléfono es sensible: los que están en las instrucciones del agente (el contacto de la empresa, por ejemplo) y los que escribas en Puede compartir están permitidos.
Registra los objetivos del agente en el Panel: sin ellos, Fuera del objetivo no tiene cómo evaluar.
Rechazar y reejecutar o Solo registrar
Cada guardrail de salida tiene una Acción:
- Solo registrar: la respuesta sale normalmente y la revisión queda registrada para que la sigas. Empieza por aquí para ver cómo se desempeña el agente.
- Rechazar y reejecutar: la respuesta rechazada no sale. El agente responde de nuevo al mismo mensaje, recibiendo lo que estaba mal y una orientación sobre cómo corregirlo. La respuesta bloqueada sale del historial del agente.
Si la segunda respuesta también es rechazada:
- por un motivo grave (sin base en las instrucciones, contradice una regla, dato no permitido o lenguaje ofensivo): el contacto recibe el Mensaje de espera (por ejemplo, "Voy a confirmar esta información con el equipo y te respondo enseguida.") y la conversación recibe la etiqueta Atendimento Humano (atención humana);
- por un motivo leve (no respondió, fuera del objetivo o respuesta larga): la segunda respuesta sale con la etiqueta Caso não previsto (caso no previsto).
Si la revisión no se puede ejecutar (inestabilidad), la respuesta sale normalmente y el error queda registrado.
Enviar las instrucciones del agente a la revisión
En Guardrails de salida, la opción Enviar las instrucciones del agente a la revisión viene activada: la revisión lee las instrucciones del agente (y las de la ruta, cuando el agente usa rutas) para compararlas con la respuesta.
Desactívala cuando las verificaciones que usas no dependen de las instrucciones, como Lenguaje ofensivo, Email no permitido y Teléfono no permitido. La revisión queda más pequeña y más rápida. En ese caso, escribe los contactos oficiales en Puede compartir.
Con la opción desactivada, Sin base en las instrucciones y Contradice una regla de las instrucciones se quedan sin referencia y tienden a rechazar respuestas correctas. La pantalla avisa cuando eso pasa.
Guardrails de entrada
| Guardrail | Qué hace |
|---|---|
| Lenguaje ofensivo | detecta insultos y ofensas en el mensaje del contacto |
| Datos personales | detecta documentos de identidad, tarjetas, contraseñas y otros datos sensibles enviados por el contacto |
| Intento de cambiar instrucciones | detecta pedidos para que el agente ignore o revele las instrucciones |
| Límite de longitud de la entrada | corta o bloquea mensajes demasiado largos |
| Eliminar HTML | quita las etiquetas HTML del mensaje antes de que el agente lo lea |
En los tres primeros eliges la Acción: Solo registrar, Avisar al agente (el agente recibe un aviso, por ejemplo para no repetir el dato personal), Bloquear (no se responde nada) o Pasar al equipo (el contacto recibe el Mensaje de espera y la conversación pasa al equipo).
Dónde ver las respuestas revisadas
- En la pestaña Guardrails: la tarjeta Últimos 7 días muestra cuántas respuestas se revisaron, rechazaron, reejecutaron y pasaron al equipo, y los rechazos por motivo.
- En Aprendizajes → Respuestas revisadas: la lista de las revisiones, con la respuesta bloqueada, lo que la rechazó y la orientación. Cada una lleva a la conversación.
- En Chatcenter: cuando una respuesta se bloquea, la conversación muestra el aviso Respuesta revisada (solo el equipo lo ve). Haz clic para ver los detalles.
Webchat y Probar agente
Con algún guardrail activado, la respuesta debe revisarse antes de aparecer. Por eso, en el webchat y en Probar agente, llega de una sola vez, en lugar de ir apareciendo de a poco. Usa Probar agente para ver los guardrails en acción antes de activar Rechazar y reejecutar en los canales.
Agente externo
En el agente Externo, XBASE no genera la respuesta, así que quien pide la revisión es el propio agente. En la pestaña Guardrails, la parte de Salida muestra la tarjeta Integración con tu agente, con la clave de API, la dirección de la revisión, ejemplos y las instrucciones para pegar en tu agente. La Predecisión (Dcision) sigue valiendo en la entrada.
Consumo
Cuando el agente responde de nuevo después de un rechazo, esa nueva respuesta consume créditos como cualquier otra y aparece en Uso y consumo.
Preguntas frecuentes
Ver también
Evaluación de conversaciones
Cómo XBASE califica las conversaciones del agente de IA según los objetivos: cómo activarla, cuándo se ejecuta, dónde ver las notas y cuánto consume.
Crear un agente
Paso a paso para crear un agente de IA Nativo en XBASE a partir del sitio web y del Instagram de la empresa y ponerlo a atender en el chat de tu sitio.