En resumen
- Una alucinación es una respuesta falsa que un modelo de lenguaje da con total seguridad.
- En atención al cliente, el riesgo no es que la IA hable mal, sino que prometa un hueco o un precio que no existe.
- Nuestra regla: el modelo conversa, el código decide. Los datos salen siempre de tus sistemas mediante herramientas.
- Ninguna cita se escribe sin un «sí» explícito del cliente en un mensaje posterior.
- Los mensajes de confirmación los redacta el código, no el modelo.
Una alucinación es una respuesta inventada que un modelo de lenguaje da con total seguridad. Si le preguntas a un chat genérico por el horario de un negocio que no conoce, es bastante probable que te dé uno. Plausible, bien redactado y falso.
En una conversación casual no pasa nada. En un negocio, sí. Un agente que confirma una cita a las 17:00 cuando a esa hora no hay nadie, o que dice que una limpieza cuesta 30 € cuando cuesta 60, genera un problema real.
Por eso diseñamos nuestros agentes con una idea muy simple: el modelo conversa y el código decide.
Las seis reglas
Estas reglas están en el código de nuestro producto y se comprueban con pruebas automáticas.
1. El modelo nunca es fuente de datos
Huecos libres, citas, precios, horarios, direcciones: todo sale de tus sistemas mediante herramientas (funciones que el agente puede llamar). Si el agente quiere ofrecer un hueco, primero tiene que pedirlo a la herramienta de disponibilidad. Si la herramienta no devuelve nada, no hay hueco.
2. Las herramientas no aceptan la identidad del cliente
El agente no puede pedir «las citas de este número de teléfono». La identidad sale del propio canal (el número desde el que escribe el cliente), no de lo que diga la conversación. Así nadie puede pedir las citas de otra persona escribiendo su teléfono.
3. Confirmación en dos pasos
Nada se escribe en tu agenda sin una acción pendiente que el cliente confirma en un mensaje posterior. El agente propone; el cliente dice «sí»; entonces, y solo entonces, el código ejecuta.
4. Los mensajes importantes los escribe el código
El texto de «Cita confirmada» con la fecha, la hora y el servicio no lo redacta el modelo. Lo genera el código a partir de los datos reales. Así nunca habrá un desajuste entre lo que dice el mensaje y lo que hay en la agenda.
5. Ante la duda, una persona
Urgencias, quejas, temas delicados o cualquier fallo técnico terminan en derivación: el agente avisa a tu equipo con un resumen y le dice al cliente que alguien le contactará.
6. Pruebas de seguridad antes de cada cambio
Cada modificación del agente pasa una batería de escenarios: intentos de que revele datos de otras personas, preguntas médicas, peticiones de precios que no existen, instrucciones escondidas en un mensaje. Los escenarios de seguridad tienen que pasar todos.
Qué gana tu negocio
| Riesgo | Cómo lo evitamos |
|---|---|
| Ofrecer un hueco que no existe | Los huecos solo vienen de la herramienta de disponibilidad |
| Dar un precio inventado | Los precios vienen de una base de conocimiento cerrada |
| Reservar sin querer | Confirmación explícita en un mensaje posterior |
| Mensaje de confirmación con datos erróneos | Lo redacta el código, no el modelo |
| Filtrar datos de otro cliente | La identidad sale del canal, no de la conversación |
| Quedarse sin respuesta si falla la IA | Derivación automática a una persona |
Y la conversación, ¿no se vuelve rígida?
No. El modelo sigue entendiendo frases libres, faltas de ortografía, cambios de idioma y peticiones raras. Lo que no puede hacer es inventarse los hechos. Es la misma diferencia que hay entre un buen recepcionista y uno que contesta «sí, sí» a todo sin mirar la agenda.
Si quieres ver cómo se comporta con tus casos difíciles, mándanos tus preguntas trampa. Nos gusta el reto.