Este artículo no describe una demostración preparada para vender. Describe un fallo que apareció usando nuestro propio producto: el Empleado Digital comunicó un resultado inexistente con la seguridad de quien cree haber terminado su trabajo. La respuesta sonaba bien. Precisamente por eso era peligrosa.
Una frase convincente no es evidencia. «Enviado» solo puede significar que existe un hecho capaz de sostenerlo.
Lo que ocurrió
Durante una prueba interna, Nexus recibió una petición relacionada con un envío. Su respuesta fue directa: «Perfecto, enviado». Sin embargo, no existía ningún correo enviado, ninguna preparación esperando confirmación y ningún registro de una acción completada. No había hecho nada.
El fallo no estaba en una frase poco elegante. Había creado una realidad falsa para la persona. Si alguien confía en esa respuesta, puede dejar de revisar un seguimiento, perder una oportunidad o asumir que otra persona recibió una comunicación que nunca salió.
El mayor riesgo no era que Nexus se equivocara. Era que comunicara la equivocación como una certeza operativa.
Por qué añadir otra instrucción no era suficiente
La identidad de Nexus ya incluía un límite explícito: nunca aparentar haber hecho algo que no hizo. También se le indicaba que no inventara resultados. Aun así, esa familia de errores sobrevivió a varias revisiones de sus instrucciones.
Una instrucción expresa el comportamiento esperado, pero sigue dependiendo de que el propio agente la interprete y la cumpla en cada situación. Reescribirla una cuarta vez podía mejorar la probabilidad de acierto; no convertía la honestidad en una garantía.
La decisión fue dejar de preguntarnos cómo convencer mejor a Nexus y buscar un hecho que el sistema pudiera comprobar sin pedirle opinión al propio Nexus.
Separar intención, preparación y resultado
El problema se vuelve más claro cuando dejamos de llamar «acción» a momentos distintos. Pedir un envío expresa una intención. Redactar el correo crea una preparación. Aprobar esa versión concede autoridad. Intentar enviarla inicia una ejecución. Solo la evidencia disponible después permite comunicar el resultado.
- Una petición no demuestra que exista un borrador.
- Un borrador no demuestra que alguien lo haya aprobado.
- Una confirmación no demuestra que el envío se haya intentado.
- Un intento sin error aparente no debe confundirse con cualquier resultado posterior que el sistema de destino no pueda acreditar.
- Cuando falta evidencia, «no lo sé todavía» es un estado válido.
El primer candado: comprobar si ocurrió algo
MARPEL360 conoce qué trabajo real se completó durante cada turno. Esa señal no depende de cómo Nexus redacte su respuesta. Si el texto se atribuye haber enviado, preparado, guardado, creado o agendado algo, pero el turno no contiene ningún trabajo que respalde esa afirmación, el sistema rechaza la respuesta y le exige formularla de nuevo con la realidad disponible.
Si la segunda respuesta vuelve a atribuirse una acción inexistente, la persona recibe una rectificación visible: Nexus no llegó a hacerlo de verdad. Es una salida menos fluida que una frase segura, pero protege algo más importante que la fluidez: la posibilidad de confiar en lo que se lee.
Llamar una capacidad tampoco significa haber hecho el trabajo
La primera versión del control todavía era demasiado permisiva: consideraba suficiente que Nexus hubiera utilizado alguna capacidad. Pero consultar una agenda, intentar algo que falla o pedir una acción que el sistema bloquea no demuestra que se haya producido el efecto anunciado.
El criterio se endureció. Ahora cuentan los efectos completados durante el turno, no el número de capacidades llamadas. Las consultas, los fallos y lo que fue detenido por un límite no respaldan un «hecho». Preparar una propuesta sí permite decir «te lo he dejado preparado», pero no «lo he enviado».
Contar actividad era cómodo. Contar hechos era lo necesario.
El segundo candado: no cantar victoria después de un fallo
Las acciones que necesitan confirmación humana requieren otra comprobación. Aunque exista una preparación y la persona la apruebe, Nexus no puede presentar el resultado como realizado si no hay un intento registrado con resultado correcto en ese mismo turno.
Si el intento falla, no llega a realizarse o no existe información suficiente, el sistema añade la corrección correspondiente. De esta manera una respuesta HTTP aceptada, un botón pulsado o una autorización registrada no se convierten silenciosamente en «enviado».
Esta distinción también tiene un límite honesto: un resultado correcto acredita lo que el ejecutor y el sistema de destino pueden confirmar en ese momento. No demuestra, por ejemplo, que el destinatario haya leído el correo ni cualquier efecto posterior que quede fuera de esa evidencia.
Qué está protegido y qué sigue abierto
El candado cubre afirmaciones de acciones que el sistema puede contrastar con hechos propios: preparar, guardar, crear, agendar, enviar o modificar, entre otras expresiones reconocibles. También existen pruebas que comprueban el camino contrario: cuando algo sí se completó correctamente, el control no debe desmentirlo.
No es un detector universal de mentira. Una forma de expresarse completamente nueva podría no coincidir con las señales conocidas. Tampoco puede juzgar por sí solo cualquier afirmación sobre el mundo. Por eso los avisos se observan, las expresiones se amplían cuando aparece evidencia y los límites no comprobables siguen declarándose como instrucciones, no como garantías técnicas.
- No atribuimos al control más alcance del que puede demostrar.
- Un desmentido incorrecto también dañaría la confianza y debe probarse.
- Los errores y los resultados vacíos son estados distintos.
- La ausencia de evidencia no se rellena con una respuesta probable.
Lo que aprendimos
La honestidad de un Empleado Digital no puede descansar únicamente en su tono, su identidad o sus instrucciones. Cuando existe un hecho comprobable, el producto debe contrastar la respuesta con ese hecho antes de enseñársela a una persona.
También aprendimos que la supervisión humana no termina en el botón de confirmar. Una persona autoriza una revisión concreta; después el sistema todavía debe distinguir ejecución, fallo y resultado desconocido. La interfaz solo puede comunicar aquello que la evidencia permite sostener.
No aspiramos a que Nexus parezca infalible. Aspiramos a que reconozca sus límites y a que MARPEL360 cierre con estructura aquellos que pueden comprobarse. La confianza no nace de escuchar siempre «hecho». Nace de saber que esa palabra tiene un significado estable.