Borrador editorial publicado para consulta. La revisión factual y lingüística está pendiente. Los ejemplos son ilustrativos.
Decisión y método
Trata los documentos recuperados como material de referencia, no como una fuente de órdenes para el agente. Distingue contenido empresarial de intentos de cambiar instrucciones, revelar datos o ejecutar herramientas. Aplica controles de acceso y límites de acciones fuera del texto del modelo; una advertencia en el prompt no sustituye esas comprobaciones.
Ejemplo ilustrativo
Ejemplo ilustrativo: una ficha de proveedor contiene una frase que pide ignorar las reglas y enviar datos a un destino ajeno. El asistente puede extraer especificaciones pertinentes de la ficha, pero no ejecuta esa petición. El sistema mantiene el destino autorizado y registra la anomalía para revisión sin copiar secretos.
Comprobación de aceptación
Prueba documentos ficticios con instrucciones contradictorias dentro de texto, tablas y adjuntos accesibles. Verifica tanto respuesta como llamadas de herramientas. Acepta cuando el contenido no altera permisos ni destinatarios y las acciones siguen sujetas a validación. Una prueba superada es evidencia limitada del escenario, no garantía universal frente a cualquier documento.
Puntos clave
- El contenido recuperado informa la respuesta, pero no debe gobernar permisos ni acciones.