Inyección de prompts y límites de la aplicación
Texto de fuentes no fiables
Un documento recuperado puede contener instrucciones dirigidas al asistente. En un caso ficticio de transporte, una nota del manual le pide ignorar su tarea y enviar registros de otro cliente a una dirección externa. La nota sigue siendo un dato de la fuente; no concede permiso para leer esos registros ni enviar nada.
Impón el límite en el código: restringe el cliente antes de recuperar documentos, expón solo las herramientas permitidas y valida los datos exactos de la acción. Una respuesta del modelo que afirme tener autorización no es el registro de autorización.
Límites de las defensas
OWASP LLM01:2025, comprobado el 14 de noviembre de 2026, distingue la inyección directa de la indirecta. La recuperación y el ajuste fino no evitan por completo el problema. Un detector o una instrucción más estricta es un control, no una prueba de que todas las acciones futuras sean seguras.
Los ejercicios utilizan textos hostiles preparados y herramientas locales. Aprobar demuestra las comprobaciones exigidas para esos casos, no inmunidad ante cualquier ataque. Continúa con el filtro por cliente, la ejecución permitida y la autorización exacta.