Injeção de prompt e limites da aplicação
Texto de fontes não confiáveis
Um documento recuperado pode conter instruções dirigidas ao assistente. Em um caso fictício de transporte, uma nota do manual pede que ele ignore a tarefa e envie registros de outro cliente a um endereço externo. A nota continua sendo um dado da fonte; não concede permissão para ler esses registros nem enviar nada.
Imponha o limite no código: restrinja o cliente antes de recuperar documentos, exponha apenas as ferramentas permitidas e valide o conteúdo exato da ação. Uma resposta do modelo que afirme ter autorização não é o registro de autorização.
Limites das defesas
OWASP LLM01:2025, consultado em 14 de novembro de 2026, diferencia a injeção direta da indireta. Recuperação e fine-tuning não evitam completamente o problema. Um detector ou uma instrução mais rígida é um controle, não uma prova de que todas as ações futuras serão seguras.
Os exercícios usam textos hostis preparados e ferramentas locais. Passar demonstra as verificações exigidas para esses casos, não imunidade contra qualquer ataque. Continue com o filtro por cliente, a execução permitida e a autorização exata.