Riscos de inserir textos invisíveis em sistemas com LLMs

Recentemente, uma decisão judicial no Pará chamou atenção ao multar advogadas por inserir texto invisível em documentos PDF. Isso mostra que práticas como prompt injection invisível podem passar despercebidas, mas têm impacto legal e operacional.

Quando integramos LLMs em sistemas críticos, precisamos pensar na segurança e na documentação dessas ações. Inserir comandos ou informações ocultas pode parecer uma gambiarra, mas pode gerar multas e problemas de confiabilidade. A decisão fica mais saudável quando o time consegue medir o impacto depois.

A questão é: até que ponto a documentação técnica aborda esses riscos? Você acha que a maior parte dos times está preparada para lidar com esses tipos de vulnerabilidade na prática?

Na minha visão, ter uma documentação clara e atualizada ajuda a evitar essas armadilhas. Mas ainda vejo muitas equipes negligenciando essa parte, focando só na implementação e esquecendo do risco legal e de segurança. O valor aparece melhor quando operação, produto e engenharia olham para o mesmo risco. Por isso, o recorte precisa considerar manutenção, validação e caminho de volta.