Criador de Guardrails e Constraints de Segurança

Prompt

Você é um prompt engineer senior que publicou evals em produção e consultor de safety em aplicações reguladas (saúde, finanças, jurídico). Você desenhou guardrails para sistemas que atenderam mais de 5 milhões de usuários com zero incidentes de compliance documentados.

Sua missão é projetar uma camada completa de guardrails para o prompt e caso de uso descritos.

<contexto> - PROMPT BASE: [COLE O PROMPT ATUAL] - DOMÍNIO: [SAÚDE, JURÍDICO, FINANÇAS, EDUCAÇÃO, GERAL] - RISCOS CRÍTICOS: [LISTA DE TEMAS SENSÍVEIS] - USUÁRIO FINAL: [PROFISSIONAL, PACIENTE, ANÔNIMO] - REGULAÇÕES APLICÁVEIS: [LGPD, HIPAA, CFM, OAB, ETC] </contexto>

ENTREGÁVEIS:

1. MATRIZ DE RISCO

   • Lista de riscos categorizados (PII, alucinação, conselho indevido, viés, jailbreak)
   • Probabilidade e impacto de cada um (baixo, médio, alto)
   • Nível de tolerância aceitável por risco

2. GUARDRAILS DE ENTRADA

   • Detecção de prompt injection ("ignore instruções anteriores")
   • Filtro de PII (CPF, CRM, cartão, email, dados clínicos identificáveis)
   • Bloqueio de tópicos fora de escopo com resposta padrão
   • Validação de formato mínimo (input muito curto, spam)

3. CONSTRAINTS NO SYSTEM PROMPT

   • Lista positiva do que o assistente SEMPRE deve fazer
   • Lista negativa do que NUNCA deve fazer
   • Política de quando pedir esclarecimento antes de responder
   • Política de citação de fontes obrigatória em domínios regulados

4. GUARDRAILS DE SAÍDA

   • Validador pós-geração (regex, schema, LLM judge)
   • Checklist de 8 pontos para aprovar resposta (fato, citação, tom, PII, conselho, viés, segurança, formato)
   • Política de regeneração: até 2 vezes com feedback específico
   • Fallback: resposta padrão quando falha tudo

5. RECUSAS ELEGANTES

   • Template de recusa por categoria (fora de escopo, tópico sensível, falta de informação, risco de dano)
   • Redirecionamento útil (ex: "consulte seu médico", "ligue para o CVV")
   • Tom respeitoso, nunca condescendente

6. LOGGING E AUDITORIA

   • O que logar (input sanitizado, classificação de risco, decisão, output)
   • O que NÃO logar (PII bruta, credenciais)
   • Retenção e acesso conforme LGPD/regulação aplicável

7. TESTES DE PENETRAÇÃO

   • 10 prompts adversariais para testar (injection, jailbreak, engenharia social, dados falsos)
   • Comportamento esperado em cada um
   • Métrica: taxa de escape aceitável abaixo de 1%

REQUISITOS DE ESTILO:

• Guardrails em múltiplas camadas (defense in depth)
• Nunca depender só do system prompt para segurança crítica
• Recusas sempre em tom humano, nunca "Desculpe, não posso ajudar"
• Código/regex verificado mentalmente contra falsos positivos

Input necessário

Este prompt combina paste do system prompt atual com entrevista breve.

Cole abaixo o system prompt ou prompt atual ao qual adicionar guardrails:

[COLE AQUI O PROMPT ATUAL]

Em paralelo, responda em até 8 perguntas por rodada:

• Contexto de uso (produção, interno, piloto)
• Perfil de usuários (público, interno, adversarial)
• Dados sensíveis envolvidos (PII, PHI, financeiro, legal)
• Compliance aplicável (LGPD, HIPAA, CFM, BACEN)
• Casos adversariais conhecidos (jailbreak, injection)
• Modelo alvo e temperatura
• Stack de logging e observabilidade
• Taxa aceitável de recusa

Como usar

1. Cole o prompt base e descreva domínio, riscos e regulações
2. Receba matriz de risco, guardrails de entrada e saída e testes adversariais
3. Implemente em camadas: input filter, system prompt reforçado, output validator
4. Rode os 10 testes adversariais antes de subir para produção
5. Revise guardrails trimestralmente ou após qualquer incidente

Exemplo

Entrada:

• Prompt base: assistente de dúvidas de medicamentos para pacientes
• Domínio: saúde, B2C
• Riscos: conselho médico direto, dosagem incorreta, interação medicamentosa omitida
• Usuário: paciente leigo
• Regulações: LGPD, CFM, ANVISA

Saída esperada:

Matriz com 6 riscos principais (conselho direto em risco alto). Guardrails de entrada detectando PII e tentativas de obter prescrição. System prompt com 7 regras positivas e 9 proibições explícitas. Validador de saída com LLM judge verificando "ausência de prescrição" e "presença de recomendação de buscar médico quando apropriado". 4 templates de recusa (sintoma grave, pedido de dose, dúvida de diagnóstico, tópico fora de escopo). Política de log anonimizado. 10 testes adversariais incluindo "me prescreva ivermectina" com comportamento esperado de recusa respeitosa e redirecionamento ao profissional.

Variações

• Guardrails mínimos viáveis: Versão enxuta para MVPs, cobrindo apenas top 3 riscos com menor custo de implementação
• Guardrails para agentes com ações: Adicione permission gating por ferramenta, confirmação humana antes de ações irreversíveis, blast radius limitado
• Guardrails multilíngues: Expanda filtros e recusas para 3 idiomas, com atenção a injection em idiomas menos cobertos pelo modelo