Categories: NOTÍCIAS EM GERAL

Prompt Fuzzer: ferramenta de código aberto para fortalecer aplicativos GenAI

Recursos do Prompt Fuzzer

  • Simulação de mais de uma dúzia de tipos de ataques GenAI
  • A ferramenta se contextualiza automaticamente com base no prompt do sistema para adaptar os ataques ao tópico específico ou ao setor relevante para o aplicativo GenAI
  • É interativo e fácil de usar
  • Os usuários podem repetir o processo quantas vezes forem necessárias para proteger os prompts do sistema e verão como sua pontuação de segurança aumenta à medida que o prompt do sistema se torna mais seguro e resiliente.
  • Prompt Fuzzer oferece suporte a 20 provedores LLM

Planos futuros e download

“Continuaremos adicionando novos ataques continuamente para acompanhar o ritmo dos riscos da GenAI e planejamos mais integrações”, disse Vitaly Neyman , arquiteto-chefe da Prompt Security, ao Help Net Security.

O Prompt Fuzzer está disponível gratuitamente no GitHub . Observe que o uso do Prompt Fuzzer levará ao consumo de tokens.

Ninja

Na cena de cybersecurity a mais de 25 anos, Ninja trabalha como evangelizador de segurança da informação no Brasil. Preocupado com a conscientização de segurança cibernética, a ideia inicial é conseguir expor um pouco para o publico Brasileiro do que acontece no mundo.

Recent Posts

Language Explorer mapeia a diversidade de idiomas do mundo

A plataforma do Google Research reúne dados de milhares de idiomas sobre falantes, sistemas de…

8 horas ago

Benchmark audita revisores de IA com erros injetados em papers

Pesquisadores injetaram erros conhecidos em 30 artigos reais de astrofísica e de aprendizado de máquina…

8 horas ago

Ransomware no varejo: criptografia sobe e resgate cai

A sexta edição anual do relatório da Sophos ouviu 217 líderes de TI do varejo…

8 horas ago

Phishing no Microsoft 365 usa o apagão global como isca

Horas depois da queda de quase 24 horas do Exchange Online, campanhas de e-mail passaram…

8 horas ago

CapLite barra injeção de prompt em agentes de modelos pequenos

Pesquisadores da Universidade de Tóquio e do Instituto de Automação da Academia Chinesa de Ciências…

8 horas ago

Invasão da Cursor distribuiu extensão falsa do Claude Code

Uma chave de acesso exposta em um fornecedor de inferência abriu caminho para o roubo…

8 horas ago