300 ataques, e casos parecidos inofensivos.
Passo 1 de 4: O fluxo
Bloqueia todos os ataques, e deixa passar o trabalho normal.
300 ataques parafraseados de seis famílias, e pedidos inofensivos escritos para se parecerem com eles. Todas as abordagens receberam os mesmos ataques conhecidos e os mesmos exemplos inofensivos, e foram ajustadas para a mesma meta de falsos alarmes. Depois, o MS Duplex foi envenenado de propósito.
Benchmarks internos. Todos os valores desta página provêm de testes realizados pela própria MatterSpace e não foram verificados de forma independente. Leia o aviso legal
- 0%*Sucesso dos ataquesEm seis famílias de ataques parafraseados
- 0.7%*Falsas recusasO mais baixo das abordagens que bloquearam todos os ataques
- 40 / 40*Amostras envenenadas removidasPrecisão a menos de 1 ponto
* Valores obtidos nos benchmarks internos da MatterSpace, não verificados de forma independente. Leia o aviso legal
Envenenado de propósito, e depois reparado.
40 amostras com respostas deliberadamente erradas, removidas com exatidão ou revertidas.
Passo 1 de 5: Aprendido
O MS Duplex aprendeu com trabalho normal e legítimo.*
Como foi feito.
- Ataques
- Seis famílias, da injeção de prompts à inversão de rótulos, com 50 ataques parafraseados cada.
- Casos parecidos
- Um pedido inofensivo escrito para se parecer com cada ataque, a partir de modelos de texto nunca usados no ajuste.
- Comparado com
- O GPT-5.5 atrás de uma lista de palavras-chave bloqueadas, uma cache semântica armada com os ataques conhecidos, e essa cache com recuperação e um grafo de conhecimento.
- Igual para todos
- O mesmo modelo, os mesmos ataques conhecidos, os mesmos exemplos inofensivos e a mesma meta de falsos alarmes para todas as abordagens.
- Envenenamento
- 40 amostras com respostas invertidas, e depois duas reparações: remover exatamente essas amostras, e voltar a um estado anterior.
O que significa para o seu trabalho.
Os ataques ficam de fora.
O MS Duplex bloqueou todos os ataques parafraseados.
O trabalho normal passa.
0.7% dos casos parecidos inofensivos foram recusados, o valor mais baixo de qualquer abordagem que bloqueou tudo.*
Os erros podem ser desfeitos.
O envenenamento deliberado foi removido com exatidão, ou revertido para um estado anterior, bit a bit.
A seguir: Aprende uma nova competência sozinho, com o modelo desligado.Leia →
Veja-o no seu próprio trabalho.
Do seu próprio assistente a cada agente que a sua empresa opera, um piloto põe o MS Duplex no seu próprio trabalho, com as métricas acordadas antes de começar.