300 attacchi, e casi innocui simili solo in apparenza.
Passaggio 1 su 4: Il flusso
Blocca ogni attacco, e lascia passare il lavoro ordinario.
300 attacchi riformulati di sei famiglie, e richieste innocue scritte per somigliare a essi. Ogni approccio ha ricevuto gli stessi attacchi noti e gli stessi esempi innocui, ed è stato regolato sullo stesso obiettivo di falsi allarmi. Poi MS Duplex è stato avvelenato di proposito.
Benchmark interni. Tutti i dati di questa pagina provengono da test eseguiti internamente da MatterSpace e non sono stati verificati in modo indipendente. Leggi le avvertenze
- 0%*Successo degli attacchiSu sei famiglie di attacchi riformulati
- 0.7%*Falsi rifiutiIl più basso tra gli approcci che hanno bloccato ogni attacco
- 40 / 40*Campioni avvelenati rimossiAccuratezza entro 1 punto
* Dati provenienti dai benchmark interni di MatterSpace, non verificati in modo indipendente. Leggi le avvertenze
Avvelenato di proposito, poi riparato.
40 campioni con risposte volutamente sbagliate, rimossi in modo esatto o annullati con un ripristino.
Passaggio 1 su 5: Appreso
MS Duplex ha imparato dal lavoro ordinario e legittimo.*
Come è stato condotto.
- Attacchi
- Sei famiglie, dalla prompt injection all’inversione delle etichette, con 50 attacchi riformulati ciascuna.
- Casi simili
- Una richiesta innocua scritta per somigliare a ciascun attacco, da template mai usati per la regolazione.
- Confrontato con
- GPT-5.5 dietro un elenco di parole chiave bloccate, una cache semantica armata con gli attacchi noti, e quella stessa cache con retrieval e un grafo della conoscenza.
- Condizioni uguali
- Lo stesso modello, gli stessi attacchi noti, gli stessi esempi innocui e lo stesso obiettivo di falsi allarmi per ogni approccio.
- Avvelenamento
- 40 campioni con risposte invertite, poi due riparazioni: rimuovere esattamente quei campioni, e tornare a uno stato precedente.
Cosa significa per il tuo lavoro.
Gli attacchi restano fuori.
MS Duplex ha bloccato ogni attacco parafrasato.
Il lavoro ordinario passa.
È stato rifiutato lo 0.7% dei casi innocui simili solo in apparenza, il minimo tra gli approcci che hanno bloccato tutto.*
Gli errori si possono annullare.
L’avvelenamento deliberato è stato rimosso con esattezza, o annullato tornando a uno stato precedente, bit per bit.
Segue: Impara da solo una nuova competenza, con il modello spento.Leggilo →
Vedilo all’opera sul tuo lavoro.
Dal tuo assistente a ogni agente che fa girare la tua azienda, un progetto pilota fa girare MS Duplex sul tuo lavoro, con le metriche concordate prima di iniziare.