300 ataków i nieszkodliwe, łudząco podobne zapytania.
Krok 1 z 4: Strumień
Blokuje każdy atak i przepuszcza zwykłą pracę.
300 przeformułowanych ataków z sześciu rodzin oraz nieszkodliwe zapytania napisane tak, by je przypominały. Każde podejście dostało te same znane ataki i te same nieszkodliwe przykłady i zostało ustawione na ten sam docelowy poziom fałszywych alarmów. Potem MS Duplex celowo zatruto.
Wewnętrzne benchmarki. Wszystkie liczby na tej stronie pochodzą z testów, które MatterSpace przeprowadził samodzielnie, i nie zostały niezależnie zweryfikowane. Przeczytaj zastrzeżenia
- 0%*Skuteczność atakówW sześciu rodzinach przeformułowanych ataków
- 0.7%*Fałszywe odmowyNajmniej ze wszystkich podejść, które zablokowały każdy atak
- 40 / 40*Usunięte zatrute próbkiDokładność w granicach 1 punktu
* Liczby z wewnętrznych benchmarków MatterSpace, niezweryfikowane niezależnie. Przeczytaj zastrzeżenia
Celowo zatruty, potem naprawiony.
40 próbek z celowo błędnymi odpowiedziami: dokładne usunięcie lub cofnięcie stanu.
Krok 1 z 5: Wyuczone
MS Duplex nauczył się na zwykłej, prawidłowej pracy.*
Jak go przeprowadzono.
- Ataki
- Sześć rodzin, od prompt injection po odwracanie etykiet, po 50 przeformułowanych ataków w każdej.
- Łudząco podobne
- Nieszkodliwe zapytanie napisane na wzór każdego ataku, z szablonów nigdy nieużywanych do strojenia.
- Porównywane z
- GPT-5.5 za listą blokowanych słów kluczowych, cache semantyczny wyposażony w znane ataki oraz ten sam cache z wyszukiwaniem i grafem wiedzy.
- Jednakowe warunki
- Ten sam model, znane ataki, nieszkodliwe przykłady i docelowy poziom fałszywych alarmów dla każdego podejścia.
- Zatrucie
- 40 próbek z odwróconymi odpowiedziami, a potem dwie naprawy: usunięcie dokładnie tych próbek i cofnięcie do wcześniejszego stanu.
Co to oznacza dla twojej pracy.
Ataki zostają za drzwiami.
MS Duplex zablokował każdy sparafrazowany atak.
Zwykła praca przechodzi.
Odrzucono 0.7% nieszkodliwych, łudząco podobnych zapytań – najmniej spośród podejść, które zablokowały wszystko.*
Błędy można cofnąć.
Celowe zatrucie zostało dokładnie usunięte albo cofnięte do wcześniejszego stanu, bit po bicie.
Dalej: Samodzielnie uczy się nowej umiejętności przy wyłączonym modelu.Przeczytaj →
Zobacz to na własnej pracy.
Od twojego własnego asystenta po każdego agenta, którego uruchamia twoja firma: pilotaż uruchamia MS Duplex na twojej własnej pracy, ze wskaźnikami uzgodnionymi przed startem.