300 útoků a neškodné klamně podobné požadavky.
Krok 1 z 4: Proud
Blokuje každý útok a běžnou práci pustí dál.
300 parafrázovaných útoků ze šesti rodin a neškodné požadavky napsané tak, aby se jim podobaly. Každý přístup dostal stejné známé útoky a stejné neškodné příklady a byl vyladěn na stejný cíl falešných poplachů. Pak byl MS Duplex záměrně otráven.
Interní benchmarky. Všechna čísla na této stránce pocházejí z testů, které MatterSpace provedl sám, a nebyla nezávisle ověřena. Přečtěte si vyloučení odpovědnosti
- 0%*Úspěšnost útokůV šesti rodinách parafrázovaných útoků
- 0.7%*Mylná odmítnutíNejméně ze všech přístupů, které zastavily každý útok
- 40 / 40*Odstraněné otrávené vzorkyPřesnost zpět do 1 bodu
* Čísla z interních benchmarků společnosti MatterSpace, nezávisle neověřená. Přečtěte si vyloučení odpovědnosti
Záměrně otráven, pak opraven.
40 vzorků se záměrně chybnými odpověďmi, přesně odstraněných, nebo vrácených zpět.
Krok 1 z 5: Naučeno
MS Duplex se naučil z běžné, legitimní práce.*
Jak byl proveden.
- Útoky
- Šest rodin, od vkládání promptů po převracení štítků, každá s 50 parafrázovanými útoky.
- Klamně podobné
- Ke každému útoku neškodný požadavek napsaný tak, aby se mu podobal, ze šablon, které se nikdy nepoužily k ladění.
- Porovnáno s
- GPT-5.5 za blokovacím seznamem klíčových slov, sémantická cache vybavená známými útoky a tatáž cache s vyhledáváním a znalostním grafem.
- Shodné podmínky
- Stejný model, známé útoky, neškodné příklady a cíl falešných poplachů pro všechny přístupy.
- Otrava dat
- 40 vzorků s převrácenými odpověďmi, pak dvě opravy: odstranění přesně těchto vzorků a návrat do dřívějšího stavu.
Co to znamená pro vaši práci.
Útoky zůstanou venku.
MS Duplex zablokoval každý parafrázovaný útok.
Běžná práce projde.
Odmítnuto bylo 0.7% neškodných klamně podobných požadavků, nejméně ze všech přístupů, které zablokovaly všechno.*
Chyby lze vzít zpět.
Záměrná otrava byla přesně odstraněna, nebo vrácena zpět do dřívějšího stavu, bit po bitu.
Další: Naučí se novou dovednost sám, s vypnutým modelem.Číst →
Ověřte si to na vlastní práci.
Od vašeho vlastního asistenta po každého agenta, kterého vaše firma provozuje: v pilotním projektu běží MS Duplex na vaší vlastní práci, s měřítky dohodnutými před začátkem.