300 ataques, y casos parecidos inofensivos.
Paso 1 de 4: El flujo
Bloquea todos los ataques, y deja pasar el trabajo normal.
300 ataques parafraseados de seis familias, y peticiones inofensivas redactadas para parecerse a ellos. Todos los enfoques recibieron los mismos ataques conocidos y los mismos ejemplos inofensivos, y se ajustaron al mismo objetivo de falsas alarmas. Después, se envenenó a MS Duplex a propósito.
Benchmarks internos. Todas las cifras de esta página proceden de pruebas realizadas por la propia MatterSpace y no se han verificado de forma independiente. Lee el descargo de responsabilidad
- 0%*Éxito de los ataquesEn seis familias de ataques parafraseados
- 0.7%*Falsos rechazosEl más bajo entre los enfoques que bloquearon todos los ataques
- 40 / 40*Muestras envenenadas retiradasPrecisión a menos de 1 punto
* Cifras de los benchmarks internos de MatterSpace, no verificadas de forma independiente. Lee el descargo de responsabilidad
Envenenado a propósito, y luego reparado.
40 muestras con respuestas erróneas a propósito, eliminadas con exactitud o revertidas.
Paso 1 de 5: Aprendido
MS Duplex ha aprendido del trabajo habitual y legítimo.*
Cómo se realizó.
- Ataques
- Seis familias, desde la inyección de prompts hasta la inversión de etiquetas, con 50 ataques parafraseados cada una.
- Casos parecidos
- Una petición inofensiva redactada para parecerse a cada ataque, a partir de plantillas nunca usadas en el ajuste.
- Comparado con
- GPT-5.5 detrás de una lista de palabras clave bloqueadas, una caché semántica armada con los ataques conocidos, y esa misma caché con recuperación y un grafo de conocimiento.
- Condiciones iguales
- El mismo modelo, los mismos ataques conocidos, los mismos ejemplos inofensivos y el mismo objetivo de falsas alarmas para todos los enfoques.
- Contaminación
- 40 muestras con las respuestas invertidas, y después dos reparaciones: quitar exactamente esas muestras, y volver a un estado anterior.
Qué significa para tu trabajo.
Los ataques se quedan fuera.
MS Duplex bloqueó todos los ataques parafraseados.
El trabajo normal pasa.
Se rechazó el 0.7% de los casos parecidos inofensivos, la cifra más baja de los enfoques que lo bloquearon todo.*
Los errores se pueden deshacer.
El envenenamiento deliberado se eliminó con exactitud, o se deshizo volviendo a un estado anterior, bit a bit.
Siguiente: Aprende una habilidad nueva por sí solo, con el modelo apagado.Leerlo →
Compruébalo con tu propio trabajo.
De tu propio asistente a cada agente que ejecuta tu empresa, un piloto pone MS Duplex en tu propio trabajo, con las métricas acordadas antes de empezar.