Vai al contenuto
Advancing Bits to Master Atoms
← Tutti gli articoli

MS Duplex8 min di lettura

Come un’organizzazione di ricerca chiede conto a un’IA che impara.

Regole e approvazioni, livelli personale, di team e di organizzazione, e una documentazione in cui ogni lezione conserva la sua fonte e può essere corretta o rimossa singolarmente.

Una pesante porta di caveau rotonda in grafite, socchiusa, con chiavistelli e cerniere in argento satinato e una chiave blu cobalto nella serratura centrale.Una pesante porta di caveau rotonda in grafite, socchiusa, con chiavistelli e cerniere in argento satinato e una chiave blu cobalto nella serratura centrale.

Un’IA che impara dal lavoro del tuo team cambia nel tempo. È il motivo per averne una. Significa anche che l’organizzazione ha bisogno di risposte a domande che già si pone sulle persone: chi gliel’ha insegnato, chi l’ha verificato, chi può vederlo, chi ha approvato il passaggio che ha appena compiuto e come si rimedia a un errore.

Un modello che smette di imparare alla fine del suo addestramento solleva meno di queste domande, perché non cambia tra una release e l’altra. Quando risultati confermati, correzioni degli esperti e decisioni iniziano a orientare ciò che un agente fa dopo, la responsabilità deve crescere insieme all’apprendimento. Questo articolo illustra i controlli che MS Duplex offre a un’organizzazione di ricerca, nell’ordine in cui la maggior parte dei team li configura, e le domande da chiarire prima che un agente inizi a imparare su un lavoro condiviso.

Parti dalle regole

La ricerca si basa su regole facili da enunciare e costose da violare: un budget di calcolo, un protocollo approvato, dati di riferimento che solo certe persone possono modificare, una revisione prima che un risultato sia segnato come definitivo. Accanto a esse ci sono le preferenze: un metodo preferito, un’impostazione predefinita, il modo in cui un gruppo vuole che i suoi risultati siano presentati. Entrambe contano, e meritano un trattamento diverso.

MS Duplex tiene separate regole e preferenze, ed entrambe restano visibili nel ragionamento dietro ogni passaggio, così chiunque esamini il lavoro può vedere quale delle due lo ha orientato. Una preferenza può essere soppesata rispetto al caso che l’agente ha davanti. Una regola è un limite entro cui il lavoro resta.

Il modo in cui una regola viene applicata dipende da come è collegato MS Duplex. Con una connessione standard, il tuo agente chiama MS Duplex per recuperare l’esperienza pertinente, e le tue regole e preferenze compaiono nel suo ragionamento. In un ambiente governato, una configurazione supportata con hook, i passaggi che selezioni passano attraverso MS Duplex prima di essere eseguiti. Lì, un passaggio che viola una regola viene fermato prima che inizi, e i passaggi che il tuo team contrassegna per l’approvazione, come una simulazione costosa o una modifica ai dati condivisi, attendono una persona. Ogni approvazione viene conservata insieme al passaggio che ha consentito e al nome della persona che l’ha data.

Le regole cambiano con la ricerca. Un nuovo protocollo o limite di budget si applica dalla richiesta successiva. Non c’è nulla da riaddestrare né alcuna nuova versione del modello da validare, perché le regole si trovano in MS Duplex accanto al modello, i cui pesi restano invariati.

Un canale dritto in grafite con tre serrature in argento satinato lungo il percorso, quella centrale sigillata da una fascia blu cobalto.Un canale dritto in grafite con tre serrature in argento satinato lungo il percorso, quella centrale sigillata da una fascia blu cobalto.
Un canale dritto in grafite con tre chiuse in argento satinato lungo il tracciato, quella centrale sigillata da una fascia blu cobalto: il lavoro procede lungo il suo percorso abituale, e i passaggi che il tuo team seleziona attendono a un controllo prima di proseguire.

Decidi chi impara cosa

La conoscenza di ricerca ha dei proprietari. Una parte è il modo di lavorare di un singolo scienziato o ingegnere. Una parte è un risultato conquistato a fatica da un team. Una parte è lo standard che tutta l’organizzazione dovrebbe seguire. Quando un’IA impara in un unico bacino condiviso, l’abitudine di una persona può finire per orientare l’agente di tutti, e una scoperta preliminare può spingersi più lontano di quanto consentano le sue prove. Quando non impara nulla tra le persone, ogni team riscopre ciò che il team accanto ha già confermato.

MS Duplex dà a ogni ricercatore, a ogni team e all’intera organizzazione il proprio livello di esperienza. L’agente di un ricercatore attinge insieme al suo livello personale, al livello del suo team e al livello di organizzazione. Persone e agenti accedono solo all’esperienza consentita dal loro ambito, con autorizzazioni gestite sotto il tuo controllo. L’esperienza passa da un livello all’altro quando sono le tue regole a spostarla, e nulla viene condiviso con un’altra azienda.

Supponiamo che una ricercatrice noti che il suo agente sceglie un’impostazione di analisi che fallisce su un certo tipo di input, e la corregga. Ecco un modo in cui quella correzione potrebbe viaggiare:

  1. Una lezione personaleLa correzione viene conservata con la sua motivazione e le condizioni in cui si applica. Secondo le regole del team, una correzione come questa parte dal suo livello personale, quindi orienta il suo agente e quello di nessun altro.
  2. Confermata dal teamUn collega verifica la correzione rispetto ai risultati confermati del team. Passa al livello del team, e ogni agente del team la applica dalla richiesta successiva.
  3. Condivisa con un secondo teamUn team vicino incontra lo stesso tipo di input. Il responsabile del primo team condivide con loro il metodo corretto, con la sua fonte in vista, e il metodo viene verificato di nuovo sul loro lavoro.
  4. Adottata come standardLa direzione decide che il metodo deve valere in tutta l’organizzazione. Dove le tue regole lo richiedono, la modifica all’esperienza condivisa attende l’approvazione di una persona, poi passa al livello di organizzazione e si applica agli agenti di ogni team.
  5. La fonte la accompagnaA ogni passaggio, la lezione conserva la correzione originale, le prove che la sostengono e la documentazione di chi l’ha spostata. Chiunque guardi lo standard può risalire alla ricercatrice che per prima ha visto il problema.

La stessa struttura protegge il lavoro personale. Le preferenze di una scienziata o di un ingegnere, come quanto ragionamento mostra il suo agente prima di una classificazione, restano con il suo agente e lasciano invariati quelli di tutti gli altri.

Tieni una documentazione ricostruibile da chiunque

Nella ricerca, una conclusione è utile solo quanto le prove che la sostengono. Un revisore chiede da dove viene un numero. Un collega vuole verificare una decisione prima di basarci sopra il proprio lavoro. Un progetto successivo deve sapere quali ipotesi valevano all’epoca. Un’IA le cui lezioni non hanno fonte lascia ciascuno di loro senza risposta.

In MS Duplex, ogni elemento di esperienza mostra da dove viene: il risultato, la misurazione o il giudizio dell’esperto che lo sostiene, e le condizioni in cui è stato confermato. Quando un agente raccomanda un passaggio, il tuo team può vedere su quali lezioni si basa. L’intera documentazione si trova in un’unica cronologia firmata di ciò che è stato appreso, usato e approvato, e le persone entro il proprio ambito possono esaminarla ed esportarla. Un ricercatore che non era presente può ricostruire una decisione da quella cronologia e verificarla di persona.

Le approvazioni si trovano nella stessa cronologia delle lezioni. Quando una revisione di progetto chiede perché è stata eseguita una simulazione costosa, la risposta include la lezione che l’ha raccomandata, la regola che l’ha trattenuta in attesa di approvazione e la persona che l’ha lasciata procedere.

Correggere e rimuovere una lezione

Gli errori capitano in qualsiasi programma di ricerca. Una misurazione si rivela provenire da un setup difettoso, oppure la correzione di un esperto valeva solo in condizioni più ristrette di quanto qualcuno avesse messo per iscritto. Quando la conoscenza viene addestrata nei pesi di un modello, correggere un singolo elemento significa un altro addestramento, e altre conoscenze possono degradarsi lungo il percorso. Il fine-tuning mantiene il suo ruolo per cambiare ciò che un modello sa in modo generale; si presta meglio ai cambiamenti ampi che alla rimozione di una singola lezione sbagliata.

In MS Duplex ogni lezione è indipendente. Correggi una lezione e cambia solo quella lezione, e la raccomandazione successiva dell’agente usa la versione corretta. Rimuovi una lezione e le raccomandazioni che dipendevano da essa se ne vanno con lei, mentre tutto il resto resta com’era. Se in seguito il team decide che la lezione era giusta, può essere ripristinata. Quando una nuova misurazione sostituisce una precedente, si applica il valore confermato più recente e la cronologia di ciò che è cambiato viene conservata.

Un nucleo cilindrico verticale di strati di grafite e argento satinato su una base in grafite, con un unico sottile filo blu cobalto che attraversa ogni strato.Un nucleo cilindrico verticale di strati di grafite e argento satinato su una base in grafite, con un unico sottile filo blu cobalto che attraversa ogni strato.
Un nucleo cilindrico verticale a strati di grafite e argento satinato, attraversato in ogni strato da un unico sottile filo blu cobalto: la fonte di ogni lezione attraversa l’intera documentazione, così qualsiasi parte del lavoro può essere ricostruita a ritroso e verificata.

Domande da chiarire prima che un agente impari su un lavoro condiviso

Gran parte del lavoro di governance è organizzativo. MS Duplex dà al tuo team i controlli, e il tuo team decide come usarli. Rispondi per iscritto a queste domande prima che gli agenti inizino a imparare su un lavoro su cui fanno affidamento più persone.

  • Quali regole sono regole e quali sono preferenze. Scrivi le regole come limiti entro cui il lavoro deve restare, e tieni abitudini e impostazioni predefinite come preferenze.
  • Quali passaggi attendono una persona. Simulazioni costose e modifiche ai dati condivisi sono di solito i primi candidati, e le approvazioni si applicano negli ambienti governati.
  • Cosa resta personale, cosa viene condiviso con un team e cosa viene adottato come standard dell’organizzazione.
  • Chi può spostare l’esperienza tra i livelli, e se una modifica al livello di organizzazione richiede un’approvazione.
  • Chi esamina la documentazione, e chi può correggere, rimuovere o ripristinare una lezione.
  • Dove viene eseguito MS Duplex e come vengono trattati i tuoi dati. Questi aspetti si concordano con i tuoi responsabili della sicurezza e dei dati fin dalla prima conversazione.

Domande frequenti

MS Duplex ferma un passaggio prima che venga eseguito?

In un ambiente governato, una configurazione supportata con hook, sì: un passaggio che viola una regola viene fermato, e i passaggi che contrassegni per l’approvazione attendono una persona. Con una connessione standard, l’agente chiama MS Duplex per l’esperienza pertinente, e le tue regole e preferenze compaiono nel suo ragionamento.

Le abitudini di un singolo ricercatore possono cambiare l’agente di tutti?

Le preferenze personali restano nel livello di quel ricercatore e orientano solo il suo agente. Raggiungono un team o l’organizzazione solo quando sono le tue regole a spostarle lì, e quando succede conservano la loro fonte.

Cosa succede alle raccomandazioni quando rimuoviamo una lezione?

Le raccomandazioni che dipendevano da quella lezione se ne vanno con lei, e tutto il resto resta com’era. La modifica viene conservata nella cronologia, e la lezione può essere ripristinata se il tuo team cambia idea.

Qualcosa della nostra esperienza viene condiviso con un’altra azienda?

No. L’esperienza in ogni livello appartiene alla tua organizzazione, qualunque modello o fornitore tu usi, e nulla viene condiviso con un’altra azienda. Dove viene eseguito MS Duplex e come vengono trattati i tuoi dati si concorda con i tuoi responsabili della sicurezza e dei dati.

Costruito da MatterSpace

MatterSpace costruisce MS Duplex per scienziati, ricercatori e ingegneri di ogni campo, perché l’IA che già usano impari da ogni risultato che confermano.

Continua a leggere

Fai in modo che la prossima esecuzione tragga vantaggio dall’ultima.

Portaci la ricerca in cui la tua IA dovrebbe migliorare. Pianificheremo un progetto pilota sui tuoi flussi di lavoro, con i tuoi esperti come giudici.