Hopp til innholdet
Advancing Bits to Master Atoms
← Alle innlegg

MS Duplex8 min lesetid

Slik holder en forskningsorganisasjon en lærende KI ansvarlig.

Regler og godkjenninger, lag for person, team og organisasjon, og en logg der hver lærdom beholder kilden sin og kan korrigeres eller fjernes for seg.

En tung, rund hvelvdør i grafitt som står litt på gløtt, med låsebolter og hengsler i satinert sølv og en koboltblå nøkkel i den sentrale låsen.En tung, rund hvelvdør i grafitt som står litt på gløtt, med låsebolter og hengsler i satinert sølv og en koboltblå nøkkel i den sentrale låsen.

En KI som lærer av teamets arbeid, endrer seg over tid. Det er grunnen til å ha en. Det betyr også at organisasjonen trenger svar på spørsmål den allerede stiller om mennesker: hvem lærte den dette, hvem kontrollerte det, hvem har lov til å se det, hvem godkjente steget den nettopp tok, og hvordan en feil blir omgjort.

En modell som slutter å lære når treningen er over, reiser færre av disse spørsmålene, fordi den ikke endrer seg mellom versjoner. Så snart bekreftede resultater, ekspertkorreksjoner og beslutninger begynner å forme hva en agent gjør videre, må ansvarligheten vokse med læringen. Dette innlegget går gjennom kontrollene MS Duplex gir en forskningsorganisasjon, i den rekkefølgen de fleste team setter dem opp, og spørsmålene det er verdt å avklare før en agent begynner å lære på delt arbeid.

Start med reglene

Forskning bygger på regler som er lette å formulere og kostbare å bryte: et budsjett for regnekraft, en godkjent protokoll, referansedata bare visse personer får endre, en gjennomgang før et resultat merkes som endelig. Ved siden av dem står preferanser: en foretrukket metode, en standardinnstilling, måten én gruppe liker å få resultatene presentert på. Begge betyr noe, og de fortjener ulik behandling.

MS Duplex holder regler og preferanser atskilt, og begge forblir synlige i resonnementet bak hvert steg, så alle som går gjennom arbeidet, kan se hvilken av dem som formet det. En preferanse kan veies mot tilfellet agenten har foran seg. En regel er en grense arbeidet holder seg innenfor.

Hvordan en regel brukes, avhenger av hvordan MS Duplex er koblet til. Med en standardtilkobling kaller agenten din MS Duplex for å hente frem relevant erfaring, og reglene og preferansene dine vises i resonnementet. I et styrt miljø, et støttet oppsett med hooks, går stegene du velger, gjennom MS Duplex før de kjøres. Der stoppes et steg som bryter en regel, før det starter, og stegene teamet ditt merker for godkjenning, for eksempel en dyr simulering eller en endring i delte data, venter på en person. Hver godkjenning lagres sammen med steget den tillot og navnet på personen som ga den.

Regler endres i takt med forskningen. En ny protokoll eller budsjettgrense gjelder fra neste forespørsel. Det er ingenting å trene på nytt og ingen ny modellversjon å validere, fordi reglene ligger i MS Duplex ved siden av modellen, med vektene uendret.

En rett grafittkanal med tre låser i satinert sølv langs seg, der den midterste låsen er forseglet med et koboltblått bånd.En rett grafittkanal med tre låser i satinert sølv langs seg, der den midterste låsen er forseglet med et koboltblått bånd.
En rett kanal i grafitt med tre låser i satinert sølv langs seg, der den midterste låsen er forseglet med et koboltblått bånd: arbeidet går sin vanlige vei, og stegene teamet ditt velger, venter ved en kontroll før de fortsetter.

Bestem hvem som lærer hva

Forskningskunnskap har eiere. Noe av den er én forskers eller ingeniørs måte å jobbe på. Noe er et teams hardt tilkjempede resultat. Noe er standarden hele organisasjonen bør følge. Når en KI lærer i én felles pool, kan én persons vane ende opp med å forme alles agenter, og et tidlig funn kan spre seg lenger enn belegget tillater. Når den ikke lærer noe på tvers av personer, gjenoppdager hvert team det naboteamet allerede har bekreftet.

MS Duplex gir hver forsker, hvert team og hele organisasjonen sitt eget lag med erfaring. Agenten til en forsker bygger på forskerens personlige lag, teamets lag og organisasjonslaget samlet. Personer og agenter når bare den erfaringen omfanget deres tillater, og tillatelsene forblir under kontrollene dine. Erfaring flyttes mellom lag når reglene dine flytter den, og ingenting av den deles med et annet selskap.

Si at en forsker legger merke til at agenten hennes velger en analyseinnstilling som feiler på en bestemt type input, og hun korrigerer den. Slik kan den korreksjonen for eksempel bevege seg:

  1. En personlig lærdomKorreksjonen lagres med begrunnelsen hennes og betingelsene den gjelder under. Etter teamets regler starter en slik korreksjon i hennes personlige lag, så den former hennes agent og ingen andres.
  2. Bekreftet av teametEn kollega kontrollerer korreksjonen mot teamets egne bekreftede resultater. Den flyttes til teamlaget, og hver agent i teamet bruker den fra neste forespørsel.
  3. Delt med et annet teamEt naboteam møter samme type input. Lederen for det første teamet deler den korrigerte metoden med dem, med kilden synlig, og den verifiseres på nytt på deres arbeid.
  4. Tatt i bruk som standardLedelsen bestemmer at metoden skal gjelde i hele organisasjonen. Der reglene dine krever det, venter endringen i den delte erfaringen på godkjenning fra en person, og flyttes deretter til organisasjonslaget og gjelder for agentene i hvert team.
  5. Kilden følger medI hvert steg beholder lærdommen den opprinnelige korreksjonen, belegget bak den og loggen over hvem som flyttet den. Alle som ser på standarden, kan spore den tilbake til forskeren som først så problemet.

Den samme strukturen beskytter personlig arbeid. En forskers eller ingeniørs preferanser, for eksempel hvor mye resonnement agenten hennes viser før en rangering, blir hos hennes egen agent og lar alle andres være som de var.

Før en logg alle kan gjenskape

I forskning er en konklusjon bare så nyttig som belegget bak den. En fagfelle spør hvor et tall kom fra. En kollega vil kontrollere en beslutning før hun bygger videre på den. Et senere prosjekt må vite hvilke antakelser som holdt på det tidspunktet. En KI der lærdommene ikke har noen kilde, lar hver av dem stå uten svar.

I MS Duplex viser hver bit av erfaring hvor den kom fra: resultatet, målingen eller ekspertvurderingen bak den, og betingelsene den ble bekreftet under. Når en agent anbefaler et steg, kan teamet ditt se hvilke lærdommer den bygger på. Hele loggen ligger i én signert historikk over hva som ble lært, hva som ble brukt og hva som ble godkjent, og personer innenfor sitt omfang kan gå gjennom den og eksportere den. En forsker som ikke var til stede, kan gjenskape en beslutning fra den historikken og kontrollere den selv.

Godkjenninger ligger i samme historikk som lærdommene. Når en prosjektgjennomgang spør hvorfor en kostbar simulering ble kjørt, omfatter svaret lærdommen som anbefalte den, regelen som holdt den tilbake for godkjenning, og personen som lot den gå videre.

Korrigere og fjerne en lærdom

Feil skjer i ethvert forskningsprogram. En måling viser seg å komme fra et feilaktig oppsett, eller en eksperts korreksjon holdt bare under smalere betingelser enn noen skrev ned. Når kunnskap trenes inn i en modells vekter, betyr det å rette én ting en ny treningskjøring, og annen kunnskap kan slites ned underveis. Finjustering har fortsatt sin plass når man vil endre hva en modell vet over hele linjen; den passer bedre til brede endringer enn til å fjerne én feil lærdom.

I MS Duplex står hver lærdom for seg. Korriger en lærdom, og bare den lærdommen endres, og agentens neste anbefaling bruker den korrigerte versjonen. Fjern en lærdom, og anbefalingene som var avhengige av den, forsvinner sammen med den, mens alt annet forblir som det var. Hvis teamet senere bestemmer at lærdommen var riktig, kan den gjenopprettes. Når en ny måling erstatter en gammel, gjelder den nyeste bekreftede verdien, og historikken over hva som endret seg, tas vare på.

En stående sylindrisk kjerne med lag av grafitt og satinert sølv på en sokkel i grafitt, med én tynn koboltblå tråd som går gjennom hvert lag.En stående sylindrisk kjerne med lag av grafitt og satinert sølv på en sokkel i grafitt, med én tynn koboltblå tråd som går gjennom hvert lag.
En oppreist sylindrisk kjerne av lag i grafitt og satinert sølv, med én tynn koboltblå tråd gjennom hvert lag: kilden til hver lærdom går gjennom hele loggen, så enhver del av arbeidet kan spores tilbake og kontrolleres.

Spørsmål å avklare før en agent lærer på delt arbeid

Det meste av styringsarbeidet er organisatorisk. MS Duplex gir teamet ditt kontrollene, og teamet ditt bestemmer hvordan de skal brukes. Besvar disse skriftlig før agenter begynner å lære på arbeid som flere personer er avhengige av.

  • Hvilke regler som er regler, og hvilke som er preferanser. Skriv reglene som grenser arbeidet må holde seg innenfor, og behold vaner og standardvalg som preferanser.
  • Hvilke steg som venter på en person. Dyre simuleringer og endringer i delte data er de vanlige første kandidatene, og godkjenninger gjelder i styrte miljøer.
  • Hva som forblir personlig, hva som deles med et team og hva som tas i bruk som organisasjonsstandard.
  • Hvem som kan flytte erfaring mellom lag, og om en endring i organisasjonslaget krever godkjenning.
  • Hvem som går gjennom loggen, og hvem som kan korrigere, fjerne eller gjenopprette en lærdom.
  • Hvor MS Duplex kjører og hvordan dataene dine håndteres. Dette avtales med sikkerhets- og dataansvarlige hos dere fra første samtale.

Vanlige spørsmål

Stopper MS Duplex et steg før det kjøres?

I et styrt miljø, et støttet oppsett med hooks, ja: et steg som bryter en regel, stoppes, og stegene du merker for godkjenning, venter på en person. Med en standardtilkobling kaller agenten MS Duplex for relevant erfaring, og reglene og preferansene dine vises i resonnementet.

Kan én forskers vaner endre alles agent?

Personlige preferanser blir i forskerens lag og former bare forskerens egen agent. De når et team eller organisasjonen bare når reglene dine flytter dem dit, og de beholder kilden sin når det skjer.

Hva skjer med anbefalingene når vi fjerner en lærdom?

Anbefalingene som var avhengige av den lærdommen, forsvinner sammen med den, og alt annet forblir som det var. Endringen tas vare på i historikken, og lærdommen kan gjenopprettes hvis teamet ditt ombestemmer seg.

Deles noe av erfaringen vår med et annet selskap?

Nei. Erfaringen i hvert lag tilhører organisasjonen din, uansett hvilken modell eller leverandør du bruker, og ingenting av den deles med et annet selskap. Hvor MS Duplex kjører og hvordan dataene dine håndteres, avtales med sikkerhets- og dataansvarlige hos dere.

Bygget av MatterSpace

MatterSpace bygger MS Duplex for forskere, vitenskapsfolk og ingeniører i alle fagfelt, slik at AI-en de allerede bruker lærer av hvert resultat de bekrefter.

Les videre

La neste kjøring dra nytte av den forrige.

Kom til oss med forskningen KI-en din bør bli bedre på. Vi planlegger en pilot på dine egne arbeidsflyter, med ekspertene dine som dommere.