Aller au contenu
Advancing Bits to Master Atoms
← Tous les articles

MS Duplex8 min de lecture

Comment une organisation de recherche encadre une IA qui apprend.

Règles et approbations, couches personnelle, d’équipe et d’organisation, et un historique où chaque leçon conserve sa source et peut être corrigée ou supprimée isolément.

Une lourde porte de coffre-fort ronde en graphite, légèrement entrouverte, avec des pênes et des charnières argent satiné et une clé bleu cobalt dans la serrure centrale.Une lourde porte de coffre-fort ronde en graphite, légèrement entrouverte, avec des pênes et des charnières argent satiné et une clé bleu cobalt dans la serrure centrale.

Une IA qui apprend du travail de votre équipe change avec le temps. C’est la raison d’en avoir une. Cela signifie aussi que l’organisation a besoin de réponses aux questions qu’elle se pose déjà à propos des personnes : qui lui a appris cela, qui l’a vérifié, qui a le droit de le voir, qui a approuvé l’étape qu’elle vient d’effectuer, et comment une erreur est annulée.

Un modèle qui cesse d’apprendre à la fin de son entraînement soulève moins de ces questions, car il ne change pas d’une version à l’autre. Dès que des résultats confirmés, des corrections d’experts et des décisions commencent à orienter ce que fait un agent ensuite, la responsabilité doit croître avec l’apprentissage. Cet article passe en revue les contrôles que MS Duplex offre à une organisation de recherche, dans l’ordre où la plupart des équipes les mettent en place, ainsi que les questions à régler avant qu’un agent ne commence à apprendre sur un travail partagé.

Commencer par les règles

La recherche repose sur des règles faciles à énoncer et coûteuses à enfreindre : un budget de calcul, un protocole approuvé, des données de référence que seules certaines personnes peuvent modifier, une revue avant qu’un résultat soit marqué comme définitif. À côté se trouvent les préférences : une méthode favorite, un réglage par défaut, la façon dont un groupe aime présenter ses résultats. Les deux comptent, et elles méritent un traitement différent.

MS Duplex sépare les règles et les préférences, et les deux restent visibles dans le raisonnement derrière chaque étape, si bien que toute personne qui examine le travail peut voir laquelle l’a orienté. Une préférence peut être mise en balance avec le cas auquel l’agent fait face. Une règle est une limite dans laquelle le travail reste.

La façon dont une règle s’applique dépend de la manière dont MS Duplex est connecté. Avec une connexion standard, votre agent appelle MS Duplex pour récupérer l’expérience pertinente, et vos règles et préférences apparaissent dans son raisonnement. Dans un environnement encadré, une configuration prise en charge avec des hooks, les étapes que vous sélectionnez passent par MS Duplex avant de s’exécuter. Là, une étape qui enfreint une règle est arrêtée avant de commencer, et les étapes que votre équipe soumet à approbation, comme une simulation coûteuse ou une modification de données partagées, attendent une personne. Chaque approbation est conservée avec l’étape qu’elle a autorisée et le nom de la personne qui l’a donnée.

Les règles évoluent avec la recherche. Un nouveau protocole ou une nouvelle limite budgétaire s’applique dès la requête suivante. Il n’y a rien à réentraîner ni aucune nouvelle version de modèle à valider, car les règles se trouvent dans MS Duplex, à côté du modèle, dont les poids restent inchangés.

Un canal droit en graphite le long duquel se trouvent trois verrous argent satiné, celui du milieu scellé par une bande bleu cobalt.Un canal droit en graphite le long duquel se trouvent trois verrous argent satiné, celui du milieu scellé par une bande bleu cobalt.
Un canal droit en graphite jalonné de trois écluses argent satiné, celle du milieu scellée par une bande bleu cobalt : le travail suit son chemin habituel, et les étapes que votre équipe sélectionne attendent à un point de contrôle avant de continuer.

Décider qui apprend quoi

Le savoir de recherche a des propriétaires. Une partie relève de la façon de travailler d’un scientifique ou d’un ingénieur. Une autre est un résultat durement acquis par une équipe. Une autre encore est le standard que toute l’organisation devrait suivre. Quand une IA apprend dans un seul réservoir partagé, l’habitude d’une personne peut finir par orienter l’agent de tout le monde, et une découverte précoce peut aller plus loin que ses preuves ne le permettent. Quand elle n’apprend rien d’une personne à l’autre, chaque équipe redécouvre ce que l’équipe voisine a déjà confirmé.

MS Duplex donne à chaque chercheur, à chaque équipe et à l’organisation entière sa propre couche d’expérience. L’agent d’un chercheur puise à la fois dans sa couche personnelle, dans celle de son équipe et dans la couche d’organisation. Les personnes et les agents n’accèdent qu’à l’expérience que leur périmètre autorise, avec des permissions qui restent sous votre contrôle. L’expérience passe d’une couche à l’autre quand vos règles la déplacent, et rien n’est partagé avec une autre entreprise.

Imaginons qu’une chercheuse remarque que son agent choisit un réglage d’analyse qui échoue sur un certain type d’entrée, et qu’elle le corrige. Voici une façon dont cette correction pourrait circuler :

  1. Une leçon personnelleLa correction est conservée avec sa raison et les conditions dans lesquelles elle s’applique. Selon les règles de l’équipe, une correction de ce type commence dans sa couche personnelle : elle oriente donc son agent et celui de personne d’autre.
  2. Confirmée par l’équipeUn collègue vérifie la correction au regard des résultats confirmés de l’équipe. Elle passe dans la couche d’équipe, et chaque agent de l’équipe l’applique dès la requête suivante.
  3. Partagée avec une deuxième équipeUne équipe voisine rencontre le même type d’entrée. Le responsable de la première équipe lui transmet la méthode corrigée, avec sa source visible, et celle-ci est revérifiée sur son travail.
  4. Adoptée comme standardLa direction décide que la méthode doit s’appliquer dans toute l’organisation. Là où vos règles l’exigent, la modification de l’expérience partagée attend l’approbation d’une personne, puis passe dans la couche d’organisation et s’applique aux agents de chaque équipe.
  5. La source l’accompagneÀ chaque étape, la leçon conserve la correction d’origine, les preuves qui la fondent et la trace de qui l’a déplacée. Quiconque consulte le standard peut remonter jusqu’à la chercheuse qui a vu le problème la première.

La même structure protège le travail personnel. Les préférences d’une scientifique ou d’un ingénieur, comme la quantité de raisonnement que son agent montre avant un classement, restent propres à son agent et laissent celui des autres tel qu’il était.

Tenir un historique que chacun peut reconstituer

En recherche, une conclusion ne vaut que par les preuves qui la fondent. Un relecteur demande d’où vient un chiffre. Un collègue veut vérifier une décision avant de s’appuyer dessus. Un projet ultérieur a besoin de savoir quelles hypothèses tenaient à l’époque. Une IA dont les leçons n’ont pas de source laisse chacun d’eux sans réponse.

Dans MS Duplex, chaque élément d’expérience indique d’où il vient : le résultat, la mesure ou le jugement d’expert qui le fonde, et les conditions dans lesquelles il a été confirmé. Quand un agent recommande une étape, votre équipe peut voir sur quelles leçons il s’appuie. L’ensemble est consigné dans un historique signé unique de ce qui a été appris, utilisé et approuvé, que les personnes peuvent examiner et exporter dans les limites de leur périmètre. Un chercheur qui n’était pas présent peut reconstituer une décision à partir de cet historique et la vérifier par lui-même.

Les approbations figurent dans le même historique que les leçons. Quand une revue de projet demande pourquoi une simulation coûteuse a été lancée, la réponse comprend la leçon qui l’a recommandée, la règle qui l’a soumise à approbation et la personne qui a donné son feu vert.

Corriger et supprimer une leçon

Les erreurs arrivent dans tout programme de recherche. Une mesure s’avère provenir d’un montage défectueux, ou la correction d’un expert ne valait que dans des conditions plus étroites que ce que quiconque avait noté. Quand le savoir est intégré aux poids d’un modèle par entraînement, corriger un seul élément exige un nouveau cycle d’entraînement, et d’autres connaissances peuvent s’éroder en chemin. Le fine-tuning garde sa place pour modifier ce qu’un modèle sait de manière générale ; il convient mieux aux changements d’ensemble qu’à la suppression d’une leçon erronée.

Dans MS Duplex, chaque leçon est indépendante. Corrigez une leçon et seule cette leçon change, et la recommandation suivante de l’agent utilise la version corrigée. Supprimez une leçon et les recommandations qui en dépendaient disparaissent avec elle, tandis que tout le reste demeure inchangé. Si l’équipe décide plus tard que la leçon était juste, elle peut être restaurée. Quand une nouvelle mesure remplace une ancienne, la valeur confirmée la plus récente s’applique et l’historique des changements est conservé.

Une carotte cylindrique verticale faite de strates de graphite et d’argent satiné sur une base en graphite, un fin fil bleu cobalt traversant chaque couche.Une carotte cylindrique verticale faite de strates de graphite et d’argent satiné sur une base en graphite, un fin fil bleu cobalt traversant chaque couche.
Un noyau cylindrique vertical fait de strates de graphite et d’argent satiné, traversé dans toutes ses couches par un fin fil bleu cobalt : la source de chaque leçon parcourt tout l’historique, si bien que toute partie du travail peut être retracée et vérifiée.

Les questions à régler avant qu’un agent apprenne sur un travail partagé

L’essentiel du travail de gouvernance est organisationnel. MS Duplex donne les contrôles à votre équipe, et votre équipe décide comment les utiliser. Répondez à ces questions par écrit avant que des agents commencent à apprendre sur un travail dont plusieurs personnes dépendent.

  • Quelles règles sont des règles, et lesquelles sont des préférences. Rédigez les règles comme des limites dans lesquelles le travail doit rester, et gardez les habitudes et les valeurs par défaut comme préférences.
  • Quelles étapes attendent une personne. Les simulations coûteuses et les modifications de données partagées sont les premières candidates habituelles, et les approbations s’appliquent dans les environnements encadrés.
  • Ce qui reste personnel, ce qui est partagé avec une équipe et ce qui est adopté comme standard de l’organisation.
  • Qui peut déplacer l’expérience d’une couche à l’autre, et si une modification de la couche d’organisation nécessite une approbation.
  • Qui examine l’historique, et qui peut corriger, supprimer ou restaurer une leçon.
  • Où MS Duplex s’exécute et comment vos données sont traitées. Ces points sont convenus avec vos responsables de la sécurité et des données dès la première conversation.

Questions fréquentes

MS Duplex arrête-t-il une étape avant qu’elle ne s’exécute ?

Dans un environnement encadré, une configuration prise en charge avec des hooks, oui : une étape qui enfreint une règle est arrêtée, et les étapes que vous soumettez à approbation attendent une personne. Avec une connexion standard, l’agent appelle MS Duplex pour obtenir l’expérience pertinente, et vos règles et préférences apparaissent dans son raisonnement.

Les habitudes d’un seul chercheur peuvent-elles modifier l’agent de tout le monde ?

Les préférences personnelles restent dans la couche de ce chercheur et n’orientent que son propre agent. Elles n’atteignent une équipe ou l’organisation que lorsque vos règles les y déplacent, et elles conservent alors leur source.

Que deviennent les recommandations quand nous supprimons une leçon ?

Les recommandations qui dépendaient de cette leçon disparaissent avec elle, et tout le reste demeure inchangé. Le changement est conservé dans l’historique, et la leçon peut être restaurée si votre équipe change d’avis.

Une partie de notre expérience est-elle partagée avec une autre entreprise ?

Non. L’expérience de chaque couche appartient à votre organisation, quel que soit le modèle ou le fournisseur que vous utilisez, et rien n’en est partagé avec une autre entreprise. L’endroit où MS Duplex s’exécute et la façon dont vos données sont traitées sont convenus avec vos responsables de la sécurité et des données.

Construit par MatterSpace

MatterSpace construit MS Duplex pour les scientifiques, les chercheurs et les ingénieurs de tous les domaines, afin que l’IA qu’ils utilisent déjà apprenne de chaque résultat qu’ils confirment.

Continuer la lecture

Que chaque exécution profite de la précédente.

Apportez-nous la recherche dans laquelle votre IA devrait progresser. Nous planifierons un pilote sur vos propres flux de travail, avec vos experts comme juges.