Eine KI, die aus der Arbeit deines Teams lernt, verändert sich mit der Zeit. Das ist der Grund, sie einzusetzen. Es bedeutet aber auch, dass die Organisation Antworten auf Fragen braucht, die sie bei Menschen ohnehin stellt: wer ihr das beigebracht hat, wer es geprüft hat, wer es sehen darf, wer den Schritt freigegeben hat, den sie gerade gemacht hat, und wie ein Fehler rückgängig gemacht wird.
Ein Modell, das am Ende seines Trainings aufhört zu lernen, wirft weniger dieser Fragen auf, weil es sich zwischen Releases nicht verändert. Sobald bestätigte Ergebnisse, Expertenkorrekturen und Entscheidungen prägen, was ein Agent als Nächstes tut, muss die Verantwortlichkeit mit dem Lernen wachsen. Dieser Beitrag geht die Kontrollen durch, die MS Duplex einer Forschungsorganisation gibt, in der Reihenfolge, in der die meisten Teams sie einrichten, und die Fragen, die sich zu klären lohnen, bevor ein Agent an gemeinsamer Arbeit zu lernen beginnt.
Beginne mit den Regeln
Forschung läuft nach Regeln, die leicht zu formulieren und teuer zu brechen sind: ein Rechenbudget, ein freigegebenes Protokoll, Referenzdaten, die nur bestimmte Personen ändern dürfen, ein Review, bevor ein Ergebnis als endgültig markiert wird. Daneben stehen Präferenzen: eine bevorzugte Methode, eine Standardeinstellung, die Art, wie eine Gruppe ihre Ergebnisse dargestellt haben möchte. Beides zählt, und beides verdient eine unterschiedliche Behandlung.
MS Duplex hält Regeln und Präferenzen getrennt, und beide bleiben in der Begründung hinter jedem Schritt sichtbar, sodass alle, die die Arbeit prüfen, sehen können, was ihn geprägt hat. Eine Präferenz lässt sich gegen den Fall abwägen, der vor dem Agenten liegt. Eine Regel ist eine Grenze, innerhalb derer die Arbeit bleibt.
Wie eine Regel angewendet wird, hängt davon ab, wie MS Duplex angebunden ist. Bei einer Standardverbindung ruft dein Agent MS Duplex auf, um relevante Erfahrung abzurufen, und deine Regeln und Präferenzen erscheinen in seiner Begründung. In einer regelgesteuerten Umgebung, einem unterstützten Setup mit Hooks, laufen die Schritte, die du auswählst, über MS Duplex, bevor sie ausgeführt werden. Dort wird ein Schritt, der gegen eine Regel verstößt, gestoppt, bevor er beginnt, und die Schritte, die dein Team zur Freigabe markiert, etwa eine teure Simulation oder eine Änderung an gemeinsamen Daten, warten auf eine Person. Jede Freigabe wird mit dem Schritt festgehalten, den sie erlaubt hat, und mit dem Namen der Person, die sie erteilt hat.
Regeln ändern sich mit der Forschung. Ein neues Protokoll oder ein neues Budgetlimit gilt ab der nächsten Anfrage. Es muss nichts neu trainiert und keine neue Modellversion validiert werden, denn die Regeln liegen in MS Duplex neben dem Modell, dessen Gewichte bleiben, wie sie sind.


Lege fest, wer was lernt
Forschungswissen hat Eigentümer. Manches davon ist die Arbeitsweise eines einzelnen Wissenschaftlers oder Ingenieurs. Manches ist das hart erarbeitete Ergebnis eines Teams. Manches ist der Standard, dem die ganze Organisation folgen sollte. Wenn eine KI in einem einzigen gemeinsamen Pool lernt, kann die Gewohnheit einer Person am Ende den Agenten aller prägen, und ein frühes Ergebnis kann weiter reichen, als seine Belege es zulassen. Wenn sie über Personen hinweg nichts lernt, entdeckt jedes Team neu, was das Team nebenan bereits bestätigt hat.
MS Duplex gibt allen Forschenden, jedem Team und der gesamten Organisation eine eigene Erfahrungsebene. Der Agent einer Forscherin oder eines Forschers greift zugleich auf die persönliche Ebene, die Ebene des Teams und die Organisationsebene zurück. Menschen und Agenten erreichen nur die Erfahrung, die ihr Bereich zulässt, mit Berechtigungen unter deiner Kontrolle. Erfahrung wandert zwischen Ebenen, wenn deine Regeln sie verschieben, und nichts davon wird mit einem anderen Unternehmen geteilt.
Angenommen, eine Forscherin bemerkt, dass ihr Agent eine Analyseeinstellung wählt, die bei einer bestimmten Art von Eingabe scheitert, und sie korrigiert ihn. So könnte diese Korrektur weitergehen:
- Eine persönliche LektionDie Korrektur wird mit ihrem Grund und den Bedingungen festgehalten, unter denen sie gilt. Nach den Regeln des Teams beginnt eine solche Korrektur in ihrer persönlichen Ebene, sodass sie ihren Agenten prägt und sonst keinen.
- Vom Team bestätigtEin Kollege prüft die Korrektur anhand der eigenen bestätigten Ergebnisse des Teams. Sie wandert auf die Teamebene, und jeder Agent im Team wendet sie ab der nächsten Anfrage an.
- Mit einem zweiten Team geteiltEin benachbartes Team trifft auf dieselbe Art von Eingabe. Die Leitung des ersten Teams teilt die korrigierte Methode mit ihm, mit ihrer Quelle im Blick, und sie wird an seiner Arbeit erneut verifiziert.
- Als Standard übernommenDie Führung entscheidet, dass die Methode in der ganzen Organisation gelten soll. Wo deine Regeln es verlangen, wartet die Änderung an der gemeinsamen Erfahrung auf die Freigabe durch eine Person, wandert dann auf die Organisationsebene und gilt für die Agenten aller Teams.
- Die Quelle geht mitBei jedem Schritt behält die Lektion die ursprüngliche Korrektur, die Belege dahinter und das Protokoll darüber, wer sie verschoben hat. Wer sich den Standard ansieht, kann ihn bis zu der Forscherin zurückverfolgen, die das Problem zuerst bemerkt hat.
Dieselbe Struktur schützt persönliche Arbeit. Die Präferenzen einer Wissenschaftlerin oder eines Ingenieurs, etwa wie viel Begründung ihr Agent vor einem Ranking zeigt, bleiben bei ihrem eigenen Agenten und lassen die Agenten aller anderen, wie sie waren.
Führe ein Protokoll, das alle rekonstruieren können
In der Forschung ist eine Schlussfolgerung nur so nützlich wie die Belege dahinter. Ein Gutachter fragt, woher eine Zahl stammt. Eine Kollegin will eine Entscheidung prüfen, bevor sie darauf aufbaut. Ein späteres Projekt muss wissen, welche Annahmen damals galten. Eine KI, deren Lektionen keine Quelle haben, lässt jeden von ihnen ohne Antwort.
In MS Duplex zeigt jedes Stück Erfahrung, woher es stammt: das Ergebnis, die Messung oder das Expertenurteil dahinter und die Bedingungen, unter denen es bestätigt wurde. Wenn ein Agent einen Schritt empfiehlt, kann dein Team sehen, auf welche Lektionen er sich stützt. Das gesamte Protokoll liegt in einer einzigen signierten Historie dessen, was gelernt, genutzt und freigegeben wurde, und Personen innerhalb ihres Bereichs können sie prüfen und exportieren. Eine Forscherin, die nicht dabei war, kann eine Entscheidung aus dieser Historie rekonstruieren und selbst überprüfen.
Freigaben liegen in derselben Historie wie die Lektionen. Wenn ein Projekt-Review fragt, warum eine teure Simulation gelaufen ist, umfasst die Antwort die Lektion, die sie empfohlen hat, die Regel, die sie zur Freigabe zurückgehalten hat, und die Person, die sie hat laufen lassen.
Eine Lektion korrigieren und entfernen
Fehler passieren in jedem Forschungsprogramm. Eine Messung stammt, wie sich herausstellt, aus einem fehlerhaften Aufbau, oder die Korrektur eines Experten galt nur unter engeren Bedingungen, als irgendjemand aufgeschrieben hat. Wenn Wissen in die Gewichte eines Modells trainiert ist, bedeutet die Korrektur eines einzelnen Punkts einen weiteren Trainingslauf, und anderes Wissen kann dabei nachlassen. Fine-Tuning hat seinen Platz, wenn sich ändern soll, was ein Modell auf ganzer Breite weiß; es eignet sich besser für breite Änderungen als für das Entfernen einer einzelnen falschen Lektion.
In MS Duplex steht jede Lektion für sich. Korrigiere eine Lektion, und nur diese Lektion ändert sich, und die nächste Empfehlung des Agenten nutzt die korrigierte Fassung. Entferne eine Lektion, und die Empfehlungen, die von ihr abhingen, verschwinden mit ihr, während alles andere bleibt, wie es war. Wenn das Team später entscheidet, dass die Lektion richtig war, lässt sie sich wiederherstellen. Wenn eine neue Messung eine alte ablöst, gilt der neueste bestätigte Wert, und die Historie dessen, was sich geändert hat, bleibt erhalten.


Fragen, die du klären solltest, bevor ein Agent an gemeinsamer Arbeit lernt
Der größte Teil der Governance-Arbeit ist organisatorisch. MS Duplex gibt deinem Team die Kontrollen, und dein Team entscheidet, wie es sie nutzt. Beantworte diese Fragen schriftlich, bevor Agenten an Arbeit zu lernen beginnen, auf die sich mehrere Personen verlassen.
- Welche Regeln Regeln sind und welche Präferenzen. Formuliere die Regeln als Grenzen, innerhalb derer die Arbeit bleiben muss, und behandle Gewohnheiten und Standardwerte als Präferenzen.
- Welche Schritte auf eine Person warten. Teure Simulationen und Änderungen an gemeinsamen Daten sind die üblichen ersten Kandidaten, und Freigaben gelten in regelgesteuerten Umgebungen.
- Was persönlich bleibt, was mit einem Team geteilt wird und was als Organisationsstandard übernommen wird.
- Wer Erfahrung zwischen Ebenen verschieben darf und ob eine Änderung an der Organisationsebene eine Freigabe braucht.
- Wer das Protokoll prüft und wer eine Lektion korrigieren, entfernen oder wiederherstellen darf.
- Wo MS Duplex läuft und wie mit deinen Daten umgegangen wird. Das wird vom ersten Gespräch an mit deinen Verantwortlichen für Sicherheit und Daten vereinbart.
Häufige Fragen
Stoppt MS Duplex einen Schritt, bevor er läuft?
In einer regelgesteuerten Umgebung, einem unterstützten Setup mit Hooks, ja: Ein Schritt, der gegen eine Regel verstößt, wird gestoppt, und die Schritte, die du zur Freigabe markierst, warten auf eine Person. Bei einer Standardverbindung ruft der Agent MS Duplex für relevante Erfahrung auf, und deine Regeln und Präferenzen erscheinen in seiner Begründung.
Können die Gewohnheiten einer einzelnen Forscherin oder eines einzelnen Forschers die Agenten aller verändern?
Persönliche Präferenzen bleiben in der Ebene der jeweiligen Forscherin oder des jeweiligen Forschers und prägen nur deren eigenen Agenten. Ein Team oder die Organisation erreichen sie nur, wenn deine Regeln sie dorthin verschieben, und dabei behalten sie ihre Quelle.
Was passiert mit Empfehlungen, wenn wir eine Lektion entfernen?
Die Empfehlungen, die von dieser Lektion abhingen, verschwinden mit ihr, und alles andere bleibt, wie es war. Die Änderung wird in der Historie festgehalten, und die Lektion lässt sich wiederherstellen, wenn dein Team seine Meinung ändert.
Wird irgendetwas von unserer Erfahrung mit einem anderen Unternehmen geteilt?
Nein. Die Erfahrung in jeder Ebene gehört deiner Organisation, egal welches Modell oder welchen Anbieter du nutzt, und nichts davon wird mit einem anderen Unternehmen geteilt. Wo MS Duplex läuft und wie mit deinen Daten umgegangen wird, wird mit deinen Verantwortlichen für Sicherheit und Daten vereinbart.


Gebaut von MatterSpace
MatterSpace baut MS Duplex für Wissenschaftler, Forschende und Ingenieure in jedem Fachgebiet, damit die KI, die sie bereits nutzen, aus jedem Ergebnis lernt, das sie bestätigen.









