KI im Mittelstand

KI schreibt jetzt KI um. Wir haben es sofort getestet.

Eine KI repariert ein anderes Modell direkt in seinen Gewichten. Wir haben den Ansatz sofort in unserem lokalen Frontdesk getestet. Im internen Posteingangstest stieg die Qualitätsquote von 92 auf 99,4 Prozent.

Eigenes Vorhaben besprechen ↗
Ein sinnvoller erster SchrittKI im Mittelstand

Mit konkreten Beispielen und Grafiken für Ihren nächsten Schritt.

Den Ratgeber lesen ↓

Von der Studie in unseren Posteingang

Die Arbeit ist gerade erschienen. Am Montag, dem 2. November, veröffentlichte ein Team am MIT CSAIL, wie eine KI ein anderes Sprachmodell direkt in seinen Gewichten repariert. GPT-6 Astra spürte bei einem kleinen Qwen-Modell eine Denkschleife auf und änderte rund 0,016 Prozent seiner Gewichte. Im selben Mathe-Benchmark sprang das Ergebnis unter denselben Einstellungen von 7,9 auf 48,1 Prozent. Astra schrieb die Änderung direkt, ohne einen Trainingslauf zu starten. Takehi et al. · Sparks of Weight-Space Programming ↗

Wir haben den Ansatz sofort ausprobiert. Bei nited.ai bauen wir Business Office & Frontdesk, unsere KI-Lösung für den Mittelstand. Sie verarbeitet gescannte Post und führt Dokumente, Anrufe, Termine und Aufgaben im selben Ablauf zusammen. Für den Versuch haben wir uns die Dokumentenverarbeitung im Posteingang vorgenommen und die Gewichte des lokalen Modells direkt angepasst. Im internen Test stieg die Qualitätsquote von 92 auf 99,4 Prozent.

Die Qualitätsquote und der Vorher-nachher-Vergleich stammen aus internen Frontdesk-Tests.

Warum das verändert, wie wir KI trainieren

Modellgewichte sind die Zahlen, die bestimmen, wie ein Sprachmodell eine Eingabe verarbeitet. Beim üblichen Training verschiebt ein Optimierer diese Zahlen anhand von Beispielen. Bei Weight-Space Programming untersucht ein KI-Agent einen konkreten Fehler und bearbeitet die betreffenden Gewichte direkt. Für mich verändert das die Frage, die wir bei einem Modellfehler stellen. Wo entsteht er und lässt er sich dort reparieren?

Im Qwen-Experiment hat der Eingriff eine Wiederholungsschleife entschärft. Das Modell kam dadurch öfter bis zur Antwort. Bei einem zweiten Modell, das selten in solchen Schleifen hing, erzielten die Forschenden keinen belastbaren Gewinn. Für Unternehmen liegt die Chance bei konkreten Fehlern. Wenn wir einen wiederkehrenden Fehler sauber eingrenzen, können wir gezielt nach einer Reparatur suchen und sie am selben Ablauf messen. Takehi et al. · Sparks of Weight-Space Programming ↗

Wann KI sich rekursiv selbst verbessert

Im veröffentlichten Experiment repariert Astra ein anderes Modell. Rekursiv wird der Prozess, wenn eine verbesserte Version selbst in der nächsten Runde bessere Modelländerungen findet, prüft und weitergibt. Dann verbessert sich mit jedem erfolgreichen Durchlauf auch die Fähigkeit, die nächste Verbesserung zu finden. Für diesen Nachweis braucht es mehrere Runden und Tests an Aufgaben, die das System beim Entwickeln der Änderungen nicht gesehen hat. Die Forschungsarbeit zeigt, dass ein entscheidender Teil dieser Schleife bereits funktioniert. Eine KI kann einen Fehler in den Gewichten eines Sprachmodells untersuchen und eine wirksame Reparatur schreiben. Takehi et al. · Sparks of Weight-Space Programming ↗

Der Test beginnt mit einem Brieföffner

Post kommt rein. Jemand öffnet die Umschläge, legt die Schreiben auf einen Stapel und scannt ihn in einem Durchgang. In der PDF steckt alles hintereinander. Eine Rechnung. Ein mehrseitiger Bescheid. Vielleicht ein Vertrag in zwei Ausfertigungen.

Frontdesk trennt den Stapel in einzelne Dokumente und erkennt, was jeweils vorliegt. Dann entscheidet der Ablauf, wo das Dokument hingehört und ob jemand etwas erledigen muss. Eine zweite Vertragsausfertigung gehört zur selben Sache. Wenn der aktuelle Zahlungsstatus einer Rechnung unklar ist, bekommt das Team eine konkrete Rückfrage. „Ist diese Rechnung noch offen?“

Warum wir die KI im Unternehmen laufen lassen

Wir testen Frontdesk mit offenen Modellen auf eigener Infrastruktur. So verarbeiten wir die Dokumente vor Ort. Die Briefe, Rechnungen und Verträge müssen dafür an keinen Cloud-Dienst geschickt werden.

Die anspruchsvollen Fälle zeigen, wo uns leistungsfähigere Frontier-Modelle als Maßstab dienen. Ähnliche Schreiben müssen getrennt bleiben, Kundennamen richtig zugeordnet und Unsicherheiten als Rückfragen ausgegeben werden. Unser lokaler Ablauf erreichte im internen Test zunächst 92 Prozent. Für ein Team, das jeden Tag Stapel verarbeitet, entscheidet die verbleibende Nacharbeit darüber, wie viel von der Automatisierung im Alltag ankommt.

Welches Firmenwissen jetzt im Modell steckt

Bisher bekam das Modell zusätzliches Kundenwissen über RAG. Bei diesem Verfahren sucht die Anwendung passende Informationen in einem separaten Wissensspeicher und gibt sie bei Bedarf an das Modell weiter. Lewis et al. · Retrieval-Augmented Generation ↗

In unserem getesteten Posteingang steckt das für alle Mitarbeitenden freigegebene Kundenwissen, das Frontdesk für diesen Ablauf braucht, direkt in der angepassten Modellversion. Für diesen Teil entfällt der zusätzliche Abruf.

Inhalte mit eingeschränkter Freigabe bleiben im separaten Speicher. Dort können wir den Zugriff pro Nutzer prüfen, bevor ein Eintrag an das Modell geht. Ob jemand einen vertraulichen Vorgang sehen darf, entscheidet die Anwendung anhand seiner Berechtigungen. Genau dafür bleibt RAG in diesem Aufbau im Einsatz.

So setzen wir KI im Mittelstand ein

Wir starten mit einem Vorgang, den ein Team heute schon jeden Tag bearbeitet. Beim Posteingang reicht dafür ein echter Stapel. Gemeinsam legen wir fest, welche Dokumente zusammengehören, was eine Aufgabe auslöst und bei welchen Informationen eine Freigabe nötig ist. Dann messen wir die Qualität am konkreten Ablauf und prüfen, wie viel Nacharbeit für das Team übrig bleibt.

Mit diesem Update nimmt unsere Frontdesk-Lösung dem Team beim Posteingang mehr Arbeit ab. Im internen Test blieben deutlich weniger Dokumente zum Nachprüfen und weniger Zuordnungen zum Korrigieren. Was eine Entscheidung braucht, kommt als konkrete Rückfrage an. Wenn euer Team heute noch jeden Brief einzeln prüft, zeigen wir euch gern an einem typischen Stapel, wie unsere Lösung damit umgeht.

Quellen und Einordnung

Auswertung der veröffentlichten Forschungsarbeit von MIT CSAIL und eines internen Frontdesk-Tests. Die Forschungs- und Testresultate beziehen sich auf unterschiedliche Aufgaben.

  1. Takehi et al. · Sparks of Weight-Space Programming ↗

    Versuchsaufbau, Gewichtseingriff und Ergebnisse aus Experiment 8.

    Forschungsdemonstration. Kein Versuch mit Unternehmensdaten und kein allgemeiner Kostenvergleich. Abruf: .
  2. Lewis et al. · Retrieval-Augmented Generation ↗

    Verknüpfung eines Sprachmodells mit extern abgerufenen Informationen.

    Die Studie evaluiert keine konkrete Unternehmensanwendung. Abruf: .
nited.ai

Ihre Idee mit nited.ai ausarbeiten

Wählen Sie für jeden Zweck Erlauben oder Nicht tracken. Vor dem Speichern startet keine neue optionale Messung.