Eigenes Modell trainieren
So läuft ein Trainingsprojekt mit Kontinent ab: von Ihren Dokumenten zu einem eigenen Modell, vorher und nachher gemessen.
Neben der API trainiert Kontinent Modelle für eine bestimmte Aufgabe von Ihnen: Felder aus einem Dokument ziehen, ein Dokument einordnen oder eine Entscheidung treffen, deren richtige Antwort sich aufschreiben und prüfen lässt. Das ist ein Projekt, das wir gemeinsam mit Ihnen durchführen, keine Self-Service-Funktion. Eine Trainings-API und Trainingsjobs in der Konsole gibt es noch nicht: Die Seiten Training, Dedicated und Datasmith in der Konsole sind Vorschauen auf das, was kommt.
Für ein Projekt buchen Sie ein Gespräch.
Begriffe auf dieser Seite: Das kleine Modell, das wir für Sie trainieren, heißt Student. Das große Modell, das ihm beim Lernen hilft, heißt Teacher. Die richtigen Antworten, die Sie für eine Stichprobe geben, heißen Gold-Labels. Die Messung vor dem Training heißt Baseline, die danach Eval. Ein Adapter ist die Datei, in der das Gelernte steckt.
Was Sie am Ende haben
- Den Adapter im Standardformat safetensors. Er läuft mit den üblichen offenen Werkzeugen (transformers, vLLM, TGI) auf dem öffentlichen Basismodell. Für den Betrieb brauchen Sie Kontinent nicht, und er gehört Ihnen.
- Zwei gemessene Zahlen: wie gut das Basismodell Ihre Aufgabe vor dem Training konnte und wie gut Ihr Modell sie danach kann, auf denselben Dokumenten, mit Konfidenzintervall und der Aussage, ob der Unterschied statistisch trägt.
- Eine Modellkarte: Basismodell, Lizenz, verwendete Daten, Ergebnis vorher und nachher, bekannte Grenzen, wie man das Modell betreibt.
- Ein Prüfprotokoll: jedes Prüfdokument mit der Antwort vor dem Training, der Antwort danach und Ihrer richtigen Lösung, Abweichungen markiert.
- Prüfsummen über alles, damit Sie nachweisen können, dass das Paket unverändert ist.
So läuft ein Projekt ab
| Phase | Was passiert | Ihr Aufwand |
|---|---|---|
| 1 Aufgabe festlegen | Wir legen gemeinsam fest, was das Modell aus jedem Dokument liefern soll. | Ein Termin von etwa 90 Minuten mit einem Fachexperten |
| 2 Dokumente liefern | Sie übergeben 500 bis 1.500 Dokumente ohne Antworten. | Export aus Ihrem System, Klärung der Datenweitergabe |
| 3 Prüfset beschriften | Sie geben für 40 bis 90 Dokumente die richtige Antwort. | Etwa zwei Minuten je Dokument |
| 4 Messen vor dem Training | Baseline, Obergrenze des Teachers, Diagnose. | Keiner, Sie erhalten die Zahlen |
| 5 Verfahren wählen | Wir empfehlen ein Verfahren und nennen die Kosten, Sie entscheiden. | Eine Entscheidung |
| 6 Trainieren, messen, übergeben | Trainingslauf, Eval, Paket. | Abnahme des Ergebnisses |
Nach Phase 4 gibt es einen Punkt, an dem wir abbrechen, bevor Sie Compute bezahlen: Schlägt schon der Teacher nicht, was Ihr heutiges System erreicht, hilft es auch nicht, einen Student darauf zu trainieren, und wir sagen Ihnen das mit den Zahlen.