MODELLE / ANPASSEN, OHNE ALLES NEU ZU BEGINNEN
Eine massgeschneiderte Intelligenz kann sie berücksichtigen. Man muss aber noch wählen, was man ihr geben, womit man sie verbinden oder was man ihr beibringen soll.
DREI VERSCHIEDENE STELLHEBEL
Diese Ansätze lassen sich kombinieren. Man beginnt mit dem, was das System tun soll, und wählt dann den Hebel.
IHM ZUGANG GEBEN
Eine Suche mit Ihren freigegebenen Dokumenten verbinden und die nützlichen Quellen anzeigen. Die Informationen können aktualisiert werden, ohne das Modell erneut zu trainieren.
Erweiterte Suche – oft RAG genannt. Die Qualität der Suche und die Richtigkeit der Zitate müssen noch getestet werden.
An einem kleinen Dokumentenbestand ausprobierenIHM TOOLS ANBINDEN
Die nützlichen Funktionen anbinden: einen Lagerbestand lesen, ein Datenblatt vorschlagen, ein Format prüfen. Festlegen, was es allein tun darf und was auf eine Freigabe wartet.
Anweisungen und Tools. Eine gute Anbindung kann mehr zählen als ein grösseres Modell.
Die Vorbereitung eines Datenblatts ausprobierenIHM EIN VERHALTEN BEIBRINGEN
Ein bestehendes Modell anhand von Beispielen anpassen: fachspezifische Klassifikationen, wiederkehrendes Format, Stil oder gezieltes Verhalten.
Fine-Tuning, darunter LoRA: ein spezialisiertes Training, nicht die Erstellung eines Foundation-Modells von Grund auf.
Das Lernvorhaben öffnenLERNEN / EIN EIGENSTÄNDIGES VORHABEN
Das Labor hat eine LoRA-Anpassung eines kleinen offenen Modells durchgeführt. Für Ihre Tätigkeit lautet die Frage nicht nur «Kann man trainieren?», sondern «Was verbessert das tatsächlich?»
DER MOTOR IST NICHT DAS GANZE SYSTEM
Lokal, wenn es den Bedarf deckt. Ein Cloud-Dienst, wenn seine Leistungsfähigkeit die Nutzung rechtfertigt. Beides kann seinen Platz haben.
Ein Modellwechsel verlangt, die Tests zu wiederholen: Ergebnisse, Geschwindigkeit, Kosten, Lizenz und übermittelte Daten. Austauschbarkeit wird aufgebaut; sie lässt sich nicht auf einen Knopf reduzieren.
Einen Vergleichsprüfstand erkundenNein. Sie zu durchsuchen, um eine Antwort vorzubereiten, und sie in einem Training zu verwenden sind zwei verschiedene Vorgänge. Der Umfang, die Daten und die Anbieter werden vor ihrer Verwendung festgelegt.
Nicht unbedingt. Das hängt vom Modell, vom Volumen, von der Antwortzeit und vom Einsatzort ab. Der Test dient auch dazu, zwischen vorhandener Hardware, zusätzlicher lokaler Ressource und einem entfernten Dienst zu wählen.
Das ist eine Forschungsrichtung, die sich von einer Integrationsdienstleistung unterscheidet. Sie braucht eigene Hypothesen, Mittel und experimentelle Ergebnisse. Sie gehört in den Bereich Erkunden, nicht in ein Standard-Lieferversprechen.
Zum Vertiefen: Vergleich RAG / Fine-Tuning, AWS · Modellanpassung mit PEFT, Hugging Face.