Kapitel 5. Feinabstimmung und Bewertung
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
In Kapitel 4 hast du verschiedene Techniken kennengelernt, um die Leistung großer generativer Modelle zu steigern. Außerdem hast du effiziente Strategien für verteiltes Rechnen wie Distributed Data Parallel (DDP) und Fully Sharded Data Parallel (FSDP) kennengelernt, mit denen du die Entwicklung großer Modelle auf eine Reihe verteilter Recheninstanzen verteilen kannst. Diese Techniken sind wichtig, um große Basismodelle von Grund auf vorzutrainieren, aber sie sind auch nützlich, um Basismodelle im Rahmen des so genannten Fine-Tunings an deine eigenen Datensätze und Anwendungsfälle anzupassen.
In diesem Kapitel tauchst du tief in eine Feinabstimmungstechnik ein, die sogenannte Befehlsfeinabstimmung. Du hast bereits in Kapitel 2 mit der Diskussion über das Prompt-Engineering etwas über Anweisungen gelernt. Anweisungen sind Befehle an das Modell, eine bestimmte Aufgabe auszuführen, z. B. "Fasse dieses Gespräch zusammen" oder "Erstelle eine personalisierte Marketing-E-Mail". Bei der Feinabstimmung eines Basismodells mit Anweisungen ist es wichtig, eine Mischung aus Anweisungen für viele verschiedene Aufgaben anzubieten, damit das Basismodell als generatives Allzweckmodell verwendet werden kann.
In diesem Kapitel lernst du verschiedene Bewertungskennzahlen und Benchmarks kennen, mit denen du die Effektivität der ...
Get Generative KI auf AWS now with the O’Reilly learning platform.
O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.
