LLM Course documentation
Fein-tunen, Check!
0. Einrichtung
1. Transformer-Modelle
3. Fine-tuning von vortrainierten Modellen
EinführungDatenbearbeitungFine-tuning von Modellen mit der Trainer API oder KerasKomplettes TrainingFine-tuning, Check!Quiz am Ende des Kapitels
4. Teilen von Modellen und Tokenizers
Wörterverzeichnis
Fein-tunen, Check!
Das hat Spaß gemacht! In den ersten beiden Kapiteln hast du etwas über Modelle und Tokenizer gelernt, und jetzt weißt du, wie du sie auf deine eigenen Daten fein-tunen kannst. Rekapitulieren wir, was du in diesem Kapitel gelernt hast:
- Über Datensätze im Hub
- Wie du Datensätze lädst und vorverarbeitest, einschließlich der Verwendung von dynamischem Padding und Collators
- Implementierung des eigenen Fein-tunings und der Evaluierung eines Modells
- Eine Trainingsschleife auf niedriger Ebene implementiert
- Mit 🤗 Accelerate die Trainingsschleife so anpassen, dass sie für mehrere GPUs oder TPUs funktioniert