<i> Finetuning </i> , coché !
C’était amusant ! Dans les deux premiers chapitres, vous avez appris à connaître les modèles et les tokenizers, et vous savez maintenant comment les finetuner pour vos propres données. Pour récapituler, dans ce chapitre vous :
- avez appris à connaître les jeux de données dans le Hub,
- avez appris à charger et à prétraiter des jeux de données, notamment en utilisant le remplissage dynamique et les assembleurs,
- avez implémenté votre propre finetuning et évaluation d’un modèle,
- avez implémenté une boucle d’entraînement de niveau inférieur,
- avez utilisé 🤗 Accelerate pour adapter facilement votre boucle d’entraînement afin qu’elle fonctionne pour plusieurs GPUs ou TPUs.