Cursusaanbod

Inleiding tot het optimaliseren van grote modellen

  • Overzicht van architecturen voor grote modellen
  • Uitdagingen bij het finetunen van grote modellen
  • Belang van kosteneffectieve optimalisatie

Gedistribueerde trainingstechnieken

  • Inleiding tot data- en modelparallellisme
  • Frameworks voor gedistribueerde training: PyTorch en TensorFlow
  • Schalen over meerdere GPUs en knooppunten

Modelkwantisatie en snoeien

  • Inzicht in kwantisatietechnieken
  • Snoeien toepassen om de modelgrootte te verkleinen
  • Afwegingen tussen nauwkeurigheid en efficiëntie

Hardware optimalisatie

  • De juiste hardware kiezen voor fijnafstellingstaken
  • Optimaliseren GPU en TPU-gebruik
  • Gespecialiseerde versnellers gebruiken voor grote modellen

Efficiënt Data Management

  • Strategieën voor het beheren van grote datasets
  • Voorbewerking en batching voor prestaties
  • Technieken voor gegevensvergroting

Geoptimaliseerde modellen implementeren

  • Technieken voor het implementeren van verfijnde modellen
  • Modelprestaties bewaken en onderhouden
  • Praktijkvoorbeelden van geoptimaliseerde modelimplementatie

Geavanceerde optimalisatietechnieken

  • Onderzoek naar aanpassing met een lage rang (LoRA)
  • Adapters gebruiken voor modulaire fijnafstelling
  • Toekomstige trends in modeloptimalisatie

Samenvatting en volgende stappen

Vereisten

  • Ervaring met deep learning frameworks zoals PyTorch of TensorFlow
  • Bekendheid met grote taalmodellen en hun toepassingen
  • Inzicht in concepten van gedistribueerd computergebruik

Audiëntie

  • Ingenieurs voor machine learning
  • Specialisten op het gebied van Cloud AI
 21 Uren

Aantal deelnemers


Prijs Per Deelnemer

Voorlopige Aankomende Cursussen

Gerelateerde categorieën