Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Cursusaanbod
EXO Infrastructure as Code
- Overzicht van EXO-implementatiepatronen: single-node, multi-node en RDMA-clusters
- Automatisering van afhankelijkheidsinstallaties (Xcode, uv, Node.js, Rust) met configuratiebeheer
- Het gebruik van Nix flakes voor reproduceerbare EXO-bouwprocessen en ontwikkelaarsomgevingen
- Het schrijven van Ansible-playbooks of shellscripts voor onbemande clusterprovisioning
Reproduceerbare Builds en CI-integratie
- Vastzetten van afhankelijkheden en bouwen van de dashboard in CI-pipelines
- Het uitvoeren van EXO-smoke-tests in GitHub Actions of GitLab CI-runners
- Het maken van golden images en snapshot-gebaseerde rollback-workflows voor macOS- en Linux-VM's
- Versiebeheer van aangepaste modelkaarten naast applicatiecode
Clusterdiscoverie en netwerkautomatisering
- Configuratie van mDNS en statische DNS voor betrouwbare libp2p-node-discoverie
- Automatisering van het aanmaken van netwerkprofielen en Thunderbolt-bridgebeheer op macOS
- Het gebruik van aangepaste namespaces (EXO_LIBP2P_NAMESPACE) om dev-, staging- en prod-clusters te scheiden
- Firewallregels en netwerksegmentatie voor multi-tenantomgevingen
Opslag en Modelleefcyclusbeheer
- Het ontwerpen van EXO_MODELS_DIRS- en EXO_MODELS_READ_ONLY_DIRS-strategieën
- Het monteren van NFS- of SAN-shares als read-only modelrepository's voor snelle provisioning
- Garbage collection van verouderde caches en beleid voor het behouden van versiedichte gewichten
- Automatisering van vooraf gedownloade modellen en healthchecks vóór rollende updates
Monitoring en Alerting
- Het verzenden van EXO-logs naar gecentraliseerde logging (ELK, Loki of Splunk)
- Het bouwen van Grafana-dashboards op basis van EXO_TRACING_ENABLED-output
- Alerting bij wijzigingen in clusterlidmaatschap, OOM-gebeurtenissen en pieken in inferentielaytime
- Korrelatie tussen macmon-hardwaretelemetrie en regressies in modelprestaties
Updates, Rollback en Disaster Recovery
- Voorbereiden van EXO-binary-updates op een canary-node vóór implementatie over de gehele vloot
- Modelniveau rollback: schakelen tussen gekwantiseerde versies zonder opnieuw downloaden
- Back-up en herstel van clustertoestand, aangepaste namespaces en gecachte gewichten
- Documenteren van recovery-runbooks voor scenario's waarbij het volledige cluster opnieuw moet worden gebouwd
Beveiliging en Compliance
- Toepassen van TLS op de reverse-proxylaag (nginx, traefik) voor het dashboard en API
- Implementeren van API-rate limiting en IP-whitelisting voor EXO-eindpunten
- Scheiden van clusters via VLAN's en zero-trust-netwerkbeleid
- Auditing van toegang en bijhouden van een inventaris van geïmplementeerde modellen en versies
Vereisten
- Ervaring met DevOps-praktijken (CI/CD, IaC, containerorchestratie)
- Vertrouwdheid met macOS- of Linux-systeemadministratie en pakketbeheer
- Begrip van netwerkprincipes, DNS en opslagconcepten
Doelgroep
- DevOps-engineers
- Infrastructuurarchitecten
- SRE's die verantwoordelijk zijn voor on-premise AI-werklasten
21 Uren
Getuigenissen (2)
Craig was erg betrokken bij de training, zorgde altijd dat we goed opletten, paste de voorbeelden aan op onze dagelijkse activiteiten en gaf altijd antwoord als er iets gevraagd werd, zelfs als de informatie niet in de presentatie stond.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Cursus - DevOps Foundation®
Automatisch vertaald
Hoog niveau van betrokkenheid en kennis van de trainer
Jacek - Softsystem
Cursus - DevOps Engineering Foundation (DOEF)®
Automatisch vertaald
