Cursuri de pregatire DeepSpeed for Deep Learning
DeepSpeed este o bibliotecă de optimizare a învățării profunde care facilitează scalarea modelelor de învățare profundă pe hardware distribuit. Dezvoltată de Microsoft, DeepSpeed se integrează cu PyTorch pentru a oferi o scalare mai bună, o instruire mai rapidă și o utilizare mai bună a resurselor.
Această formare live (online sau la fața locului), condusă de un instructor, se adresează cercetătorilor de date de nivel începător până la intermediar și inginerilor de învățare automată care doresc să îmbunătățească performanța modelelor lor de învățare profundă.
Până la sfârșitul acestei instruiri, participanții vor fi capabili să:
- Înțeleagă principiile învățării profunde distribuite.
- Să instaleze și să configureze DeepSpeed.
- Să scaleze modele de învățare profundă pe hardware distribuit utilizând DeepSpeed.
- Să implementeze și să experimenteze cu caracteristicile DeepSpeed pentru optimizare și eficiență a memoriei.
Formatul cursului
- Prelegere și discuții interactive.
- O mulțime de exerciții și practică.
- Implementare practică într-un mediu live-lab.
Opțiuni de personalizare a cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Schița de curs
Introducere
- Prezentare generală a provocărilor legate de scalarea învățării profunde
- Prezentare generală a DeepSpeed și a caracteristicilor sale
- DeepSpeed vs. alte biblioteci distribuite de învățare profundă
Noțiuni introductive
- Configurarea mediului de dezvoltare
- Instalarea PyTorch și DeepSpeed
- Configurarea DeepSpeed pentru instruire distribuită
Caracteristici de optimizare DeepSpeed
- Conducta de formare DeepSpeed
- ZeRO (optimizarea memoriei)
- Punct de control al activării
- Punct de control al gradientului
- Paralelismul conductei
Scalarea modelelor cu DeepSpeed
- Scalarea de bază utilizând DeepSpeed
- Tehnici avansate de scalare
- Considerații privind performanța și cele mai bune practici
- Tehnici de depanare și de rezolvare a problemelor
Subiecte avansate DeepSpeed
- Tehnici avansate de optimizare
- Utilizarea DeepSpeed cu instruire cu precizie mixtă
- DeepSpeed pe hardware diferit (de exemplu, GPUs, TPU)
- DeepSpeed cu noduri de formare multiple
Integrarea DeepSpeed cu PyTorch
- Integrarea DeepSpeed cu fluxurile de lucru PyTorch
- Utilizarea DeepSpeed cu PyTorch Lightning
Rezolvarea problemelor
- Depanarea problemelor comune ale DeepSpeed
- Monitorizare și logare
Rezumat și pași următori
- Recapitularea conceptelor și caracteristicilor cheie
- Cele mai bune practici pentru utilizarea DeepSpeed în producție
- Resurse suplimentare pentru a afla mai multe despre DeepSpeed
Cerințe
- Cunoașterea intermediară a principiilor învățării profunde
- Experiență cu PyTorch sau cadre similare de învățare profundă
- Familiaritate cu programarea Python
Audiență
- Oameni de știință în domeniul datelor
- Ingineri de învățare automată
- Dezvoltatori
Cursurile publice necesita 5+ participanti
Cursuri de pregatire DeepSpeed for Deep Learning - Booking
Cursuri de pregatire DeepSpeed for Deep Learning - Enquiry
DeepSpeed for Deep Learning - Cerere de consultanta
Cerere de consultanta
Upcoming Courses
Cursuri înrudite
Advanced Stable Diffusion: Deep Learning for Text-to-Image Generation
21 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează oamenilor de știință din domeniul datelor de nivel intermediar până la avansat, inginerilor din domeniul învățării automate, cercetătorilor din domeniul învățării profunde și experților în viziune computerizată care doresc să își extindă cunoștințele și abilitățile în învățarea profundă pentru generarea de text în imagine.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Înțeleagă arhitecturile și tehnicile avansate de învățare profundă pentru generarea text-imagine.
- Să implementeze modele complexe și optimizări pentru sinteza imaginilor de înaltă calitate.
- Să optimizeze performanța și scalabilitatea pentru seturi mari de date și modele complexe.
- Reglați hiperparametrii pentru o mai bună performanță și generalizare a modelului.
- Integrarea Stable Diffusion cu alte cadre și instrumente de învățare profundă
AlphaFold
7 oreAceastă formare live, cu instructor, în Moldova (online sau la fața locului) se adresează biologilor care doresc să înțeleagă cum funcționează AlphaFold și să utilizeze modele AlphaFold ca ghid în studiile lor experimentale.
La sfârșitul acestei formări, participanții vor fi capabili să:
- Înțeleagă principiile de bază ale AlphaFold.
- Să învețe cum funcționează AlphaFold.
- Să învețe cum să interpreteze predicțiile și rezultatele AlphaFold.
Applied AI from Scratch
28 oreAcesta este un curs de 4 zile care prezintă inteligența artificială și aplicarea acesteia. Există opțiunea de a avea o zi suplimentară pentru a întreprinde un proiect AI la finalizarea acestui curs.
Deep Learning for Vision with Caffe
21 oreCaffe este un cadru de învățare profund făcut în expresie, viteză și modularitate în minte.
Acest curs explorează aplicarea Caffe ca cadru de învățare profundă pentru recunoașterea imaginii folosind MNIST ca exemplu
Public
Acest curs este potrivit pentru cercetătorii de la Deep Learning și pentru inginerii interesați să utilizeze Caffe ca cadru.
După finalizarea acestui curs, delegații vor putea:
- să înțeleagă structura și mecanismele de implementare a lui Caffe
- efectuați sarcinile și configurația mediului de instalare / producție / arhitecturii
- evaluarea calității codului, efectuarea depanării, monitorizarea
- să implementeze producția avansată, cum ar fi modelele de formare, punerea în aplicare a straturilor și logarea
Deep Learning Neural Networks with Chainer
14 oreAceastă formare live, cu instructor, în Moldova (online sau la fața locului) se adresează cercetătorilor și dezvoltatorilor care doresc să utilizeze Chainer pentru a construi și a antrena rețele neuronale în Python, făcând codul ușor de depanat.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să configureze mediul de dezvoltare necesar pentru a începe să dezvolte modele de rețele neuronale.
- Să definească și să implementeze modele de rețele neuronale utilizând un cod sursă inteligibil.
- Să execute exemple și să modifice algoritmii existenți pentru a optimiza modelele de formare de învățare profundă, valorificând în același timp GPUs pentru performanțe ridicate.
Using Computer Network ToolKit (CNTK)
28 oreComputer Network ToolKit (CNTK) este Microsoft Open Source, Multi-machine, Multi-GPU, Highly efficent RNN training machine learning framework for speech, text, and images.
Audiență
Acest curs se adresează inginerilor și arhitecților care doresc să utilizeze CNTK în proiectele lor.
Computer Vision with Google Colab and TensorFlow
21 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel avansat care doresc să își aprofundeze cunoștințele despre viziunea computerizată și să exploreze capacitățile TensorFlow de a dezvolta modele sofisticate de viziune utilizând Google Colab.
La sfârșitul acestei formări, participanții vor fi capabili să:
- Să construiască și să antreneze rețele neuronale convoluționale (CNN) utilizând TensorFlow.
- Să utilizeze Google Colab pentru dezvoltarea de modele scalabile și eficiente bazate pe cloud.
- Să implementeze tehnici de preprocesare a imaginilor pentru sarcini de viziune computerizată.
- Implementați modele de viziune computerizată pentru aplicații din lumea reală.
- Utilizarea învățării prin transfer pentru îmbunătățirea performanței modelelor CNN.
- Vizualizați și interpretați rezultatele modelelor de clasificare a imaginilor.
Deep Learning with TensorFlow in Google Colab
14 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează cercetătorilor și dezvoltatorilor de date de nivel mediu care doresc să înțeleagă și să aplice tehnici de învățare profundă utilizând mediul Google Colab.
Până la sfârșitul acestui training, participanții vor fi capabili să:
- Să configureze și să navigheze în Google Colab pentru proiecte de învățare profundă.
- Să înțeleagă elementele fundamentale ale rețelelor neuronale.
- Să implementeze modele de învățare profundă utilizând TensorFlow.
- Să antreneze și să evalueze modele de învățare profundă.
- Să utilizeze caracteristicile avansate ale TensorFlow pentru învățarea profundă.
Deep Learning for NLP (Natural Language Processing)
28 oreÎn acest training live, condus de un instructor în Moldova, participanții vor învăța să folosească Python biblioteci pentru NLP în timp ce creează o aplicație care procesează un set de imagini și generează legende.
La sfârșitul acestui curs de formare, participanții vor fi capabili să:
- Design și cod DL pentru NLP folosind Python biblioteci.
- Creați Python cod care citește o colecție substanțial uriașă de imagini și generează cuvinte cheie. .
- Creați Python Cod care generează legende din cuvintele cheie detectate.
Edge AI with TensorFlow Lite
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor de nivel intermediar, oamenilor de știință de date și practicienilor în domeniul IA care doresc să utilizeze TensorFlow Lite pentru aplicații Edge AI.
La sfârșitul acestui curs de formare, participanții vor putea să:
- Înțeleagă elementele fundamentale ale TensorFlow Lite și rolul său în Edge AI.
- Să dezvolte și să optimizeze modelele de inteligență artificială utilizând TensorFlow Lite.
- Să implementeze modele TensorFlow Lite pe diverse dispozitive de margine.
- Să utilizeze instrumente și tehnici de conversie și optimizare a modelelor.
- Implementarea aplicațiilor practice Edge AI utilizând TensorFlow Lite.
Accelerating Deep Learning with FPGA and OpenVINO
35 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează cercetătorilor de date care doresc să accelereze aplicațiile de învățare automată în timp real și să le implementeze la scară largă.
Până la sfârșitul acestei instruiri, participanții vor fi capabili să:
- Să instaleze setul de instrumente OpenVINO.
- Să accelereze o aplicație de computer vision utilizând un FPGA.
- Să execute diferite straturi CNN pe FPGA.
- Să scaleze aplicația pe mai multe noduri dintr-un cluster Kubernetes.
Distributed Deep Learning with Horovod
7 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor sau oamenilor de știință din domeniul datelor care doresc să utilizeze Horovod pentru a rula instruiri distribuite de învățare profundă și să le extindă pentru a rula pe mai multe GPUs în paralel.
Până la sfârșitul acestui training, participanții vor fi capabili să:
- Să configureze mediul de dezvoltare necesar pentru a începe să ruleze traininguri de învățare profundă.
- Să instaleze și să configureze Horovod pentru a antrena modele cu TensorFlow, Keras, PyTorch și Apache MXNet.
- Să scaleze antrenamentele de învățare profundă cu Horovod pentru a rula pe mai multe GPUs.
Deep Learning with Keras
21 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează persoanelor tehnice care doresc să aplice modelul de învățare profundă în aplicații de recunoaștere a imaginilor.
La sfârșitul acestei formări, participanții vor fi capabili să:
- Instalați și configurați Keras.
- Să prototipeze rapid modele de învățare profundă.
- Să implementeze o rețea convoluțională.
- Să implementeze o rețea recurentă.
- Să execute un model de învățare profundă atât pe un procesor, cât și pe GPU.
Introduction to Stable Diffusion for Text-to-Image Generation
21 oreAceastă instruire live (online sau la fața locului), condusă de un instructor, se adresează oamenilor de știință din domeniul datelor, inginerilor din domeniul învățării automate și cercetătorilor din domeniul viziunii computerizate care doresc să valorifice Stable Diffusion pentru a genera imagini de înaltă calitate pentru o varietate de cazuri de utilizare.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să înțeleagă principiile Stable Diffusion și modul în care funcționează pentru generarea de imagini.
- Să construiască și să antreneze modele Stable Diffusion pentru sarcini de generare a imaginilor.
- Să aplice Stable Diffusion la diverse scenarii de generare a imaginilor, cum ar fi inpainting, outpainting și traducerea de la imagine la imagine.
- Optimizarea performanței și stabilității modelelor Stable Diffusion.
Tensorflow Lite for Microcontrollers
21 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează inginerilor care doresc să scrie, să încarce și să ruleze modele de învățare automată pe dispozitive integrate foarte mici.
La sfârșitul acestui curs de formare, participanții vor fi capabili să:
- Instalați TensorFlow Lite.
- Încărcați modele de învățare automată pe un dispozitiv încorporat pentru a-i permite să detecteze vorbirea, să clasifice imagini etc. .
- Adaugați inteligența artificială la dispozitivele hardware fără a vă baza pe conectivitatea de rețea. .