Cursuri de pregatire Programming with Big Data in R

Formatul cursului

• Prelegere și discuții interactive.
• O mulțime de exerciții și practică.
• Implementare practică într-un mediu live-lab.

Opțiuni de personalizare a cursului

• Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.

Acest curs se adresează dezvoltatorilor și cercetătorilor de date care doresc să înțeleagă și să implementeze inteligența artificială în aplicațiile lor. O atenție deosebită este acordată analizei datelor, inteligenței artificiale distribuite și procesării limbajului natural.

Apache Beam este un model de programare unificat, cu sursă deschisă, pentru definirea și executarea conductelor paralele de prelucrare a datelor. Puterea sa constă în capacitatea sa de a rula atât conducte pe loturi, cât și conducte de flux, execuția fiind efectuată de unul dintre back-end-urile de procesare distribuită acceptate de Beam: Apache Apex, Apache Flink, Apache Spark și Google Cloud Dataflow. Apache Beam este util pentru sarcinile ETL (Extract, Transform, and Load), cum ar fi mutarea datelor între diferite medii de stocare și surse de date, transformarea datelor într-un format mai dorit și încărcarea datelor într-un sistem nou.

În cadrul acestei formări live (la fața locului sau de la distanță) susținute de un instructor, participanții vor învăța cum să implementeze SDK-urile Apache Beam într-o aplicație Java sau Python care definește o conductă de procesare a datelor pentru descompunerea unui set de date mari în bucăți mai mici pentru procesare independentă, paralelă.

La finalul acestei instruiri, participanții vor fi capabili să:

• Să instaleze și să configureze Apache Beam.
• Să utilizeze un singur model de programare pentru a efectua atât procesarea pe loturi, cât și pe fluxuri din cadrul aplicației Java sau Python.
• Să execute pipeline-uri în mai multe medii.

Formatul cursului

• Parte prelegere, parte discuție, exerciții și multă practică

Notă

• Acest curs va fi disponibil Scala în viitor. Vă rugăm să ne contactați pentru a aranja.

În cadrul acestui curs de formare live, condus de un instructor, în Moldova, participanții vor învăța cum să construiască un Data Vault.

Până la sfârșitul acestei instruiri, participanții vor fi capabili să:

• Înțeleagă arhitectura și conceptele de proiectare din spatele Data Vault 2.0 și interacțiunea sa cu Big Data, NoSQL și AI.
• Să utilizeze tehnici de arhivare a datelor pentru a permite auditarea, urmărirea și inspectarea datelor istorice într-un depozit de date.
• Dezvoltarea unui proces ETL (extragere, transformare, încărcare) coerent și repetabil.
• Construiți și implementați depozite foarte scalabile și repetabile.

Acest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) prezintă principiile și abordările care stau la baza procesării distribuite a datelor în flux și pe loturi și conduce participanții prin crearea unei aplicații de flux de date în timp real în Apache Flink.

Până la sfârșitul acestui curs, participanții vor fi capabili să:

• Să creeze un mediu pentru dezvoltarea de aplicații de analiză a datelor.
• Să înțeleagă cum funcționează biblioteca de procesare a grafurilor (Gelly) din Apache Flink.
• Să împacheteze, să execute și să monitorizeze aplicații de flux de date bazate pe Flink, tolerante la erori.
• Gestionarea diverselor sarcini de lucru.
• Efectuarea de analize avansate.
• Configurarea unui cluster Flink cu mai multe noduri.
• Măsurarea și optimizarea performanței.
• Integrarea Flink cu diferite sisteme Big Data.
• Compararea capacităților Flink cu cele ale altor cadre de procesare a datelor mari.

În cadrul acestei formări live cu instructor în Moldova, participanții vor învăța despre ofertele tehnologice și abordările de implementare pentru prelucrarea datelor grafice. Scopul este de a identifica obiecte din lumea reală, caracteristicile și relațiile acestora, apoi de a modela aceste relații și de a le prelucra ca date utilizând o abordare Graph Computing (cunoscută și sub denumirea de Graph Analytics). Vom începe cu o prezentare generală și ne vom concentra pe instrumente specifice pe măsură ce parcurgem o serie de studii de caz, exerciții practice și implementări live.

Până la sfârșitul acestui curs, participanții vor fi capabili să:

• Să înțeleagă modul în care datele grafice sunt păstrate și parcurse.
• Să selecteze cel mai bun cadru pentru o anumită sarcină (de la baze de date grafice la cadre de procesare pe loturi).
• Să implementeze Hadoop, Spark, GraphX și Pregel pentru a efectua calculul grafurilor pe mai multe mașini în paralel.
• Vizualizarea problemelor reale legate de big data în termeni de grafuri, procese și traversări.

Această instruire live, condusă de un instructor în Moldova (online sau la fața locului) prezintă Hortonworks Data Platform (HDP) și conduce participanții prin implementarea soluției Spark + Hadoop.

Până la sfârșitul acestui training, participanții vor fi capabili să:

• Să utilizeze Hortonworks pentru a rula fiabil Hadoop la scară largă.
• Unifice capacitățile de securitate, guvernanță și operațiuni ale Hadoop cu fluxurile de lucru analitice agile ale Spark.
• Utilizați Hortonworks pentru a investiga, valida, certifica și sprijini fiecare dintre componentele unui proiect Spark.
• Procesați diferite tipuri de date, inclusiv structurate, nestructurate, în mișcare și în repaus.

Cloudera Impala este un motor de interogare SQL de procesare masiv paralelă (MPP) cu sursă deschisă pentru clustere Apache Hadoop.

Impala permite utilizatorilor să emită interogări SQL cu latență redusă pentru datele stocate în Hadoop Distributed File System și Apache Hbase fără a necesita deplasarea sau transformarea datelor.

Audiență

Acest curs se adresează analiștilor și cercetătorilor de date care efectuează analize asupra datelor stocate în Hadoop prin intermediul instrumentelor Business Intelligence sau SQL.

După acest curs, delegații vor fi capabili să

• Să extragă informații semnificative din clusterele Hadoop cu Impala.
• Scrie programe specifice pentru a facilita Business Intelligence în Impala SQL dialect.
• Să rezolve problemele Impala.

Acest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor care doresc să implementeze Apache Kafka procesarea fluxurilor fără a scrie cod.

Până la sfârșitul acestei formări, participanții vor fi capabili să:

• Să instaleze și să configureze Confluent KSQL.
• Să configureze o conductă de procesare a fluxurilor utilizând numai comenzi SQL (fără codare Java sau Python).
• Să efectueze filtrarea datelor, transformări, agregări, îmbinări, ferestre și sesionări în întregime în SQL.
• Proiectați și implementați interogări interactive și continue pentru ETL în flux și analize în timp real.

În cadrul acestei formări live cu instructor în Moldova (la fața locului sau la distanță), participanții vor învăța cum să implementeze și să gestioneze Apache NiFi într-un mediu de laborator live.

Până la sfârșitul acestui training, participanții vor fi capabili să:

• Să instaleze și să configureze Apachi NiFi.
• Să genereze, să transforme și să gestioneze date din surse de date disparate și distribuite, inclusiv baze de date și lacuri de date mari.
• Să automatizeze fluxurile de date.
• Să permită analizele de flux.
• Aplicați diverse abordări pentru ingestia datelor.
• Transformarea Big Data și în perspective de afaceri.

În cadrul acestei formări live, condusă de un instructor în Moldova, participanții vor învăța elementele de bază ale programării bazate pe flux pe măsură ce vor dezvolta o serie de extensii, componente și procesoare demonstrative utilizând Apache NiFi.

Până la sfârșitul acestei instruiri, participanții vor fi capabili să:

• Să înțeleagă arhitectura NiFi și conceptele de flux de date.
• Să dezvolte extensii utilizând NiFi și API-uri terțe.
• Să își dezvolte propriul procesor Apache Nifi personalizat.
• Să primească și să proceseze date în timp real din formate de fișiere și surse de date disparate și neobișnuite.

În cadrul acestui curs de formare live, condus de un instructor în Moldova, participanții vor învăța cum să utilizeze Python și Spark împreună pentru a analiza date mari, pe măsură ce lucrează la exerciții practice.

Până la sfârșitul acestui training, participanții vor fi capabili să:

• Să învețe cum să utilizeze Spark cu Python pentru a analiza Big Data.
• Să lucreze la exerciții care imită cazuri din lumea reală.
• Să utilizeze diferite instrumente și tehnici pentru analiza datelor mari utilizând PySpark.

Această instruire live, cu instructor, în Moldova (online sau la fața locului) se adresează inginerilor de date, cercetătorilor de date și programatorilor care doresc să utilizeze caracteristicile Spark Streaming în procesarea și analiza datelor în timp real.

Până la sfârșitul acestei instruiri, participanții vor fi capabili să utilizeze Spark Streaming pentru a procesa fluxuri de date în timp real pentru a fi utilizate în baze de date, sisteme de fișiere și tablouri de bord în timp real.

MLlib este biblioteca Spark de învățare automată (ML). Scopul său este de a face învățarea practică a mașinilor scalabilă și ușoară. Se compune din algoritmi și utilități comune de învățare, inclusiv clasificarea, regresia, gruparea, filtrarea colaborativă, reducerea dimensiunilor, precum și primitivele de optimizare la nivel inferior și API-urile de conducte de nivel superior.

Se împarte în două pachete:

• spark.mllib conține API original construit pe partea de sus RDDs.

• spark.ml furnizează API de nivel superior construit pe partea de sus a DataFrames pentru construirea conductelor ML.

Public

Acest curs este adresat inginerilor și dezvoltatorilor care încearcă să utilizeze o mașină de bibliotecă construită pentru Apache Spark

Tidyverse este o colecție de pachete R versatile pentru curățarea, procesarea, modelarea și vizualizarea datelor. Unele dintre pachetele incluse sunt: ggplot2, dplyr, tidyr, readr, purrr și tibble.

În cadrul acestui instruire, instruit în direct, participanții vor învăța cum să manipuleze și să vizualizeze datele folosind instrumentele incluse în Tidyverse .

Până la sfârșitul acestui antrenament, participanții vor putea:

• Efectuați analiza datelor și creați vizualizări atrăgătoare
• Obțineți concluzii utile din diverse seturi de date cu date de probă
• Filtrați, sortați și rezumați datele pentru a răspunde la întrebări exploratorii
• Transformați datele procesate în linii informative, loturi de bare, histograme
• Importați și filtrați date din diverse surse de date, inclusiv Excel , CSV și SPSS

Public

• Începători în limba R
• Începători pentru analiza și vizualizarea datelor

Formatul cursului

• Partea de prelegere, o discuție parțială, exerciții și practici practice