Schița de curs

Introducere în desfășurarea AI

  • Prezentare generală a ciclului de viață al implementării AI
  • Provocări în implementarea agenților AI în producție
  • Considerații cheie: scalabilitate, fiabilitate și mentenabilitate

Containerizare și orchestrare

  • Introducere la Docker și elementele de bază ale containerizării
  • Utilizarea Kubernetes pentru orchestrarea agenților AI
  • Cele mai bune practici pentru gestionarea aplicațiilor AI containerizate

Servirea modelelor AI

  • Prezentare generală a cadrelor de servire a modelelor (de exemplu, TensorFlow Serving, TorchServe)
  • Construirea de API-uri REST pentru inferența agenților AI
  • Gestionarea predicțiilor pe loturi vs. în timp real

CI/CD pentru AI Agents

  • Configurarea conductelor CI/CD pentru implementările AI
  • Automatizarea testării și validării modelelor AI
  • Derularea actualizărilor și gestionarea controlului versiunilor

Monitorizare și optimizare

  • Implementarea instrumentelor de monitorizare pentru performanța agenților AI
  • Analizarea derapajelor modelului și a necesităților de reantrenare
  • Optimizarea utilizării și scalabilității resurselor

Securitate și Governanță

  • Asigurarea conformității cu reglementările privind confidențialitatea datelor
  • Securizarea conductelor de implementare a AI și a API-urilor
  • Auditul și înregistrarea pentru aplicațiile AI

Aplicații practice Activities

  • Containerizarea unui agent AI cu Docker
  • Implementarea unui agent AI cu Kubernetes
  • Configurarea monitorizării pentru performanța AI și utilizarea resurselor

Rezumat și pași următori

Cerințe

  • Competență în programare Python.
  • Înțelegerea fluxurilor de lucru de învățare automată
  • Familiarizarea cu instrumentele de containerizare precum Docker
  • Experiență cu DevOps practici (recomandat)

Public

  • MLOps ingineri
  • DevOps profesioniști
 14 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite