בקורס לומדים כיצד להעריך, לאבטח, לנטר ולבצע אופטימיזציה למערכות AI בסביבת Production, כולל AI Evaluation, Hallucination Detection, AI Security, LLMOps, Observability וניטור ביצועים ועלויות.
רגע! לפני שהולכים... 👋
אל תפספסו! מסלולי לימוד נפתחים בקרוב - מקומות מוגבלים
| מסלול RT Embedded Linux | 31/08 |
| מסלול Cyber | 31/08 |
| מסלול Machine Learning | 06/10 |
| מסלול Computer Vision | 08/10 |
✓ ייעוץ אישי ללא התחייבות | תשובה תוך 24 שעות
קורס LLMOps ו-Production AI
קורס LLMOps ו-Production AI – ניטור ואבטחת מערכות AI מתמקד במעבר ממערכת AI שעובדת כ-Prototype למערכת מקצועית שניתן למדוד, לנטר, לאבטח, לתחזק ולשפר בסביבת Production.
במהלך הקורס תלמדו כיצד להעריך את איכותן של מערכות AI, לזהות Hallucinations, לבצע בדיקות אבטחה ולהגן על המערכת מפני Prompt Injection, Jailbreaks, Data Leakage ואיומים נוספים.
הקורס כולל עבודה עם עקרונות LLMOps ו-Observability לצורך Tracing, Logging, ניטור שימוש ב-Tokens, עלויות, Latency וביצועי מודלים, תוך שימוש בכלים כגון Langfuse ו-OpenTelemetry.
בנוסף, תלמדו כיצד לבצע אופטימיזציה של ביצועים ועלויות באמצעות Model Selection, Token Optimization, Caching, Latency Optimization ו-Fallback Models.
בפרויקט המעשי Production AI Platform תשדרגו את מערכת ה-AI שנבנתה במהלך המסלול ותוסיפו לה Evaluation, Security, Observability ו-Cost Monitoring.
* מספר המפגשים והשעות למפגש עשויים להשתנות בין קורס לקורס
הקורס מיועד למפתחים ומהנדסים המעוניינים להתמקצע בהערכה, אבטחה, ניטור וניהול של מערכות AI בסביבות Production.
פרק 1
AI Evaluation
Evaluation Methodology, Golden Datasets, Test Datasets, Regression Testing, RAG Evaluation, Agent Evaluation, LLM-as-a-Judge, Relevance, Faithfulness, Accuracy ו-Hallucination Detection.
פרק 2
AI Security
Prompt Injection, Jailbreaks, Data Leakage, Malicious Documents, Tool Abuse, Excessive Permissions, Authentication, Authorization, Secrets Management ו-Input/Output Validation.
פרק 3
AI Red Team
זיהוי חולשות במערכות AI באמצעות תרחישי תקיפה ובדיקות אבטחה.
פרק 4
LLMOps
LLM Tracing, Logging, Token Usage, Cost Monitoring, Latency, Prompt Versioning, Model Monitoring ו-Production Debugging.
פרק 5
Observability
עבודה עם Tracing, Metrics, Logs ו-Alerts באמצעות כלים כגון Langfuse ו-OpenTelemetry.
פרק 6
Performance & Cost
Model Selection, Token Optimization, Caching, Latency Optimization, Cost Optimization ו-Fallback Models.
פרק 7
פרויקט מעשי – Production AI Platform
שדרוג מערכת ה-AI שנבנתה במהלך המסלול והוספת Evaluation, Security, Observability ו-Cost Monitoring.
אלכס שויחיט
ראש תחום Machine Learning
בקורס לומדים כיצד להעריך, לאבטח, לנטר ולבצע אופטימיזציה למערכות AI בסביבת Production, כולל AI Evaluation, Hallucination Detection, AI Security, LLMOps, Observability וניטור ביצועים ועלויות.
LLMOps עוסק בניהול ובניטור של מערכות המבוססות על מודלי שפה בסביבת Production. בקורס תלמדו LLM Tracing, Logging, Token Usage, Cost Monitoring, Latency, Prompt Versioning, Model Monitoring ו-Production Debugging.
מאמרים אחרונים