קורס Nvidia GPUs | פיתוח עיבוד תמונה לפרויקטים

קורס Nvidia GPUs

על הקורס

קורס Nvidia GPUs מתמקד בתכנות ואופטימיזציה של יישומים על גבי מעבדי GPU. הקורס מכסה ארכיטקטורת GPU, תכנות מקבילי, ואופטימיזציה של ביצועים, תוך התמקדות ביישומים מתחומי המדע, הנדסה, ולמידה עמוקה.

בשנים אחרונות מתפתח תחום חדש בעולם הייטק - תחום עיבוד התמונה. פיתוחים חדשניים ומוצרים חוצי גבולות בתחומים של עיבוד תמונה בשילוב עם artificial intelligence צוברים יותר ויותר תאוצה והופכים להיות כלי משנה משחק בתעשייה הייטק.

ניתן לראות בבירור כי מידי יום, יותר ויותר תקציבים ורעיונות חדשים מונחים על השולחן למען פיתוחים חדשים בנושאי תחבורה אוטונומית, תעשייה רפואית, בטיחות ועוד.

השילוב של טכנולוגיות מתקדמות אלו ביחד עם יכולות של בינה מלאכותית, עיבוד תמונה, ניתוח וויזואלי של התמונה ע"י המחשב והסקת מסקנות בהתאם, עומדים בחזית העשייה בתעשיית ההייטק הבינלאומית.

ביחד עם פיתוחים חדשים שמציגים רף חדש של יכולות ביצוע ושילוב תוכנה בחיינו למען שיפור תהליכים, ייעול ועוד- עולה גם הדרישה מהמחשב שיספק כוח חישוב בצורה מספקת שכן פיתוחים חדשניים גם דורשים זיכרון וכוח להרצת האלגוריתם שעלה בשנים האחרונות ביחד עם פיתוחים אלו.

חברת Nvidia העולמית זיהתה את הדרישה הגדולה למוצרי אלקטרוניקה מסוגים שונים ובדיוק בשלב זה היא נכנסה לתמונה, חברת Nvidia מובילה בפיתוח מוצרי האלקטרוניקה שונים בתחום עיבוד התמונה וביניהם לוחות שבבים, חומרה, לוחות אם, כרטיסי מסך ועוד. בעזרת כרטיסי מסך ומוצרים נוספים של חברת Nvidia המפתחים יכולים לקבל כוח זמין לעיבוד תמונה, זיהוי גבולות, ניתוח תמונה למען קבלת החלטות ועוד.
ניצול כוח GPU של מוצרי Nvidia עומד במרכז כל פרויקט פיתוח חדשני בתחומים אלו.

בקורס Edge Detection אנו נלמד באופן מעשי עובדה עם שני כלים של חברת Nvidia:

Jetson – מחשב קטן (Developer Kit) בעל כרטיס גרפי, זיכרון, אחסון ולמעשה מתפקד כמחשב קטן ורגיל אבל מיועד לפתח תוכנה בתחום של Edge Detection AI שעובד בצורה מעולה ביחד עם JetPack SDK שבעזרתו מנהלים את כל הליך הפיתוח בתחום והוא כולל מערכת הפעלה, ספריות קוד ועוד.

בעזרת לימוד מעשי ומקצועי ושימוש בכלים אלו נוכל לפתח ולהשתלב בפרויקטים הכי מתקדמים בתחום AI + Image Processing ולעבוד בחזית העשייה ובחברות המובילות של תעשיית ההייטק.

מבנה הקורס

קורס זה כולל הרצאות פרונטליות ותרגול מעשי.
תרגילי כיתה המלווים בהסברים, שיעורי בית ופתרונות באתר
חוברת קורס
סרטונים ומצגות באתר הקורס
ההרצאות מתקיימות פעם בשבוע בשעות הערב.

למה כדאי ללמוד Nvidia GPUs ?

מעבדי GPU הפכו לחיוניים בתחומי מחשוב מתקדמים, במיוחד בלמידה עמוקה ומדע נתונים. הקורס מעניק יכולות פיתוח ואופטימיזציה הנדרשות בתעשייה המודרנית.

מה לומדים בקורס Nvidia GPUs?

ארכיטקטורת GPU
- Memory Hierarchy
- CUDA Cores
- Stream Processing
תכנות מקבילי
- Memory Management
- Synchronization
- Optimization
יישומים מתקדמים
- Deep Learning
- Scientific Computing
- Real-time Processing

למי מיועד הקורס?

בוגרי אוניברסיטאות המעוניינים להתמחות ב-AI.
מהנדסי חומרה/תוכנה/מדעי המחשב להסבה מקצועית.
בעלי ניסיון בפייתון ולינוקס.
מפתחי למידה עמוקה ומהנדסי ביצועים.
מתאים גם לחסרי ניסיון עם עניין בתחום.

תנאי קבלה

ידע בתכנות C/C++
הבנה באלגוריתמים
רקע במחשוב מקבילי
ידע בסיסי בארכיטקטורת מחשב
מתמטיקה ברמה טובה

מיומנויות וטכניקות

תכנות מקבילי מבוסס GPU
ניהול זיכרון GPU
Memory Coalescing
Shared Memory ו-Cache
Stream Processing
אופטימיזציית ביצועים
סנכרון ותזמון
מניעת Race Conditions
Occupancy Optimization
Profiling וניתוח ביצועים
Tensor Cores לחישובי ML
Multi-GPU Programming
Asynchronous Operations
אינטגרציה עם ספריות NVIDIA

על המרצה

אלכס שויחיט

ראש תחום Machine Learning

לאלכס יש תואר ראשון בתחום מערכות מידע (BSC), תואר שני בהנדסת חשמל ואלקטרוניקה.
אלכס הוא במקצועו מהנדס RT \ Machine Learning. מומחה בתחום ה - AI, עם מעל ל -13 שנות ניסיון בפיתוח, ניהול והעברת פרויקטים מפיתוח לייצור במגוון תחומים כגון, Linux Embedded.
לאלכס יש ניסיון עם עבודה בשילוב Machine learning ו- Deep Learning בתחום ה- Computer Vision ו- Data Analysis.

תשובות לשאלות נפוצות

איך נבנה GPU מעבד של NVidia?

מעבד GPU פשוט מורכב מהמספר סדרות (תלוי מודל) יחידות זרימה (streaming units).

כל יחידה כזו מכילה זיכרון מטמון (cache memory) רמה 1 עם פקודות לביצוע, זיכרון מטמון רמת 2 עם תוצאות של פעולות שבוצעו וגישה לזיכרון המשותף לכל היחידות ומעבד עצמו.
סדרות כאלה נועדו כדי לתמוך במקביליות הרבית שזו המטרה הראשית של מעבדים מסוג GPU.

איך לבנות וללמד dataset בעזרת NVidia Jetson/Nano?

2.1. בניית dataset.
2.1.1. אפשרות הראשונה: להוריד dataset מוכן מ-github repository.
2.1.2. אפשרות הנוספת: ליצור כמות מספיקה של התמונות בעזרת מצלמת web מובנת/חיצונית או בעזרת כל מצלמה אחרת.
2.2. למידה של dataset.
2.2.1. פעולות הנדרשות הן: חלוקה של התמונות לקבוצות (batch), בחירת כמות של זורמי המידע (אמצעים שמזרימים את המידע) וכמות העברות על כל ה dataset (epochs).

איזה רקע נדרש לקורס?

נדרש ידע בסיסי בתכנות C/C++ ומערכות הפעלה. ידע בארכיטקטורת מחשבים יהווה יתרון. לא נדרש ניסיון קודם בתכנות GPU, אך הבנה בסיסית של תכנות מקבילי תעזור.

איך מתמודדים עם דיבוג?

נלמד להשתמש בכלי הדיבוג של NVIDIA כמו NSight ו-CUDA-GDB. נתרגל טכניקות לאיתור באגים נפוצים בתכנות מקבילי ושיטות לניתוח ביצועים.

מה ההמשך האפשרי אחרי הקורס?

בוגרי הקורס יכולים להשתלב בתפקידי פיתוח הדורשים מומחיות ב-GPU, כמו Deep Learning, מחקר מדעי, עיבוד תמונה ווידאו, או פיתוח משחקים. אפשר גם להמשיך לקורסים מתקדמים בנושאי HPC או AI.

מה לגבי המעבר בין CPU ל-GPU?

נלמד על אסטרטגיות יעילות להעברת נתונים בין CPU ו-GPU, כולל שימוש ב-streams, overlapping computations, ו-pinned memory. נתרגל כיצד לקבל החלטות נכונות לגבי איזה חלקים מהקוד להריץ על GPU.

האם יש תרגול על בעיות מהתעשייה?

כן, הקורס משלב תרגול על בעיות אמיתיות מהתעשייה. נעבוד על מקרי בוחן מתחומים כמו עיבוד וידאו בזמן אמת, סימולציות מדעיות, אלגוריתמים קריפטוגרפיים, ומערכות ביג דאטה.