אנבידיה מייתרת חיבור PCIe מסורתי בין מעבד מרכזי למעבד גרפי
המארז החדש שמציעה החברה מגדיל את רוחב הפס בין GPU ו-CPU פי שבע בהשוואה לטכנולוגיית ה-PCIe העדכנית ביותר | מחשב על המבוסס על טכנולוגיה זו יוכל לספק כוח מחשוב של 1-Exaflop
באדיבות אנבידיה
אנבידיה הכריזה על סוג חדש של מחשבי-על עתירי זיכרון עבור משימות בינה מלאכותית גדולות ומורכבות.
מחשב על מסדרת NVIDIA DGX המבוסס על סופר-שבבים מדגם NVIDIA Grace Hopper Superchips וטכנולוגיית התקשורת NVIDIA NVLink Switch System, שנוצרו כדי לאפשר את פיתוח הדור הבא של מודלי בינה מלאכותית יוצרת גדולים במיוחד עבור יישומי שפה, מערכות המלצה ומשימות ענק לניתוח ועיבוד נתונים.
ל-NVIDIA DGX GH200, שצפוי להיות זמין לקראת סוף השנה, יש היקף זיכרון עצום. הוא משתמש בטכנולוגיית NVLink עם מערכת מתגי NVLink כדי לשלב 256 שבבי-על מסוג Grace Hopper Superchips, שפועלים יחד כ-GPU ענק אחד. השילוב הייחודי הזה מספק 144 טרהבייט של זיכרון - פי 500 מאשר במערכת NVIDIA DGX A100.
"בינה מלאכותית יוצרת, מודלי שפה גדולים (LLMs), ומערכות המלצה, הם המנועים הדיגיטליים של הכלכלה המודרנית", אמר ג'נסן הואנג, מייסד ומנכ"ל NVIDIA. "מחשבי העל לבינה מלאכותית DGX GH200 משלבים את טכנולוגיות המחשוב המואץ והתקשורת המתקדמות ביותר של NVIDIA, כדי להרחיב את גבולות ה-AI".
הסופר-שבבים מדגם GH200 מייתרים את הצורך בחיבורי PCIe מסורתי בין מעבדים מרכזיים (CPU) למעבדים גרפיים (GPU) במערכות מחשוב, בכך שהם משלבים בין מעבד מרכזי מסוג NVIDIA Grace ובין מעבד גרפי מסוג NVIDIA H100 Tensor Core באותה האריזה, תוך שימוש בחיבור NVIDIA NVLink-C2C.
החיבור מגדיל את רוחב הפס שבין GPU ו-CPU פי שבע בהשוואה לטכנולוגיית ה-PCIe העדכנית ביותר, מקצץ בצריכת החשמל של החיבוריות בשיעור של יותר מפי חמש. בכך מספקת את אבני הבניין של מחשבי-העל DGX GH200, עם GPU של 600 גיגה-בייט בארכיטקטורת Hopper החדשנית.
ה-DGX GH200 הוא מחשב-העל הראשון ששידך בין שבבי-העל מסוג Grace Hopper למערכת NVIDIA NVLink Switch System, טכנולוגיית חיבוריות חדשה שמאפשרת לכל המעבדים הגרפיים ב-DGX GH200 לעבוד כמעבד גרפי אחד ענק. הדור הקודם של המערכת, לשם השוואה, אפשר רק לשמונה מעבדים גרפיים לעבוד כאחד ללא פשרה בביצועים.
גוגל, מטא ומיקרוסופט הן בין החברות הראשונות שקיבלו גישה ל-DGX GH200 לצורך מחקר ופיתוח של מודלי בינה מלאכותית גדולים מאוד.
NVIDIA Helios
כדי להניע את פעילות צוותי המחקר והפיתוח שלה, NVIDIA מקימה את מחשב העל NVIDIA Helios שיבוסס על DGX GH200. מחשב העל NVIDIA Helios יורכב מ-4 מערכות DGX GH200, המחוברות האחת לשנייה באמצעות NVIDIA Quantum-2 InfiniBand, טכנולוגיית התקשורת שפותחה בישראל ומציעה רוחב פס של עד ל-400 גיגה-ביט בשנייה.
Helios יכלול בסך הכל 1,024 שבבי-על מסוג Grace Hopper וצפוי להתחיל לעבוד עד לסוף השנה.
המארז החדש שמציעה החברה מגדיל את רוחב הפס בין GPU ו-CPU פי שבע בהשוואה לטכנולוגיית ה-PCIe העדכנית ביותר | מחשב על המבוסס על טכנולוגיה זו יוכל לספק כוח מחשוב של 1-Exaflop
באדיבות אנבידיה
אנבידיה הכריזה על סוג חדש של מחשבי-על עתירי זיכרון עבור משימות בינה מלאכותית גדולות ומורכבות.
מחשב על מסדרת NVIDIA DGX המבוסס על סופר-שבבים מדגם NVIDIA Grace Hopper Superchips וטכנולוגיית התקשורת NVIDIA NVLink Switch System, שנוצרו כדי לאפשר את פיתוח הדור הבא של מודלי בינה מלאכותית יוצרת גדולים במיוחד עבור יישומי שפה, מערכות המלצה ומשימות ענק לניתוח ועיבוד נתונים.
ל-NVIDIA DGX GH200, שצפוי להיות זמין לקראת סוף השנה, יש היקף זיכרון עצום. הוא משתמש בטכנולוגיית NVLink עם מערכת מתגי NVLink כדי לשלב 256 שבבי-על מסוג Grace Hopper Superchips, שפועלים יחד כ-GPU ענק אחד. השילוב הייחודי הזה מספק 144 טרהבייט של זיכרון - פי 500 מאשר במערכת NVIDIA DGX A100.
"בינה מלאכותית יוצרת, מודלי שפה גדולים (LLMs), ומערכות המלצה, הם המנועים הדיגיטליים של הכלכלה המודרנית", אמר ג'נסן הואנג, מייסד ומנכ"ל NVIDIA. "מחשבי העל לבינה מלאכותית DGX GH200 משלבים את טכנולוגיות המחשוב המואץ והתקשורת המתקדמות ביותר של NVIDIA, כדי להרחיב את גבולות ה-AI".
הסופר-שבבים מדגם GH200 מייתרים את הצורך בחיבורי PCIe מסורתי בין מעבדים מרכזיים (CPU) למעבדים גרפיים (GPU) במערכות מחשוב, בכך שהם משלבים בין מעבד מרכזי מסוג NVIDIA Grace ובין מעבד גרפי מסוג NVIDIA H100 Tensor Core באותה האריזה, תוך שימוש בחיבור NVIDIA NVLink-C2C.
החיבור מגדיל את רוחב הפס שבין GPU ו-CPU פי שבע בהשוואה לטכנולוגיית ה-PCIe העדכנית ביותר, מקצץ בצריכת החשמל של החיבוריות בשיעור של יותר מפי חמש. בכך מספקת את אבני הבניין של מחשבי-העל DGX GH200, עם GPU של 600 גיגה-בייט בארכיטקטורת Hopper החדשנית.
ה-DGX GH200 הוא מחשב-העל הראשון ששידך בין שבבי-העל מסוג Grace Hopper למערכת NVIDIA NVLink Switch System, טכנולוגיית חיבוריות חדשה שמאפשרת לכל המעבדים הגרפיים ב-DGX GH200 לעבוד כמעבד גרפי אחד ענק. הדור הקודם של המערכת, לשם השוואה, אפשר רק לשמונה מעבדים גרפיים לעבוד כאחד ללא פשרה בביצועים.
גוגל, מטא ומיקרוסופט הן בין החברות הראשונות שקיבלו גישה ל-DGX GH200 לצורך מחקר ופיתוח של מודלי בינה מלאכותית גדולים מאוד.
NVIDIA Helios
כדי להניע את פעילות צוותי המחקר והפיתוח שלה, NVIDIA מקימה את מחשב העל NVIDIA Helios שיבוסס על DGX GH200. מחשב העל NVIDIA Helios יורכב מ-4 מערכות DGX GH200, המחוברות האחת לשנייה באמצעות NVIDIA Quantum-2 InfiniBand, טכנולוגיית התקשורת שפותחה בישראל ומציעה רוחב פס של עד ל-400 גיגה-ביט בשנייה.
Helios יכלול בסך הכל 1,024 שבבי-על מסוג Grace Hopper וצפוי להתחיל לעבוד עד לסוף השנה.
