ग्राफिक्स कार्ड के लिए NvLink के साथ बैंडविड्थ

Question

मैं NvLink चश्मा पढ़ रहा हूं और एक तालिका है जो कहती है

Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100  |NVLink 2.0  | 200 Gbit/s = 25 GByte/s              | 300 GByte/s

इसका मतलब यह है कि NVLink एक दिशा में (उदाहरण के लिए GPU के लिए इनपुट) 25 GB / s का उत्पादन करने में सक्षम है ? यदि एक GPU (उदाहरण के लिए नवीनतम RTX 2080 ) में 616 GB / s की कथित बैंडविड्थ है, तो क्या इसका मतलब है कि यह केवल उन 616 में से 25 जीबी मेमोरी ट्रांसफर का उपयोग करने में सक्षम होगा?

Answer 1

इसका मतलब यह है कि यह केवल उन 616 में से 25 जीबी मेमोरी ट्रांसफर का उपयोग करने में सक्षम होगा?

नहीं, आपके द्वारा उद्धृत सीमाएं Nvidia की पिछली पीढ़ी के GPU (Volta) के लिए लागू थीं। यह वर्तमान पीढ़ी (ट्यूरिंग) पर लागू नहीं होता है।

इसका मतलब यह है कि NVLink एक दिशा में (उदाहरण के लिए GPU के लिए इनपुट) 25 GB / s का उत्पादन करने में सक्षम है?

उसी लेख में आगे, NVLink की वास्तुकला को बेहतर तरीके से समझाया गया है, यह 25 जीबी / सेकंड प्रति लिंक होगा। यदि एनवीडिया वी 100 में एनवीडिया पी 100 (पास्कल) के समान सीमा है, तो यह कुल 150 जीबी / सेकंड और दूसरा 150 जीबी / सेकंड नीचे होगा।

प्रत्येक NVLink (लिंक इंटरफेस) 80 GB / सेकंड की कुल बैंडविड्थ के लिए और दूसरे 80 GB / सेकंड नीचे के लिए GP100 GPU के प्रति 4 लिंक के साथ 20 जीबी / सेकेंड की बोली लगाने योग्य 20 जीबी / सेकंड प्रदान करता है।

स्रोत

Comments

मुझे विचलित हुए बिना लेख पढ़ना चाहिए था। वी 100 के लिए कुल बैंडविड्थ 300 जीबी / सेकंड बनाम पी 100 160 जीबी / सेकंड है, इसलिए प्रत्येक दिशा में 150 जीबी / सेकंड बनाम 80 जीबी / सेकंड होगा। चूँकि आपका प्रश्न विशेष रूप से लेख के बारे में था, अगर मैं टर्निंग हार्डवेयर के लिए बैंडविड्थ खोजने के लिए होता हूं, तो मैं अपने प्रश्न को अपडेट करूंगा (लेकिन ऐसा होने की उम्मीद नहीं करता)। जैसा कि मेरे सवालों के जवाब के रूप में यह मूल रूप से लिखा गया था।

— रामहुंड