OpenCL: इस काम को कैसे करें

बहुत से लोग जिन्होंने CUDA / OpenCL ग्राफिक्स एक्सेलेरेटर का उपयोग करने की तकनीक को "स्वाद के लिए" प्रयोग किया, उन्हें बहुत अच्छे परिणाम नहीं मिले। हां, परीक्षण चलते हैं और सरल उदाहरण प्रभावशाली त्वरण दिखाते हैं, लेकिन जब वास्तविक एल्गोरिदम की बात आती है, तो एक अच्छा परिणाम प्राप्त करना बहुत मुश्किल है।
इस तकनीक को कैसे काम किया जाए?
इस लेख में, मैंने बायोइन्फॉर्मेटिक्स के लिए स्ट्रिंग डेटा के लिए जटिल खोज के कार्यों पर मैनड्रिवा लाइनक्स और मैकओएस एक्स 10.6 के तहत ओपनसीएल तकनीक के साथ अपने छह महीने के बटुए के अनुभव को संक्षेप में प्रस्तुत करने की कोशिश की। OpenCL को इसलिए चुना गया क्योंकि मैक के लिए यह एक "देशी" तकनीक है (कुछ पोपियों को AMD ग्राफिक्स कार्ड से लैस किया गया है और CUDA सैद्धांतिक रूप से उनके तहत भी उपलब्ध नहीं है), लेकिन सिफारिशें काफी सार्वभौमिक हैं और NVIDIA CUDA के लिए भी उपयुक्त हैं।

तो, काम करने के लिए ग्राफिक्स त्वरक के लिए क्या आवश्यक है?

कोड संगति

1. यह याद रखना आवश्यक है, और उन लोगों के लिए जो नहीं जानते थे, कोड रीफैक्टरिंग की तकनीक सीखना। यदि आपके पास एक गैर-मानक एल्गोरिथ्म है, तो इस तथ्य के लिए तैयार रहें कि इसे सही ढंग से समानांतर करने से पहले आपको लंबे समय तक सताया जाना होगा। इन पीड़ाओं के दौरान, कार्यक्रम के परिणाम नहीं बदलने चाहिए, इसलिए, एक अच्छा परीक्षण उदाहरण के बिना, आप काम पर भी नहीं जा सकते। उदाहरण को बहुत लंबे समय तक काम नहीं करना चाहिए, क्योंकि इसे अक्सर चलाना होगा, लेकिन बहुत तेज नहीं - हमें इसके काम की गति का मूल्यांकन करना चाहिए। इष्टतम - 20 सेकंड।
2. त्वरक पर द्रव्यमान समानता का अर्थ है कि एल्गोरिथम के इनपुट और आउटपुट पर डेटा सरणियाँ होंगी, और इन सरणियों का आयाम समानांतर एल्गोरिथम के थ्रेड्स की संख्या से कम नहीं हो सकता है। त्वरित एल्गोरिथ्म आमतौर पर लूप (या कई नेस्टेड लूप) के लिए दिखता है, जिनमें से प्रत्येक पुनरावृत्ति पिछले वाले के परिणाम पर निर्भर नहीं करता है। क्या आपके पास ऐसा एल्गोरिदम है?
3. ग्राफिक्स त्वरक के उपयोग के बिना भी अपने आप में समानांतर प्रोग्रामिंग एक आसान बात नहीं है। इसलिए, यह बहुत कुछ सरल के साथ पहले अपने एल्गोरिथ्म समानांतर करने के लिए सिफारिश की है, उदाहरण के लिए OpenMP का उपयोग कर । वहां समानता को एक निर्देश द्वारा शामिल किया जाता है ... बस यह मत भूलो कि यदि कुछ बफर चर का उपयोग लूप में किया जाता है, तो समानांतर निष्पादन में उन्हें पुनरावृत्तियों की संख्या से गुणा किया जाना चाहिए या लूप के अंदर घाव होना चाहिए!
4. दर्जनों घंटे नहीं खोने के लिए, आपको 100% सुनिश्चित करने की आवश्यकता है कि कम से कम प्रोग्राम एल्गोरिथ्म का समानांतर भाग मेमोरी त्रुटियों के लिए पूरी तरह से स्वतंत्र है। यह, उदाहरण के लिए, वैलेग्रिंड का उपयोग करके प्राप्त किया जाता है। इसके अलावा, यह अद्भुत कार्यक्रम ओपनएमपी के माध्यम से समानांतर त्रुटियों को पकड़ने में सक्षम है, इसलिए एक्सीलेटर को हिट करने से पहले सब कुछ पहले से पकड़ना बेहतर है - वहां बहुत कम उपकरण हैं।

त्वरक प्रदर्शन विचार

1. आपको यह समझने की आवश्यकता है कि त्वरक अपनी स्वयं की मेमोरी के साथ काम करता है, जिसकी मात्रा सीमित है, और आगे और पीछे स्थानांतरण काफी महंगा है। विशिष्ट संख्या विशेष प्रणाली पर निर्भर करती है, लेकिन इस सवाल को हर समय "ध्यान में रखना" होगा। सभी के सर्वश्रेष्ठ, ग्राफिक्स एक्सेलेरेटर एल्गोरिदम के साथ काम करते हैं जो इतना प्राप्त नहीं करते हैं (लेकिन थ्रेड्स की संख्या से कम नहीं!) डेटा, और वे गणितीय रूप से लंबे समय तक संसाधित होते हैं। पर्याप्त, लेकिन बहुत लंबे समय तक नहीं, कई प्रणालियों में अधिकतम थ्रेड निष्पादन समय के लिए एक सीमा निर्धारित की जाती है!
2. स्मृति को असंगत क्षेत्रों में आगे और पीछे कॉपी किया जाता है। इसलिए, उदाहरण के लिए, सामान्य रूप से सी एन के लिए आयामी सरणियों, बिंदुओं के बिंदुओं के बिंदुओं के रूप में आयोजित किया जाता है, पूरी तरह से अनुपयुक्त हैं, एक को रैखिक रूप से संगठित बहुआयामी डेटा सरणियों का उपयोग करना है।
3. त्वरक पर निष्पादित "आंतरिक" कोड में, कोई मेमोरी आवंटन / डील्लोकेशन ऑपरेशन, इनपुट / आउटपुट नहीं हैं, पुनरावृत्ति असंभव है। I / O, अस्थायी प्रोसेसर केंद्रीय प्रोसेसर पर निष्पादन योग्य द्वारा प्रदान किए जाते हैं।
4. त्वरक के लिए "आदर्श" एल्गोरिदम वह है जब एक ही कोड अलग-अलग डेटा (SIMD) के लिए काम करता है , जब कोड उन पर निर्भर नहीं करता है (एक उदाहरण वैक्टर के अतिरिक्त है)। किसी भी शाखा, चर के साथ कोई भी लूप दिए गए पुनरावृत्तियों की संख्या के आधार पर एक महत्वपूर्ण मंदी देता है।

कुछ निष्कर्ष

इस प्रकार, सबसे अधिक संभावना है, GPGPU की पूर्ण शक्ति का उपयोग करने के लिए, आपको उपरोक्त सीमाओं को ध्यान में रखते हुए कोड को फिर से लिखना होगा, और यह इस तथ्य से बहुत दूर है कि यह तुरंत काम करेगा और आम तौर पर काम करेगा। डेटा द्वारा सभी कार्य अच्छी तरह से समान नहीं हैं। लेकिन परिणाम मोमबत्ती के लायक है, इसलिए जीपीजीपीयू को आणविक गतिशीलता की समस्याओं के अनुवाद ने NVIDIA के विशेषज्ञों को बहुत दिलचस्प परिणाम प्राप्त करने की अनुमति दी कि हमारे संस्थान की वास्तविकताओं में एक सुपरकंप्यूटर पर तीन महीने की गिनती किसी अन्य शहर में नहीं बल्कि एक दिन डेस्कटॉप मशीन पर होगी। और इसके लिए यह काम के लायक है।

प्रयुक्त सामग्री:
NVIDIA OpenCL
हैबे पर लेखों का एक चक्र
मैक ओएस एक्स के लिए ओपनसीएल