क्या आवेदन अनुकूलन की गुणवत्ता का एक सरल मूल्यांकन है?

धीरे-धीरे और आगे बढ़ोगे ...? प्रदर्शन रेटिंग।

7 से अधिक वर्षों से मैं इंटेल के नोवोसिबिर्स्क शाखा के प्रदर्शन विश्लेषण समूह के हिस्से के रूप में प्रदर्शन विश्लेषण में लगा हुआ हूं। हम विभिन्न अनुप्रयोगों के प्रदर्शन को बेहतर बनाने के लिए काम कर रहे हैं, या यों कहें, हम उन तरीकों की तलाश कर रहे हैं, जिनसे हमारे कंपाइलर इसमें सुधार कर सकें। इस समय के दौरान, उपयोगी अनुभव जमा हुआ है, जो कि, मेरी राय में, सम्मानित हैबर के लिए आगंतुकों के लिए दिलचस्पी का होगा। इस मामले में, हम अनुप्रयोगों के एल्गोरिथम अनुकूलन के बारे में बात नहीं करेंगे, लेकिन मौलिक रूप से उनके एल्गोरिदम को बदलने के बिना अनुप्रयोगों के विभिन्न संशोधनों के बारे में। यह स्पष्ट है कि एल्गोरिथम अनुकूलन कार्यक्रमों को भी जीवन का अधिकार है, लेकिन यह पूरी तरह से अलग काम है।



मैं एक इंटेल कंपाइलर डेवलपर हूं, इसलिए मेरे सभी शोध विभिन्न कंपाइलर ऑप्टिमाइज़ेशन से संबंधित हैं, विभिन्न कंपाइलरों की तुलना करते हैं (विंडोज पर यह आमतौर पर माइक्रोसॉफ्ट विजुअल स्टूडियो कंपाइलर के साथ इंटेल कंपाइलर की तुलना करता है)। वास्तव में, इसलिए, कृपया मेरे पोस्ट को विज्ञापन या विज्ञापन-विरोधी न मानें। अपने विचारों को स्पष्ट करने के लिए, मैं हमारी कंपनी द्वारा विकसित किए गए लोगों सहित विभिन्न उपकरणों का उपयोग करूंगा। मुझे उम्मीद है कि यह पोस्ट एप्लिकेशन अनुकूलन पर लेखों की एक श्रृंखला में बढ़ती है।

क्या किसी अनुप्रयोग की अनुकूलता का मूल्यांकन करने के लिए एक सरल मानदंड है?

यह स्पष्ट है कि किसी भी समस्या और कार्य, जिसमें आवेदन प्रदर्शन में सुधार का कार्य शामिल है, वर्तमान मामलों की स्थिति की जांच के साथ शुरू होता है। एक मूल्यांकन की आवश्यकता है: आवेदन पहले से ही कितना अनुकूलित है, और क्या इसे गति देने के प्रयास करने के लिए समझ में आता है। पहली नज़र में, समस्या का एक सरल समाधान है। ऐसा अनुमान लगाने के लिए प्रोसेसर लोड को मापने के लिए पर्याप्त है। विभिन्न प्रदर्शन विश्लेषक न केवल कार्यक्रम के विभिन्न वर्गों के निष्पादन समय को मापने की अनुमति देते हैं, बल्कि इसके निष्पादन के दौरान होने वाले सभी इन-प्रोसीजर कार्यक्रमों की गणना और लिंक भी करते हैं। इस जानकारी का उपयोग करके, आप कंप्यूटिंग कोर पर लोड का मूल्यांकन कर सकते हैं। उदाहरण के लिए, यह निर्धारित करने के लिए कि एक निर्देश को निष्पादित करने में औसतन कितने प्रोसेसर चक्र लगे, और किन कारणों के कारण निष्पादन में देरी हुई। प्रस्तावित मानदंड कर्नेल की दक्षता को अनुप्रयोग प्रदर्शन में सुधार करने की क्षमता से संबंधित करता है। अर्थात्, यदि कर्नेल कुशलता से काम करता है, तो चिंता का कोई कारण नहीं है - कार्यक्रम आशावादी रूप से काम करता है, अन्यथा आवेदन में सुधार किया जा सकता है और इसका विश्लेषण करने के लिए समझ में आता है। इस मानदंड का उपयोग करने के परिणामस्वरूप, काम दिखाई देता है जिसमें कुछ प्रोसेसर घटनाओं का विश्लेषण किया जाता है, और इस विश्लेषण के आधार पर लेखक आवेदन प्रदर्शन में सुधार के लिए संभावनाओं के बारे में धारणा बनाते हैं। शायद ऐसे काम करने के तरीके कंप्यूटर आर्किटेक्ट के लिए वास्तव में उपयोगी हैं और उन्हें प्रोसेसर वास्तुकला में सुधार के बारे में सपने देखने का अवसर देते हैं। लेकिन, दुर्भाग्य से, एक प्रोग्रामर ने अपने आवेदन के प्रदर्शन को बेहतर बनाने के बारे में सोचने के लिए, यह तरीका बेहद संदिग्ध है, शायद ही कभी काम करता है और रूसी बुद्धिजीवियों के शाश्वत सवाल का जवाब नहीं देता है: “मुझे क्या करना चाहिए? और क्या हाथ से चिकन खाना संभव है? ”
कई मामलों में, कंप्यूटिंग कोर के अधिकतम भार का मतलब यह बिल्कुल नहीं है कि कार्यक्रम के प्रदर्शन में सुधार करना और इसके विपरीत करना असंभव है।
आइए एक सरल परीक्षण देखें जो आयताकार मैट्रिस के गुणन के साथ है। मेरी राय में, छोटे कामकाजी उदाहरण बनाना, संकलक और प्रोसेसर के काम सहित ब्रह्मांड की संरचना के बारे में रोचक जानकारी प्राप्त करने का सबसे अच्छा तरीका है। ऐसे परीक्षणों में, यह महत्वपूर्ण है कि जांच के तहत कोड का निष्पादन समय काफी बड़ा हो ताकि यह कार्यक्रम लोडिंग समय और किसी भी यादृच्छिक घटनाओं से प्रभावित न हो, इसलिए आप कई बार जांच के तहत कोड निष्पादित कर सकते हैं।

#include <stdio.h> #include <stdlib.h> #define N 200 #define T 100 void matrix_mul_matrix(int t, int n, double *C, float *A, float *B) { int i,j,k; for (i=0; i<t; i++) for (j=0; j<t; j++) for(k=0;k<n;k++) C[i*t+j]+=(double)A[i*n+k] * (double)B[k*t+j]; } int main() { float *A,*B; double *C; int i,j; //...      for(i=0;i<10000;i++) matrix_mul_matrix(T,N,C,A,B); printf("%f %f %f\n",C[0],C[1],C[100]); free(A); free(B); free(C); } 

Windows Server 2008 R2 एंटरप्राइज़ और Intel Xeon X5570 प्रोसेसर के साथ मेरी लैब मशीन पर, मैं इस प्रोग्राम को Microsoft VS 10.0 वॉयलर का उपयोग करके संकलित करता हूं। और इंटेल समानांतर स्टूडियो XE2013। सरलता के लिए, मैं कमांड लाइन के साथ काम करता हूं और विज़ुअल स्टूडियो में डिफ़ॉल्ट रूप से उपयोग किए जाने वाले संकलन के रिलीज़ संस्करण के अनुरूप विकल्प लेता हूं।

cl मैट्रिक्स.c / O2 / GL / GS / GR / W3 / nologo / Wp64 / Zi -Ob0 -Fematrix_cl
icl मैट्रिक्स। सी। / ओ २ / जीएल / जीएस / जीआर / डब्लू ३ / एनएलओ / डब्ल्यूपी ६४ / ज़ी -ओबी ०-फेमाट्रिक्स

यह पता चला है कि मैट्रिक्स_क्ले का रनटाइम ~ 21.9 एस है, जबकि मैट्रिक्स का रनटाइम ~ 9.3 एस है।

अब देखते हैं कि एम्पलीफायर हमें सीपीयू उपयोग के बारे में क्या बताता है। Intel VTune एम्पलीफायर XE 2011 केवल एक प्रदर्शन मूल्यांकन उपकरण है जो आपको इंटेल प्रोसेसर की प्रोसेसर घटनाओं के साथ काम करने की अनुमति देता है।
आइए एम्पलीफायर में प्राप्त अनुप्रयोगों के लिए दो परियोजनाएं बनाएं और एक प्रारंभिक विश्लेषण करें - सामान्य अन्वेषण। इसलिए हम परिणाम के रूप में क्या देखते हैं? यहां मैट्रिक्स_क्ल एप्लिकेशन के "इंटेलिजेंस" के परिणाम दिए गए हैं:



सीपीआई दर पर ध्यान दें (प्रति निर्देश घड़ी, निर्देश प्रति टिक की औसत संख्या)। मेरे प्रोसेसर के लिए, इस मूल्य का सैद्धांतिक न्यूनतम 0.25 है। (4 एक्ट्यूएटर्स पर 4 निर्देशों का समानांतर निष्पादन)। CPI नंबर 0.546 को बहुत अच्छा माना जाता है। बेशक देरी हो रही है। लेकिन लगता है कि कुछ भी महत्वपूर्ण नहीं है। कंप्यूटिंग कोर एक अच्छे लोड के साथ काम कर रहा है, और सब कुछ बहुत अच्छा लग रहा है। क्या इस आकलन से यह समझना संभव है कि आवेदन का प्रदर्शन वास्तव में दोगुना से अधिक है?
मैट्रिक्स के लिए शोध परिणाम:



दो बार से अधिक के जादुई प्रदर्शन में सुधार, इंटेल VTune एम्पलीफायर XE 2011 द्वारा संकलित गणना की मुख्य "रेटिंग" पर लगभग कोई प्रभाव नहीं था। यह है इस मामले में प्रोसेसर के एक अध्ययन ने हमें कोई संकेत नहीं दिया कि प्रदर्शन में नाटकीय रूप से सुधार हो सकता है।

यह प्रदर्शन सुधार ऑटो-वेक्टरकरण के माध्यम से प्राप्त किया गया था। यह देखना आसान है कि क्या आप इंटेल कंपाइलर के विकल्पों में -Qvec_report जोड़ते हैं। कंपाइलर देगा
...
... \ मैट्रिक्स। सी। (९): (कॉलोनी। ५) टिप्पणी: लंबित लोड किया गया था।

यानी अनुप्रयोग प्रदर्शन को चक्रीय क्रमपरिवर्तन अनुकूलन के उपयोग के माध्यम से बेहतर किया गया है। यह समझने के लिए कि इस तरह के अनुकूलन को लागू किया जा सकता है, मैट्रिक्स गुणा एल्गोरिथ्म का अध्ययन करना आवश्यक था।

अब एक अलग प्रकार का उदाहरण लेते हैं और एक प्रोग्राम बनाते हैं जो वस्तुओं की एक लंबी श्रृंखला को बायपास करेगा:

 #include <stdio.h> #include <stdlib.h> #define N 1000000 struct _planet { float x; float y; float z; double m; struct _planet *prev; struct _planet *next; } ; typedef struct _planet planet; planet* init_chain() {     } int main() { planet *planet_chain; planet *cur; int i; double sum=0.0; planet_chain=init_chain(); for(i=0;i<1000;i++) { cur=planet_chain; while(cur) { sum += cur->m; cur=cur->next; } } printf("%f\n",sum); } 

दोनों अनुकूलन करने वाले कंपाइलरों ने ~ 6.2 पर चलने वाले एप्लिकेशन बनाए। एम्पलीफायर की रिपोर्ट है कि इस एप्लिकेशन में सब कुछ खराब है:



CPI दर बहुत खराब है, और अधिकांश समय कंप्यूटिंग कोर प्रसंस्करण के लिए डेटा प्राप्त करने की उम्मीद करता है।
तो इसके बारे में क्या करना है? मान लीजिए कि हम अपना शोध जारी रखते हैं और स्थापित करते हैं कि कंप्यूटिंग कोर के खराब लोडिंग का कारण मेमोरी सबसिस्टम के संचालन में देरी है। जाहिर है, कर्नेल खराब रूप से भरा हुआ है। लेकिन इस पवित्र ज्ञान से हमें क्या मदद मिलती है? मेमोरी सबसिस्टम के प्रदर्शन को बेहतर बनाने के लिए क्या तरीके मौजूद हैं? क्या हमारे आवेदन की विशिष्टता पहले से ज्ञात विधियों के उपयोग की अनुमति देती है?
यह एक एप्लिकेशन का एक उदाहरण है जिसमें सब कुछ खराब है, और एल्गोरिथ्म को बदले बिना स्थिति को मौलिक रूप से ठीक नहीं किया जा सकता है।

निष्कर्ष

इस प्रकार, विभिन्न प्रोसेसर गुणांक के सरल गणना आवेदन की प्रभावशीलता का मूल्यांकन करने के लिए बहुत कम जानकारी प्रदान करते हैं।

इस मामले में, चल रहे एप्लिकेशन की प्रभावशीलता का आकलन करने के कार्य का एक सरल एनालॉग, बिंदु A से बिंदु B पर जाने वाला एक एथलीट है। यदि हम एथलीट के इष्टतम कार्य के लिए उसकी मांसपेशियों पर भार को मानदंड के रूप में लेते हैं, या ट्रैक पर उसकी औसत गति और अधिकतम गति की तुलना करते हैं जिसके साथ यह एथलीट कर सकता है। आगे बढ़ें, तो हम ऐसे मानदंडों के साथ कितनी दूर जाएंगे? यदि एथलीट खराब है, हालांकि बहुत मजबूत है, और लगातार थिकेटर के माध्यम से टूट जाता है, इसके बजाय इसके चारों ओर चलने के बजाय, तो आपको बस अधिक बुद्धिमान एथलीट की आवश्यकता है। इसके विपरीत, अगर कोई एथलीट धीरे-धीरे भागता है, लेकिन उसका रास्ता एक दलदल से होकर गुजरता है, जहां उसे रुकना पड़ता है, एक रास्ता महसूस करना पड़ता है और यहां तक ​​कि समय-समय पर वापस आना पड़ता है, क्या एथलीट को दोष देना है? आप समस्या को हल करने के लिए एक अधिक प्रशिक्षित और तेज़ एथलीट (बहुत पैसे के लिए) को शामिल कर सकते हैं, या आप एक सक्षम ट्रेनर का उपयोग कर सकते हैं जो दौड़ ट्रैक का विश्लेषण करेगा, शुरुआत में धावक की ताकत और कमजोरियों का विश्लेषण करेगा, और फिर धावक को सर्वश्रेष्ठ मार्ग प्रदान करेगा, और संभवतः उसे चलते-फिरते भी सिखाएगा। कुछ सरल स्थितियों में सही निर्णय।
एक शब्द में, उस मार्ग का विश्लेषण किए बिना जिसे पार करना पड़ा और एथलीट की ताकत और कमजोरियों का ज्ञान था, यह आकलन करना मुश्किल है कि वह कितनी अच्छी दूरी पर था।

इसलिए, मेरी राय में, आवेदन की प्रभावशीलता का आकलन करने के लिए कोई सरल सार्वभौमिक कार्य विधि नहीं है और इसलिए, इसे सुधारने के सरल तरीके। इस समस्या को हल करने के लिए, आपको उत्पादकता को सुधारने के लिए प्रसिद्ध तरीकों को लागू करने, मस्तिष्क को जोड़ने और कई स्थितियों का विश्लेषण करने की आवश्यकता है। किसी भी व्यवसाय में के रूप में, हम एक मस्तिष्क कनेक्शन पद्धति की जरूरत है। समस्या को सफलतापूर्वक हल करने के लिए, उसे कुछ चीजें पता होनी चाहिए, उदाहरण के लिए:

1.) मुख्य समस्याएं जो प्रोसेसर के प्रदर्शन को प्रभावित करती हैं, और इन समस्याओं को प्रभावित करने वाले अनुकूलन के तरीके।
2.) संकलक अनुकूलन के मुख्य तरीके। एक नियम के रूप में, उन सभी तरीकों से जो कार्यक्रम के प्रदर्शन को बेहतर बनाने में मदद कर सकते हैं, उन्हें पहले से ही किसी भी तरह से ध्यान में रखा जाता है और मौजूदा अनुकूलन कंपाइलरों में लागू किया जाता है। उस उपकरण को जानना उपयोगी है जिसे आप अपने काम में उपयोग करते हैं। शायद बस एक और विकल्प जोड़ने से सफलता मिलती है। यह पता लगाना दिलचस्प है कि क्या आपका संकलक ऐसा या उस अनुकूलन को करने में सक्षम है, और उसने आपके कोड के लिए ऐसा क्यों नहीं किया?
3.) कई जाने-माने अनुकूलन को प्रभावी ढंग से हाथ से किया जा सकता है। किन मामलों में मैं उन्हें बनाने की कोशिश कर सकता हूं? इस या उस अनुकूलन का उपयोग कब लाभदायक है और क्यों?

तदनुसार, भविष्य में मैं ऐसी कार्यप्रणाली का एक उदाहरण प्रदान करने की कोशिश करूंगा और उन अनुप्रयोगों के अनुकूलन के लिए उपयोगी तरीकों के बारे में बात करूंगा जो मुझे पता है।