ईएसएक्स 4.1 में पारदर्शी पेज शेयरिंग - पिछले साल के लेख के निशान के बाद

संयोग से, कुछ हफ़्ते पहले मैं ट्रांसपेरेंट पेज शेयरिंग पर पिछले साल के System32 साथी लेख पर ठोकर खाई थी, जिसने मुझे वास्तव में VCAP-DCA के लिए मेरी तैयारी के कार्यक्रम को बाधित करने और अपने आप को vSphere मेमोरी टेक्नोलॉजी में डुबो देने के लिए प्रेरित किया, जो मेरे लिए पूरी तरह से अपरिचित था, और अधिक सटीक - टीपीएस में। एक System32 सहकर्मी ने बहुत बुद्धिमानी से स्मृति के साथ काम करने के सामान्य सिद्धांतों को रेखांकित किया, टीपीएस ऑपरेशन एल्गोरिथ्म, लेकिन एक ही समय में काफी सही निष्कर्ष नहीं बनाया। मैं टिप्पणियों में उन सवालों से और भी ज्यादा शर्मिंदा था, जिनके बारे में किसी ने भी इस तथ्य के बावजूद कि इस लेख के अनुसार, बड़े पृष्ठों का उपयोग करते समय, टीपीएस तकनीक ने एसटीपी में उच्च SHRD मूल्यों के बारे में कोई जवाब नहीं दिया, बस काम नहीं किया। सामान्य तौर पर, सुंदर सिद्धांत और व्यवहार के बीच गंभीर विरोधाभास पाए गए थे।

Vmware मंचों में खुदाई के 4-5 दिनों के बाद, विकी, पश्चिमी ब्लॉगर्स को पढ़ते हुए, मेरे सिर में कुछ था और मैं आखिरकार टिप्पणियों से सवालों के जवाब देने में सक्षम था। किसी तरह अपने ताजा ज्ञान को सुव्यवस्थित करने के लिए, मैंने अपने अंग्रेजी भाषा के ब्लॉग में इस विषय पर कई लेख लिखने का फैसला किया। मैंने इस विषय पर नए लेखों के लिए हैबर की भी सराहना की, लेकिन मेरे आश्चर्य के लिए 2010 के बाद से मैंने कुछ भी नया नहीं खोजा। इसलिए, मैंने हबर को लगातार पढ़ने के लिए और पारदर्शी पेज शेयरिंग के बारे में अपने स्वयं के लेख का अनुवाद करने के लिए टिप्पणियों में सक्रिय रूप से भाग लेने का अवसर और Nehalem / Opteron परिवार से प्रोसेसर के साथ सिस्टम पर इसके उपयोग की बारीकियों के लिए और ESX (i) 4.1 स्थापित के साथ निर्णय लिया।

मुझे लेख को बहुत लंबा करने का मन नहीं है, इसलिए मैं दृढ़ता से अनुशंसा करता हूं कि आप (विशेषकर यदि आप एक vSphere व्यवस्थापक हैं) पहले लेख को पढ़ें, जिस लिंक को मैंने बहुत शुरुआत में दिया था। लेकिन फिर भी, कुछ छोटी चीजों में मैं दोहराता हूं।

तो TPS किस लिए है?
इसका उत्तर काफी हद तक है - रैम को बचाने के लिए, वर्चुअल मशीनों को होस्ट की तुलना में अधिक मेमोरी दिखाने के लिए, और इसलिए समेकन का उच्च स्तर प्रदान करें।

वह कैसे काम करता है?
ऐतिहासिक रूप से, x86 सिस्टम में, सभी मेमोरी को 4 केबी ब्लॉक, तथाकथित पृष्ठों में विभाजित किया गया है। जब आपके पास एक ही OS के साथ एक ही ESX होस्ट पर 20 वर्चुअल मशीन (VMs) चल रही हों, तो आप आसानी से कल्पना कर सकते हैं कि इन VMs में बहुत सारे समान मेमोरी पेज हैं। ईएसएक्स होस्ट पर समान पृष्ठों को खोजने के लिए, 60 मिनट की अवधि के साथ एक टीपीएस प्रक्रिया शुरू की जाती है। यह मेमोरी के सभी पेजों को स्कैन करता है और प्रत्येक पेज के हैश की गणना करता है। सभी हैश को एक तालिका में जोड़ा जाता है और एक मैच के लिए कर्नेल द्वारा जाँच की जाती है। हैश टक्कर नामक एक समस्या से बचने के लिए , उसी हैश का पता लगाने पर, कर्नेल संबंधित पृष्ठों को बिट द्वारा जाँचता है। और केवल यह सुनिश्चित करने के बाद कि वे 100% समान हैं, कर्नेल स्मृति में पृष्ठ की एक एकल प्रति छोड़ देता है, और हटाए गए पृष्ठों के सभी कॉल पहले पहली प्रतिलिपि पर पुनर्निर्देशित किए जाते हैं। यदि कोई वीएम इस पेज पर कुछ बदलने का फैसला करता है, तो ईएसएक्स मूल पेज की एक और कॉपी बनाएगा और पहले से ही वीएम को इसके साथ काम करने की अनुमति देगा, जिसने बदलाव के लिए अनुरोध भेजा है। इसलिए, Vmware शब्दावली में, इस प्रकार के पृष्ठ को Copy-on-write (COW) कहा जाता है। कभी-कभी सैकड़ों गीगाबाइट रैम के साथ आधुनिक सर्वर पर मेमोरी को स्कैन करने की प्रक्रिया में काफी लंबा समय लग सकता है, इसलिए आपको तत्काल परिणाम की उम्मीद नहीं करनी चाहिए।

NUMA और TPS
NUMA प्रोसेसर के बीच मेमोरी एक्सेस साझा करने के लिए एक दिलचस्प तकनीक है। सौभाग्य से हमारे लिए, ESX के नवीनतम संस्करण काफी स्मार्ट हैं और जानते हैं कि कुशल NUMA सिस्टम के लिए TPS को NUMA नोड के भीतर ही काम करना चाहिए। सिद्धांत रूप में, यदि आप ESX में VMkernel.Boot.sharePerNode का मान समायोजित करते हैं, तो आप व्यक्तिगत NUMA नोड्स के बजाय संपूर्ण मेमोरी के भीतर पृष्ठों की तुलना कर सकते हैं। यह स्पष्ट है कि इस मामले में आप उच्च साझा मेमोरी मान प्राप्त कर सकते हैं, लेकिन आपको संभावित गंभीर प्रदर्शन ड्रॉप पर विचार करने की आवश्यकता है। उदाहरण के लिए, कल्पना करें कि आपके ESX होस्ट में 4 Xeon 5560 प्रोसेसर हैं, यानी 4 NUMA नोड्स हैं और प्रत्येक में मेमोरी पेज की एक समान कॉपी है। यदि टीपीएस पहले नोड में एक कॉपी छोड़ देता है और शेष 3 को हटा देता है, तो इसका मतलब यह है कि हर बार जब इन 3 नोड्स पर काम करने वाले किसी भी वीएम को वांछित मेमोरी पेज की आवश्यकता होती है, तो 3 प्रोसेसर को स्थानीय और बहुत तेज मेमोरी बस के माध्यम से एक्सेस नहीं करना होगा लेकिन सामान्य और धीमी गति से। आपके पास जितने अधिक पृष्ठ होते हैं, साझा बस पर उतना कम बैंडविड्थ रहता है, और इसलिए आपके वर्चुअल मशीनों का प्रदर्शन अधिक होता है।

शून्य पृष्ठ
VSphere 4.0 में पेश की गई महान नई विशेषताओं में से एक शून्य पृष्ठ की मान्यता थी। सिद्धांत रूप में, यह एक सामान्य पृष्ठ है, जो शुरू से अंत तक शून्य से भरा होता है। हर बार जब विंडोज वीएम चालू होता है, तो सभी मेमोरी रीसेट हो जाती है, इससे ओएस को उपलब्ध मेमोरी का सटीक आकार निर्धारित करने में मदद मिलती है। ईएसएक्स तुरंत आभासी मशीनों में ऐसे पृष्ठों का पता लगा सकता है, और शून्य पृष्ठों के लिए भौतिक मेमोरी को आवंटित करने की बेकार प्रक्रिया के बजाय, और फिर उन्हें टीपीएस के दौरान हटाकर ईएसएक्स तुरंत ऐसे सभी पृष्ठों को एक एकल शून्य पृष्ठ पर पुनर्निर्देशित करता है। यदि आप esxtop चलाते हैं और नए लॉन्च किए गए VM के लिए मेमोरी मानों की जांच करते हैं, तो आप पाएंगे कि ZERO और SHRD मान लगभग समान हैं।



हालांकि, यहां यह नोट करना महत्वपूर्ण है कि यह नई अद्भुत सुविधा ईएसएक्स 4.0 (और पुरानी) केवल ईपीटी (इंटेल) या आरवीआई (एएमडी) प्रौद्योगिकियों के साथ प्रोसेसर पर उपयोग की जा सकती है। किंग्स्टन वेबसाइट ( भाग एक , भाग दो ) पर इस विषय पर कई बेहतरीन लेख हैं। संक्षेप में, यह बताता है और दिखाता है कि नए प्रोसेसर पर कैसे शून्य पृष्ठों को उनकी भौतिक मेमोरी को आवंटित किए बिना पहचाना जाता है, लेकिन पुराने प्रोसेसर पर भौतिक मेमोरी आवंटित की जाती है, और केवल जब टीपीएस पूरी तरह से पूरा हो जाता है, तो प्रयुक्त भौतिक मेमोरी में कमी शुरू हो जाती है। साधारण vSphere खेतों के लिए, यह सिद्धांत रूप में महत्वपूर्ण नहीं है, लेकिन VDI अवसंरचना के लिए, जहाँ आपके पास एक ही समय में शुरू होने वाली सैकड़ों वर्चुअल मशीनें हो सकती हैं, यह द्वीपसमूह उपयोगी है।

शून्य पृष्ठों वाले टीपीएस की कुछ विशेषताएं।
१ । विंडोज ओएस में, "फाइल सिस्टम कैशिंग" नामक एक तकनीक है (यदि कुछ स्थानों पर मेरे नाम और परिभाषाओं का अनुवाद गलत है तो मुझे खेद है)। MS की परिभाषा का उपयोग करते हुए, हम कह सकते हैं कि "फाइल सिस्टम कैशिंग एक मेमोरी क्षेत्र है जो हाल ही में त्वरित पहुंच के लिए उपयोग की जाने वाली जानकारी को संग्रहीत करता है।" यह कैश कर्नेल के पता स्थान में स्थित है, और इसलिए, 32-बिट सिस्टम में, इसका आकार 1 गीगाबाइट तक सीमित है। हालांकि, 64 बिट सिस्टम में, इसका आकार 1 टेराबाइट ( प्रमाण ) तक पहुंच सकता है। सिद्धांत रूप में, प्रौद्योगिकी प्रदर्शन के लिए बहुत उपयोगी है, लेकिन अगर हमारे पास आभासी मशीनों और शून्य बड़े पृष्ठों (2 मेगाबाइट्स) के साथ एक स्थिति है, तो एस्क्स्टॉप में SHRD मूल्य आपके लिए शून्य हो जाएगा।
ऊपर दिए गए स्क्रीनशॉट ने विंडोज 2008 आर 2 वर्चुअल मशीन को शुरू करने के तुरंत बाद एस्कॉप्ट का मूल्य दिखाया था, लेकिन यहां आधे घंटे के बाद एस्कॉप्ट दिखाया गया है।



हालांकि इस वर्चुअल मशीन के टास्क मैनेजर में आप आसानी से देख सकते हैं कि हमारे पास कितनी अधिक मुफ्त (शून्य) मेमोरी है।



दुर्भाग्यवश, मैं इस बात की तह तक नहीं गया कि यह कैसे होता है, लेकिन यह मुझे लगता है कि फ़ाइल सिस्टम कैशिंग स्मृति के लिए एक निरंतर लेखन के रूप में नहीं होता है, बल्कि इसके विभिन्न क्षेत्रों में होता है।
२ । वर्चुअल मशीन में मेमोरी पेज को रीसेट करने पर यह चालू होने पर ही होता है। मानक पुनरारंभ के साथ, पृष्ठ शून्य पर रीसेट नहीं होते हैं।

बड़े पृष्ठ
ESX में कर्नेल द्वारा उपयोग किए जाने वाले बड़े पृष्ठ 2 मेगाबाइट हैं। भौतिक मेमोरी में पाए जाने वाले दो समान बड़े पृष्ठ आमतौर पर शून्य हैं, इसलिए ईएसएक्स उनकी तुलना करने की कोशिश भी नहीं करता है। जब आप ईपीटी / आरवीआई के साथ नए प्रोसेसर का उपयोग करते हैं, तो इसका मतलब है कि मेजबान आक्रामक रूप से जहां संभव हो बड़े पृष्ठों का उपयोग करने की कोशिश करेगा। यदि आप ऐसे मेजबानों में SHRD मूल्य को देखते हैं, तो आप इसके कम मूल्य से अप्रिय आश्चर्यचकित होंगे, लेकिन फिर भी यह अभी भी एक महत्वपूर्ण राशि है। 70 जीबी के साथ मेरे प्रोडक्शन होस्ट पर, लगभग 4 जीबी में SHRD था। यह, संयोग से, लेख की टिप्पणियों में सबसे दिलचस्प प्रश्नों में से एक था, जिसके साथ इस विषय में मेरी रुचि शुरू हुई। अब मुझे पता है कि ये सिर्फ शून्य पृष्ठ हैं, और फिर मुझे अज्ञानता और अनुमान से बहुत पीड़ा हुई।
इस कम दर ने शुरुआत में Vmware मंचों पर गर्म चर्चा को सरल कारण से उकसाया कि लोगों ने फैसला किया कि TPS ने अपने ESX 4.0 मेजबानों पर काम करना बंद कर दिया। Vmware को इस बारे में स्पष्टीकरण पोस्ट करने के लिए मजबूर किया गया था।
फिर भी, जब आपका होस्ट सक्रिय रूप से बड़े पृष्ठों का उपयोग कर रहा है, तो टीपीएस को नींद नहीं आती है। उन्होंने समान रूप से 4 kB पृष्ठों के लिए मेमोरी को व्यवस्थित रूप से स्कैन किया है, जिसे वह हटा सकते थे यदि उनकी इच्छा हो। जैसे ही उसे डुप्लिकेट पेज मिलते हैं, वह वहां एक बुकमार्क (संकेत) लगा देता है। जब ईएसएक्स मेमोरी में उपयोग किया जाने वाला मूल्य 94% तक पहुंच जाता है, तो आपका होस्ट तुरंत बड़े पृष्ठों को छोटे लोगों में तोड़ देता है और समय की बचत नहीं करता है (टीपीएस ने पहले ही बुकमार्क सेट कर दिया है), यह फिर से समान पृष्ठों को हटाना शुरू कर देता है। यदि आप अभी तक इस बिंदु पर नहीं पहुँचे हैं, तो उसी esxtop में, COWH (Copy-on-write hints) फ़ील्ड में आप देख सकते हैं कि बड़े पृष्ठों को छोटे पृष्ठों में विभाजित करने के बाद आप कितना बचा सकते हैं।



और फिर से, मैं पुराने और नए प्रोसेसर के बीच बड़े पृष्ठों के साथ काम करने के अंतर पर ध्यान आकर्षित करना चाहूंगा। Vmware ने संस्करण 3.5 के बाद से बड़े पृष्ठों के लिए समर्थन शामिल किया है। Vmware " लार्ज पेज परफॉर्मेंस " डॉक्यूमेंट के अनुसार, यदि आपकी वर्चुअल मशीन का OS बड़े पेजों का उपयोग करता है, तो ESX होस्ट विशेष रूप से इस VM के लिए भौतिक मेमोरी में बड़े पेज आवंटित करेगा। हालांकि, अगर वही वर्चुअल मशीन ईपीटी / आरवीआई प्रोसेसर के साथ ईएसएक्स होस्ट पर चलती है, तो आपके वीएम के बड़े पृष्ठों के समर्थन की परवाह किए बिना, ईएसएक्स भौतिक मेमोरी में बड़े पृष्ठों का उपयोग करेगा, जो कि एक ही दस्तावेज से जाना जाता है, प्रोसेसर के प्रदर्शन में गंभीर वृद्धि का कारण बनेगा।
दिलचस्प बात यह है कि पुराने प्रोसेसर और ईएसएक्स 4.1 के साथ मेजबानों की एक जोड़ी पर, जो कि विंडोज 2008 आर 2 के 90% को घुमाता है, मुझे अभी भी एक बहुत ही उच्च SHRD दिखाई देता है, जो बताता है कि छोटे पृष्ठों का वहां सबसे अधिक उपयोग किया जाता है। दुर्भाग्य से, मुझे इस बात पर विस्तृत दस्तावेज़ नहीं मिला कि पुराने प्रोसेसर पर बड़े पृष्ठों का समर्थन कैसे काम करता है: किन परिस्थितियों में, किस ओएस, आदि पर बड़े पृष्ठों का उपयोग किया जाएगा। तो मेरे लिए यह अभी भी एक खाली जगह है। निकट भविष्य में मैं पुराने प्रोसेसर के साथ ESX 4.1 होस्ट पर 10 विंडोज 2008 R2 टुकड़े चलाने की कोशिश करूंगा और मेमोरी मान की जांच करूंगा।
जब मैंने केवल यह सब कम या ज्यादा सीखा, तो मैं हैरान रह गया - अगर मैं नेह्म प्रोसेसर के साथ अपने होस्ट पर बड़े पृष्ठों के लिए मैन्युअल रूप से समर्थन बंद कर देता हूं तो क्या होगा? मैं सहेजी गई मेमोरी को कितना देखूंगा और प्रदर्शन कितना गिर जाएगा? "ठीक है, मुझे लंबे समय तक क्या सोचना चाहिए - मुझे यह करना होगा," मैंने सोचा, और हमारे उत्पादन मेजबानों में से एक पर बड़े पृष्ठों के लिए समर्थन बंद कर दिया। प्रारंभ में, इस होस्ट में 70 जीबी आवंटित मेमोरी थी और 4 जीबी की साझा मेमोरी (ठीक है, हाँ, हमें याद है - ये शून्य पृष्ठ हैं)। औसत प्रोसेसर उपयोग 25% से ऊपर कभी नहीं बढ़ा। बड़े पृष्ठों को बंद करने के दो घंटे बाद, साझा मेमोरी का मूल्य बढ़कर 32 जीबी हो गया, और प्रोसेसर लोड उसी स्तर पर बना रहा। तब से 4 सप्ताह हो चुके हैं और हमने प्रदर्शन में गिरावट के बारे में एक भी शिकायत नहीं सुनी है।

और अंत में, मेरा निष्कर्ष
जब मैंने अपने सहयोगियों के साथ जानकारी साझा की, तो उन्होंने मुझसे पूछा, "बड़े पृष्ठों के लिए समर्थन बंद करने से मैं क्या करूँ, यदि आवश्यक हो तो मेजबान उन्हें निष्क्रिय कर देगा?"। और मुझे तुरंत ही उत्तर पता चल गया था - डिफ़ॉल्ट रूप से चालू किए गए बड़े पृष्ठों के समर्थन के साथ, मैं पूरी तरह से नहीं देख सकता कि मैं संभावित रूप से टीपीएस के साथ मेमोरी को कैसे बचा सकता हूं, मैं अपने ईएसएक्स मेजबानों पर अतिरिक्त वीएम प्लेसमेंट की सही योजना नहीं बना सकता, मैं समेकन के स्तर की भविष्यवाणी नहीं कर सकता, सामान्य तौर पर, मैं थोड़ा सा हूं अपने vSphere खेत के संसाधनों के प्रबंधन के मामले में अंधा। हालाँकि, डंकन ईपिंग जैसे vSphere गुरु ने हमें आश्वस्त किया: "चिंता मत करो, TPS तब भी काम करेगा जब आपको ज़रूरत होगी, और साथ ही साथ आपके पास एक बढ़िया प्रदर्शन को बढ़ावा मिलेगा।" कुछ दिनों के बाद, मुझे वर्चुअलाइजेशन की दुनिया में उनके और अन्य अधिकारियों के बीच एक अद्भुत चर्चा मिली, जिसने केवल बड़े पृष्ठों को बंद करने के मेरे निर्णय की शुद्धता की पुष्टि की। कुछ लोग कहते हैं कि आप अपने संसाधनों के उपयोग की योजना के लिए COWH मूल्य का उपयोग कर सकते हैं, लेकिन किसी कारण से यह मान हमेशा सही नहीं होता है। यह स्क्रीनशॉट मेरे विंडोज 2003 सर्वरों में से एक के मानों को दिखाता है जो 3 सप्ताह से बड़े पृष्ठों के साथ होस्ट पर चल रहा है, और जैसा कि आप देख सकते हैं कि SHRD और COWH मान बहुत भिन्न हैं।



एक सप्ताह पहले, हमने अन्य 4 होस्ट्स, एक और फ़ार्म पर बड़े पेजों को निष्क्रिय कर दिया, और फिर से मुझे किसी भी प्रदर्शन में गिरावट नहीं आई। हालांकि, यह ध्यान देने योग्य है कि यह सभी व्यक्तिगत है, और आपको ऐसा निर्णय लेते समय अपने खेत, संसाधनों, आभासी मशीनों की बारीकियों को ध्यान में रखना चाहिए।

अगर मैं भाग्यशाली हूं और यह लेख दिलचस्प लगता है, तो मैं पुराने और नई पीढ़ी के प्रोसेसर के बीच मेमोरी प्रबंधन के अंतर के बारे में एक और लेख का अनुवाद करना पसंद करूंगा।