FastVPS: हमने वर्चुअलाइजेशन प्लेटफॉर्म कैसे बदला

पावेल ओडिन्टसोव, तकनीकी निदेशक, फास्टवीपीएस इस्टी ओयू

हम लगभग 7 वर्षों से वर्चुअल (वीपीएस) और समर्पित सर्वर किराए पर ले रहे हैं और अब हमारे ग्राहकों के 170 हजार से अधिक साइटों का समर्थन करते हैं। इस समय के दौरान, हमने कई बार वर्चुअलाइजेशन प्लेटफ़ॉर्म को बदलने में कामयाबी हासिल की, दोनों एक्सईएन, ओपनवीजेड और पैरेललस क्लाउड सर्वर की कोशिश की, और अंततः पीसीएस पर बस गए। हमने प्लेटफ़ॉर्म क्यों बदले, किन मापदंडों से उन्होंने तुलना की, किस बात ने हमें उनके बारे में प्रसन्न किया, और क्या, स्पष्ट रूप से, हम नाखुश थे - कटौती के तहत।


लगभग 6 साल पहले, हम वर्चुअल सर्वर रेंटल सेवाओं की पेशकश करने के लिए बाजार में पहले में से एक थे, और प्राथमिक वीपीएस मंच के रूप में हमने डेबियन एच 4.0 पर आधारित एक्सपी हाइपरविजर चुना, क्योंकि हमारे पास पहले से ही इस वितरण के साथ अनुभव था, और एक्सईएन समर्थन के साथ कर्नेल आधिकारिक भंडार में उपलब्ध है।

साल बीत गए, नए ग्राहक दिखाई दिए, और एक्सएम प्लेटफॉर्म के अलगाव की विश्वसनीयता और स्तर के सवाल आनुपातिक रूप से बढ़ गए। उस समय, हमारे उपकरणों पर अप्रिय नियमितता के साथ विफलताएं हुईं (नेटवर्क कार्ड ड्राइवरों के साथ गंभीर समस्याएं थीं), जिसने हमें हमारे ग्राहकों को गुणवत्ता सेवा प्रदान करने से रोका।

एक साल की परेशानी के बाद, हमने कई ग्राहकों को स्थानांतरित करने की कोशिश की, जिन्होंने विशेष रूप से एक्सएन क्रैश के बारे में शिकायत की, ओपनवीजेड के साथ एक सर्वर (केवीएम क्यों नहीं? बहुत सरल - फिर यह बहुत कच्चे स्तर पर था और औद्योगिक उपयोग के लिए अनुशंसित नहीं था)। हमारी खुशी कोई सीमा नहीं जानता था। OpenVZ, उत्कृष्ट परीक्षण किए गए RHEL 5 कोर के आधार पर, अपना सर्वश्रेष्ठ पक्ष दिखाता है - हार्डवेयर के साथ कोई समस्या नहीं है और एक ही उपकरण पर वर्चुअल सर्वर की गति समान क्लाइंट घनत्व के साथ बढ़ी है। एक होस्टिंग प्रदाता का और क्या सपना हो सकता है?

लेकिन हमने बढ़ना जारी रखा, और नए शक्तिशाली टैरिफ के लिए हमें एक तेज़ और अधिक व्यापक प्लेटफ़ॉर्म की आवश्यकता थी, जो ओपनवीजेड अब बड़े हार्डवेयर सर्वर संसाधनों (विशेष रूप से एनयूएमए आर्किटेक्चर के मामले में) की शर्तों के तहत ऑपरेशन की अपर्याप्त उच्च गति के कारण उपयुक्त नहीं था। विशेष रूप से, अगर 4-8 भौतिक कोर NUMA आर्किटेक्चर पर एक वर्चुअल सर्वर को आवंटित किए जाते हैं, तो OpenVZ भौतिक NUMA नोड्स के बीच वर्चुअल कोर को बेहतर ढंग से वितरित नहीं करता है, जिसके परिणामस्वरूप एक गंभीर प्रदर्शन विफलता होती है। I / O अलगाव स्तर भी पर्याप्त नहीं था, जिसके कारण VPS के अंदर फ़ाइल सिस्टम के संचालन में देरी हुई। इन समस्याओं से तंग आकर, हमने फिर से वर्चुअलाइजेशन / कंटेनरीकरण के समाधान की तलाश शुरू कर दी।

उन्होंने लंबे समय तक खोज नहीं की: उन्होंने समानताएं से बात की, और उन्होंने जल्दी से हमें आश्वासन दिया कि उनके समानताएं क्लाउड सर्वर ने इन सभी समस्याओं को हल कर दिया है, और अभी भी बड़ी संख्या में फ़ंक्शन हैं जो हमारे और हमारे उपयोगकर्ताओं के लिए उपयोगी होंगे।

सबसे पहले, सिस्टम के मूल के बारे में कुछ शब्द - पीसीएस और ओपनवीजेड दोनों आरएचईएल 2.6.32 के आधार पर कर्नेल का उपयोग करते हैं, लेकिन उनके बीच कई अंतर हैं। PCS और OpenVZ के बीच मुख्य अंतर आभासी सर्वरों का उच्च घनत्व और एक दूसरे से उनका बेहतर अलगाव है।

OpenVZ की तुलना में पीसीएस कितना अच्छा है
ऐसा हुआ करता था कि कंटेनरों में से एक ने फ़ाइल सिस्टम लॉग को रोक दिया था, और कंटेनर फ़ाइल सिस्टम के खराब अलगाव के कारण, इस तबाही ने अन्य सभी कंटेनरों के प्रदर्शन को प्रभावित किया। पीसीएस (साथ ही ओपनवीजेड के हाल के संस्करणों में), इस समस्या को प्लॉप फाइल सिस्टम द्वारा हल किया गया है। इसका सार यह है कि सभी कंटेनरों के लिए एक फ़ाइल सिस्टम के बजाय, प्रत्येक कंटेनर की अपनी अलग फ़ाइल प्रणाली है। यह आपको समस्याओं से पूरी तरह से बचने की अनुमति देता है जब कंटेनर डेटा के साथ संपूर्ण फ़ाइल सिस्टम किसी एकल उपयोगकर्ता के कार्यों पर निर्भर करता है।

दूसरा सुधार हमें स्मृति के अधिक कुशल उपयोग के कारण मिला। इससे पहले, रैम ने विभिन्न कंटेनरों में समान फाइलों के सभी उदाहरणों को रैम में कैश्ड किया था, उदाहरण के लिए, प्रत्येक कंटेनर के लिए कर्ल या लिबेक लाइब्रेरी की दर्जनों अलग-अलग कॉपी की गई थीं। इसने स्मृति को बहुत प्रभावित किया। पीसीएस के साथ, हम pfcache तंत्र का उपयोग करते हुए लगभग 15% RAM को मुक्त करने में कामयाब रहे, जो कि चालाकी से कैश I / O फाइल करता है और हर बार एक नया पुस्तकालय उदाहरण लोड नहीं करता है, लेकिन इसके बजाय "पड़ोसी" द्वारा पहले से लोड किए गए मेमोरी क्षेत्र के लिए एक लिंक डालता है। यह, निश्चित रूप से, केवल काम करता है अगर पुस्तकालयों के संस्करण समान हैं।
एक अन्य समस्या जिसे हम दूर करने में कामयाब रहे, वह थी कंटेनरों के बीच इनपुट-आउटपुट का खराब अलगाव। OpenVZ में, हम अक्सर इस तथ्य पर आते हैं कि I / O अलगाव के मामलों में निम्न स्तर के कारण, उदाहरण के लिए, कंटेनरों में से एक ने लाखों फ़ाइलों के साथ I / O कतार को रोक दिया, वही I / O नोड पर अन्य सभी कंटेनर निर्दयी हैं धीमा हो गया। पीसीएस में, यह cgroups कर्नेल सबसिस्टम (Parallels का दावा है कि उनके विशेषज्ञ सीधे इसके विकास में शामिल थे) का उपयोग करके हल किया गया था, जो कंटेनर के बीच फ़ाइल I / O को अलग करता है। Cgroups प्लस प्रत्येक कंटेनर के लिए अपनी स्वयं की फ़ाइल प्रणाली आदर्श (अच्छी तरह से, लगभग) आभासी वातावरण के अलगाव प्रदान करता है। जैसा कि आप शायद पहले से ही समझते हैं, एफएस पत्रिका अब सभी कंटेनरों के लिए एक आम नहीं है, लेकिन प्रत्येक कंटेनर के लिए एक अलग है।

चौथी समस्या इस तथ्य से संबंधित थी कि बहुत से उपयोगकर्ता अक्सर एक कंटेनर को शुरू करने के तरीके के बारे में प्रश्नों के साथ समर्थन करते थे जो एक कारण या किसी अन्य के लिए टूट गया था, और उन समस्याओं के साथ भी जब कंटेनर में मेमोरी या हार्ड डिस्क की कमी थी। पीसीएस में, हमने उपयोगकर्ताओं को सीधे वर्चुअल मशीन की स्थिति की निगरानी के लिए रिकवरी फ़ंक्शंस, वीएनसी पहुंच और उपयोगिताओं की शुरुआत की, ताकि वे अब वे कर सकें जो उन्होंने पहले समर्थन का समर्थन किया था। नतीजतन, इन मुद्दों पर अपील की संख्या लगभग एक तिहाई कम हो गई।

ठीक है, "छोटी चीज़ों" से:
पावर पैनल ने हमें प्रसन्न किया, लेकिन यह कहने के लिए नहीं कि इसने हमें मारा - कुछ भी सुपर-इनोवेटिव नहीं, लेकिन हमारे समर्थन को शामिल किए बिना किसी भी समस्या को हल करने के लिए काफी सुविधाजनक ग्राफिकल और कंसोल उपयोगिताओं का एक पूरा सेट है। पहली बार वर्चुअलाइजेशन का सामना करने वाले नवागंतुकों ने वर्चुअल मशीनों को स्थापित करने और प्रबंधित करने के लिए समर्थन से संपर्क नहीं किया।

बैकअप सिस्टम तेजी से काम करता है, डिस्क सिस्टम पर एक न्यूनतम लोड बनाता है (प्लूप स्नैपशॉट के लिए समर्थन के कारण), और इसमें वृद्धिशील बैकअप के लिए समर्थन भी है (जो बदले में, हमें डिस्क स्थान की बहुत बचत करता है)।

पीसीएस में क्या नहीं है, और हमें अपने लिए कैसे तय करना था
अब समांतर क्लाउड सर्वर की तैनाती के दौरान हमने किस तरह की रेक को आगे बढ़ाया और उससे निपटने के तरीके क्या थे।

1. केंद्रीकृत नियंत्रण कक्ष (PVA MN) में API नहीं है, और सभी ऑपरेशन वेब इंटरफेस के माध्यम से या विशिष्ट सर्वरों के एपीआई के माध्यम से किए जाने चाहिए।
कैसे लड़ें: हमें pva एजेंट नोड्स के माध्यम से सीधे VPS के निर्माण / निलंबन / हटाने का प्रबंधन करना था, और संपूर्ण स्थापना स्तर (पहली जगह में प्रवास) के कार्यों को लागू करने के लिए सभी नोड्स को pva प्रबंधन नोड में जोड़ना था। समानताएं पर, हमें पहले से ही आगामी रिलीज में से एक में इस सुविधा को लागू करने का वादा किया गया है, हम इंतजार करेंगे और देखेंगे कि क्या होता है।

2. वीपीएस को हटाने और इसे फिर से बनाने के बिना ओएस को बदलने का कोई तरीका नहीं है। यह एक अत्यंत समस्याग्रस्त विशेषता है जो मौलिक रूप से वीपीएस सेवा के सार के साथ संघर्ष करता है। ग्राहक बहुत बार ओएस को एक से दूसरे में बदलते हैं, और पावर पैनल में इस तरह की सुविधा की कमी हमारे समर्थन पर लोड को गंभीरता से बढ़ाती है।
कैसे लड़ें: अब, ओएस को बदलने के लिए, क्लाइंट को हमारे समर्थन में लिखना होगा, यह बदले में, सर्वर पर कंटेनर को हटाने की पहल करता है, ओएस को समायोजित करता है और कंटेनर को फिर से स्थापित करता है। सामान्य तौर पर, यह एक सुविधाजनक विकल्प से दूर है, और इसमें लगभग 15-20 मिनट लगते हैं।
Parallels के लोगों ने हमें कंटेनर को फिर से बनाते समय एक आईडी छोड़ने का अवसर देने का वादा किया, जो अधिकांश संगतता समस्याओं को हल करेगा (लेकिन सभी नहीं)।

3. आने वाले ट्रैफ़िक को आकार देने के लिए समर्थन का अभाव और आउटगोइंग ट्रैफ़िक के वर्तमान cbq-shaper का बेहद अस्थिर संचालन। यह एक नोड पर कम-शक्ति वाले कंटेनरों के सबसे घने प्लेसमेंट की संभावना को नकारता है - एक छोटा ग्राहक एक गीगाबिट चैनल को अनलोड कर सकता है। हमारे लिए शेपर, निश्चित रूप से, मेगा-क्रिटिकल, क्योंकि यह हमें नए टैरिफ प्लान बनाने की संभावनाओं में सीमित करता है।
कैसे लड़ें: एक अस्थायी समाधान के रूप में, हम tc / htb शेपर के आधार पर अपनी स्क्रिप्ट का उपयोग करते हैं , जो सिद्धांत रूप में स्वीकार्य है, लेकिन PCS API को दरकिनार करते हुए इसे प्रबंधित करना मुश्किल है। इसलिए, मैं पहले और जल्द से जल्द समानताएं प्राप्त करना चाहूंगा।


जिन लोगों को इसकी जरूरत है, उनके लिए हमारी स्क्रिप्ट

4. पाठ्यक्रम / रूसी भाषा के प्रलेखन का अभाव - यह मुख्य रूप से हमारे समर्थन के ग्राहकों और कर्मचारियों के लिए प्रलेखन के साथ एक समस्या है।
कैसे लड़ें: ठीक है, हमारे पास अनुभवी प्रशासक हैं, निश्चित रूप से, अंग्रेजी और स्थापना और कॉन्फ़िगरेशन कौशल के साथ कोई समस्या नहीं थी। लेकिन ग्राहकों को क्रमशः मदद करनी पड़ी, समर्थन पर एक अतिरिक्त भार है।

5. मैन्युअल रूप से कॉन्फ़िगर कंटेनर के आधार पर एक बहुत ही जटिल टेम्पलेट विधानसभा प्रणाली। अक्सर आपको मैन्युअल रूप से कंटेनर को कॉन्फ़िगर करने की आवश्यकता होती है और फिर इसके आधार पर बाकी का निर्माण करें। अब इसे दो तरीकों से किया जा सकता है: या तो ईज़ी टेम्प्लेट के माध्यम से, लेकिन इस मामले में जटिल लिपियों को कंटेनर में रखना असंभव है। यदि आपको किसी प्रकार के जटिल कंटेनर की आवश्यकता है, तो आपको इसे मैन्युअल रूप से क्लोन करना होगा, और यह असुविधाजनक रूप से लागू किया जाता है और केवल उसी सर्वर के भीतर काम करता है।
कैसे लड़ें: अब हम मौजूदा पूरी तरह से गैर-सहज तंत्र के माध्यम से लागू कर रहे हैं। मैं विशिष्ट कंटेनरों की छवियों का एक पुस्तकालय बनाने में सक्षम होना चाहता हूं।

6. लिनक्स ओएस के लिए एप्लिकेशन टेम्प्लेट का सेट अब बहुत दुर्लभ है और यह उपयोगकर्ताओं की बुनियादी जरूरतों को भी कवर नहीं करता है। इस वजह से, हमारे पास अतिरिक्त सॉफ़्टवेयर स्थापित करने के लिए कई ग्राहक अनुरोध हैं (उदाहरण के लिए, मेमकाटेड, रेडिस, ओपनवीपीएन)।
कैसे लड़ें: अनुरोधों को तकनीकी सहायता से मैन्युअल रूप से हल किया जाता है।

7. कई प्रोग्रामिंग भाषाओं में एजेंट एपीआई के साथ काम करने के कोई उदाहरण नहीं हैं। आदर्श रूप से, मैं आम तौर पर एक तैयार बाध्यकारी पुस्तकालय पसंद करूंगा।

8. कोई लाइसेंसिंग विकल्प नहीं है, न केवल व्यक्तिगत सर्वर स्तर पर, बल्कि संपूर्ण सर्वर क्लस्टर के लिए भी।
जैसा कि हम अंक 7-8 पर लड़ते हैं: यहाँ यह स्पष्ट है, जबकि हम जो है, उसके साथ काम कर रहे हैं।

9. मैं स्थानीय डिस्क भंडारण (उदाहरण के लिए, एसएसडी कैशिंग के कारण) को गति देने पर अधिक ध्यान देना चाहूंगा। हम इस समस्या को हल करने की योजना शत-प्रतिशत समाधान प्रस्तुत करते हैं, शायद समानताएं क्लाउड स्टोरेज की भी।
कैसे लड़ें: फिलहाल, महंगे, लेकिन RAID 10 पर आधारित स्थानीय भंडारण का उपयोग किया जाता है।

हमने इन सभी प्रश्नों और इच्छाओं को पहले ही Parallels में स्थानांतरित कर दिया है।

पीसीएस कार्यान्वयन प्रक्रिया कैसे हुई, इसके बारे में थोड़ा
हमने डेल समाधानों का उपयोग किया, हमारे सर्वरों के संचालन का आधार इंटेल Xeon पर आधारित हार्डडिस्क 720 है जो कि एक हार्ड ड्राइव के आधार पर एक डिस्क सबसिस्टम के साथ दोहरे प्रोसेसर कॉन्फ़िगरेशन में है।


हमने हार्डवेयर फ़ार्मों के दोष सहिष्णुता को सुनिश्चित करने के लिए अलग से रहने का फैसला किया और इसलिए, इस चरण को एकल कर दिया। हमने एक ऐसे बिंदु से शुरुआत की जिसने हमें अतीत में कई समस्याएं दीं - स्मृति। सर्वर (64Gb +) पर बहुत बड़ी मात्रा में रैम की शर्तों के तहत मेमोरी त्रुटियां एक बहुत ही सामान्य घटना है, और इसलिए हमने समता के साथ एक कॉन्फ़िगरेशन चुना। डिस्क सबसिस्टम ने RAID-10-आधारित समाधान का उपयोग किया, जो वर्षों से साबित हुआ, पढ़ने और लिखने के साथ कैशिंग (बेशक, बीबीयू के साथ)। नेटवर्क सबसिस्टम के ऑप्टिमाइज़ेशन में दो अलग-अलग नेटवर्क कंट्रोलर स्थापित करना और उन्हें एक स्विच या नेटवर्क कार्ड की विफलता की स्थिति में डाउनटाइम से बचने के लिए चैनल एकत्रीकरण तकनीक का उपयोग करके अलग-अलग स्विच से कनेक्ट करना शामिल है।

जब हार्डवेयर प्लेटफॉर्म तैयार हो गया, तो हमने अपने उपकरणों पर पीसीएस की तैनाती शुरू कर दी। विशेष रूप से परीक्षणों के लिए, समानताएं लोगों ने हमें बड़ी संख्या में परीक्षण लाइसेंस दिए और तकनीकी विशेषज्ञों के साथ घनिष्ठ संपर्क प्रदान किया, जिसने कार्यान्वयन कार्य को बहुत सरल बनाया। स्थापना प्रक्रिया स्वयं CentOS 6 की संवादात्मक स्थापना से थोड़ी भिन्न होती है और बिना किसी कठिनाई के गुजरती है (बेशक, पीएक्सई के माध्यम से स्थापित होने की संभावना है, जिसे हम नए सर्वरों को तैनात करने के लिए उपयोग करते हैं)।

पीसीएस प्रणाली अपने आप में एक घटक है जिसे एक सर्वर पर स्थापित किया जा सकता है या कई सर्वरों पर वितरित किया जा सकता है। यहां मुख्य घटक समानताएं एजेंट है (सर्वर हार्डवेयर पर सीधे स्थापित है और वर्चुअल कंटेनर के प्रबंधन के लिए एक एपीआई है, लेकिन इसमें ग्राफिकल इंटरफ़ेस नहीं है)। दृश्य प्रबंधन के लिए, एक अलग घटक (एक कंटेनर के रूप में डाला जाता है) का उपयोग किया जाता है - समानताएं प्रबंधन नोड (पीवीए एमएन), जिसे केवल एक बार डिलीवर करने की आवश्यकता होती है, और इसके बाद यह पैरेलल्स एजेंट (पीए) के साथ किसी भी संख्या में सर्वर का प्रबंधन कर सकता है। यही है, आप क्लाइंट नोड के रूप में एक ही सर्वर पर प्रबंधन नोड रख सकते हैं, या आप इसे एक अलग सर्वर पर स्थानांतरित कर सकते हैं। हम बड़े होस्टर्स हैं, हमारे लिए पीए और पीवीए एमएन को अलग-अलग सर्वरों पर रखना अधिक सुविधाजनक और विश्वसनीय था और छोटी कंपनियां एक ही सर्वर पर दोनों कंपोनेंट्स डाल सकती हैं।

फिलहाल, पीसीएस लगभग 4 महीने से वाणिज्यिक परिचालन में है, और टिप्पणियों के बावजूद, हम इससे प्रसन्न हैं, क्योंकि मुख्य तथ्य यह है:
- कंटेनरों का घनत्व ओपनवीजेड और अन्य प्लेटफार्मों की तुलना में अधिक निकला
- एफएस और आई / ओ के बेहतर अलगाव के कारण कंटेनरों की उपलब्धता अधिक है
- रैम और डिस्क स्थान सहेजें
- दैनिक वृद्धिशील बैकअप - ग्राहक डेटा सुरक्षित है, कम डिस्क स्थान खर्च होता है
- हम कम समय सर्विसिंग सर्वर खर्च करते हैं, क्योंकि पीसीएस लगभग पर्यवेक्षण की आवश्यकता नहीं है
- समर्थन में अपील की संख्या कम हो गई है
- हम बड़ी मात्रा में मेमोरी, डिस्क और प्रोसेसर क्षमता के साथ नए और नए टैरिफ बना सकते हैं
- ग्राहक संतुष्ट हैं। :-)

यदि आपके कोई प्रश्न हैं, तो टिप्पणियों में लिखें।