कैश और DRBD लिखें: इन्स और आउटसाइड को जानना क्यों उपयोगी है

प्रागितिहास

DRBD + Proxmox VE पर आधारित एक विश्वसनीय सस्ती क्लस्टर बनाने के लिए एक सुंदर समाधान है। प्रॉक्समॉक्स विकी पेज 11 सितंबर, 2009 को दिखाई दिया और इसे मार्टिन मौरर, सीईओ द्वारा बनाया गया था।



तब से, यह समाधान बहुत लोकप्रिय हो गया है, और किसी को संदेह नहीं है कि इस समाधान में एक छिपी हुई गड़बड़ी है। वे इस बारे में दस्तावेज में नहीं लिखते हैं, लेकिन जिन लोगों को इस समस्या के परिणाम का सामना करना पड़ा (उदाहरण के लिए, एक होस्ट से दूसरे में ऑनलाइन माइग्रेशन के दौरान एक मशीन दुर्घटना) ने सब कुछ "केस" के रूप में लिखा। किसी ने हार्डवेयर पर पाप किया, किसी ने प्रॉक्समॉक्स पर, और किसी ने वर्चुअल मशीन के अंदर ड्राइवरों पर। निश्चित रूप से, मैं चाहूंगा कि DRBD अपनी समस्याओं को स्वयं बताए, और किसी तरह आप अवचेतन रूप से यह मानते हैं कि यह ऐसा करता है। आप जाँच / खरीद / drbd, आप लाइन "सीएस: कनेक्टेड रो: प्राथमिक / प्राथमिक डीएस: UpToDate / UpToDate" देखते हैं और आप मानते हैं कि DRBD का इससे कोई लेना-देना नहीं है।

एक बार, DRBD के लिए प्रलेखन को ध्यान से पढ़ते हुए, मुझे अखंडता के लिए DRBD की नियमित जांच करने की सिफारिश मिली, अर्थात एक दूसरे के साथ दो नोड्स की पहचान पर। खैर, क्यों नहीं, मैंने सोचा था, सत्यापन बहुत अच्छा नहीं होगा। और फिर एक साल लंबी कहानी शुरू हुई।

यह पता चला है कि हर हफ्ते DRBD में नए आउट-ऑफ-सिंक ब्लॉक दिखाई देते हैं। यानी दो सर्वर पर डेटा अलग था। लेकिन क्यों!

हार्डवेयर को बदलना, DRBD संस्करण को अपडेट करना, ऑफलोड और बॉन्डिंग को अक्षम करने से सकारात्मक परिणाम नहीं हुआ, और नए ब्लॉक सभी दिखाई और दिखाई दिए। निम्न परिणामों में से किस ब्लॉक के आउट-ऑफ-सिंक का विश्लेषण हुआ:
- अक्सर - लिनक्स वर्चुअल मशीन का स्वैप विभाजन
- शायद ही कभी - वर्चुअल मशीन पर NTFS विभाजन के साथ विंडोज
- लिनक्स वर्चुअल मशीन पर ext4 कभी नहीं

यह "दिलचस्प" था, लेकिन यह इस सवाल का जवाब नहीं देता था कि "यह क्यों और कैसे हो सकता है"। मैंने DRBD उपयोगकर्ता मेलिंग सूची (http://www.gossamer-threads.com/lists/drbd/users/25227) पर अपने सभी शोधों के बारे में बात की और एक दिन मुझे जवाब मिला कि मैं इतने लंबे समय से इंतजार कर रहा था। DRBD के मुख्य डेवलपर्स में से एक लार्स एलेंबर्ग ने बताया कि वास्तव में क्या हो रहा है और इसे कैसे जांचना है।

DRBD को कैसे लिख रहा है

सामान्य मामला:
1) DRBD बफर से डेटा लिखने के लिए OS से अनुरोध प्राप्त करता है;
2) DRBD स्थानीय ब्लॉक डिवाइस पर डेटा लिखता है;
3) DRBD नेटवर्क पर दूसरे नोड को डेटा भेजता है;
4) DRBD को स्थानीय ब्लॉक डिवाइस से रिकॉर्डिंग के अंत की पुष्टि मिलती है;
5) DRBD को दूसरे नोड से रिकॉर्ड के अंत की पुष्टि मिलती है;
6) DRBD रिकॉर्डिंग के अंत का OS पुष्टिकरण भेजता है।

अब कल्पना करें कि बफर में डेटा अप्रत्याशित रूप से बदल गया है और हमें मिलता है:
1) DRBD बफर से डेटा लिखने के लिए OS से अनुरोध प्राप्त करता है;
2) DRBD स्थानीय ब्लॉक डिवाइस पर डेटा लिखता है;
2.5) बफर डेटा बदल गया है;
3) DRBD नेटवर्क पर दूसरे नोड को डेटा भेजता है;
4) DRBD को स्थानीय ब्लॉक डिवाइस से रिकॉर्डिंग के अंत की पुष्टि मिलती है;
5) DRBD को दूसरे नोड से रिकॉर्ड के अंत की पुष्टि मिलती है;
6) DRBD रिकॉर्डिंग के अंत का OS पुष्टिकरण भेजता है।
और हम तुरंत आउट-ऑफ-सिंक हो जाते हैं।

यह कैसे आता है? बहुत सरल है। बफर को कैशिंग लिखने के लिए एप्लिकेशन द्वारा उपयोग किया जा सकता है (एप्लिकेशन, हमारे साथ, एक वर्चुअल मशीन प्रक्रिया है)। इस मामले में, एप्लिकेशन इस डेटा को भौतिक डिवाइस या नियंत्रक पर लिखने की पुष्टि किए बिना बफर में डेटा को अपडेट कर सकता है, और DRBD के मामले में यह अस्वीकार्य है।

इस सब में सबसे अप्रिय यह है कि डेटा खोने में सक्षम होने के लिए, आपको बिजली बंद करने की भी आवश्यकता नहीं है । बस राइट कैश पर बारी।

कैसे करें जांच? आपको DRBD सेटिंग्स और प्रतीक्षा में डेटा-अखंडता-एल्ग को सक्षम करने की आवश्यकता है। यदि आपको "लिखने के दौरान ऊपरी परतों द्वारा संशोधित बफर" जैसा कुछ मिलता है, तो यह यही है। सावधान रहें, अगर DRBD दोहरे-प्राथमिक मोड में काम करता है, तो "डेटा-अखंडता-एल्ग" चालू होने के साथ, आपको तुरंत एक विभाजित मस्तिष्क मिलेगा (यह प्रलेखन में नहीं लिखा गया है)।

QEMU / KVM कैशिंग लिखें

डिफ़ॉल्ट रूप से, Proxmox VE में वर्चुअल मशीनें कैश का उपयोग करती हैं = वर्चुअल डिस्क के लिए कोई नहीं। इस तथ्य के बावजूद कि "कोई नहीं" हमें बताता है "हम कुछ भी कैशिंग नहीं कर रहे हैं", वास्तव में यह ऐसा नहीं है। कोई भी, इस मामले में, "होस्ट कैश" का उपयोग नहीं करता है, लेकिन ब्लॉक डिवाइस पर राइट कैश अभी भी उपयोग में है। और यहां से हमें DRBD में सिंक ब्लॉक से बाहर निकलने की समस्या है।



DRBD के साथ उपयोग किए जाने पर केवल दो मोड को विश्वसनीय माना जा सकता है: Directsync और रिटथ्रू। पहला कैशिंग का उपयोग नहीं करता है, अर्थात्। हमेशा ब्लॉक डिवाइस से सीधे पढ़ता है (यह एक RAID नियंत्रक हो सकता है) और ब्लॉक डिवाइस को लिखता है (यह एक RAID नियंत्रक हो सकता है), हमेशा रिकॉर्डिंग की पुष्टि के लिए इंतजार कर रहा है। दूसरा मोड पढ़ने के लिए "होस्ट कैश" का उपयोग करता है।

इस प्रकार, यदि आप राइट-कैशिंग और BBU के साथ भौतिक RAID का उपयोग नहीं करते हैं, तो एक वर्चुअलाइजेशन सिस्टम भयावह रूप से धीमा हो सकता है। और यदि आप RAID का उपयोग बीबीयू के साथ करते हैं, तो वर्चुअल मशीन को नियंत्रक कैश में डेटा रखने के तुरंत बाद रिकॉर्ड की पुष्टि प्राप्त होगी।

Ext4 पर कोई आउट-ऑफ-सिंक क्यों नहीं है

कैश = डायरेक्टसिंक और कैश = राइटथ्रू मोड का उपयोग करना सबसे विश्वसनीय है, क्योंकि, इस मामले में, हमें इस बारे में चिंता करने की आवश्यकता नहीं है कि वर्चुअल मशीन के अंदर क्या हो रहा है। लेकिन यह एकमात्र तरीका नहीं है। यह उन मामलों में ध्यान में रखा जाना चाहिए जब हमारे पास पर्याप्त RAID प्रदर्शन नहीं होता है या हमारे पास बिल्कुल भी RAID नहीं होता है।

आप यह सत्यापित कर सकते हैं कि डेटा न केवल वर्चुअल मशीन की प्रक्रिया स्तर पर, बल्कि वीएम के अंदर भी दर्ज किया गया है। यहां हम बाधा की अवधारणा से परिचित हो जाते हैं, जो मानता है कि फाइल सिस्टम को खुद पता है कि कब कैश से भौतिक डिवाइस में फ्लश करने की जरूरत है और इस ऑपरेशन के पूरा होने का इंतजार करें। और आदमी माउंट हमें बताता है कि "ext4 फाइलसिस्टम डिफ़ॉल्ट रूप से अवरोधों को लिखने में सक्षम बनाता है।" यही कारण है कि हम उन क्षेत्रों में आउट-ऑफ-सिंक नहीं देख पाएंगे, जहां बैरियर का उपयोग करने वाला फाइल सिस्टम स्थित है।

उपयोगी लिंक:
- प्रॉक्समॉक्स और डीआरबीडी : pve.proxmox.com/wiki/DRBD
- सिंक से बाहर: www.gossamer-threads.com/lists/drbd/users/25227
- सिंक के बारे में अधिक जानकारी: forum.proxmox.com/threads/18259-KVM-on-top-of-DRBD-and-out-of-sync-long-term-investigation-results
- kvm / qemu के लिए कैश पैरामीटर का विवरण: www.suse.com/documentation/sles11/book_kvm/data/sect1_1_chapter_book_kvm.html
- कैश के बारे में अधिक जानकारी: www.ilsistemista.net/index.php/virtualization/23-kvm-storage-performance-and-cache-settings-on-red-hat-enterprise-linux-62.html?start=2