न्यूनतम श्रम के साथ सर्वर का कुशलतापूर्वक या बड़े पैमाने पर प्रक्षेपण

हमारे पहले लेख में, जैसा कि पहले ही घोषणा की गई थी, हम अपने अनुभव को इतनी कम चर्चा वाले मुद्दे पर साझा करने की जल्दबाजी करते हैं क्योंकि यह एक अत्यधिक भरी हुई परियोजना के हिस्से के रूप में सैकड़ों सर्वरों की तेजी से तैनाती है।

भौगोलिक रूप से दूरस्थ डेटा केंद्र में उपकरणों के लिए कोई भौतिक पहुंच के साथ कई सौ सर्वरों को कैसे तैनात किया जाए? कैसे इस समस्या को हल करता है?
हम आपको इस बारे में निम्नलिखित उदाहरण में बताएंगे।

नीचे हम सर्वर हार्डवेयर को कॉन्फ़िगर करने के पहले चरण के बारे में बात करेंगे; कितनी जल्दी और समय पर हमने एक विशिष्ट कार्य पूरा किया, और इष्टतम स्क्रिप्ट लिखने के बारे में नहीं। यदि यह विषय आपको दिलचस्प लगता है, तो हम आपको सर्वर पर ओएस स्थापित करने और काम के माहौल को स्थापित करने के बारे में बताने में प्रसन्न होंगे, जिसकी अपनी सूक्ष्मताएं भी हैं।

इसलिए, हमें कई सौ नए सर्वरों को तैनात करने का काम सौंपा गया था जो अभी हमारे दो डेटा केंद्रों पर आए थे।

सफल निष्पादन पर, आउटपुट हमें प्राप्त करना चाहिए:

• प्रत्येक सर्वर के लिए संपूर्ण "लोहा" घटक का वर्णन;
• प्राप्त एक को आदेशित उपकरणों के पत्राचार (ऐसे मामले हैं जब कॉन्फ़िगरेशन जो ऑर्डर किया गया था वह नहीं आता है);
• OS और सर्वर सॉफ़्टवेयर स्थापित करने के लिए तैयार (फर्मवेयर के अपडेटेड संस्करणों के साथ RAID, ROM, आदि, कॉन्फ़िगर RAID-सरणियाँ, हार्डवेयर के साथ कोई समस्या नहीं)।

जानकारी हमारे पास थी:

• सर्वर रैक / अलमारियाँ में शामिल हैं और शामिल हैं;
• कारखाने के लॉगिन और पासवर्ड ज्ञात हैं;
• सभी सर्वरों में एक IPMI इंटरफ़ेस (प्रबंधन इंटरफ़ेस) है;
• सर्वर में निर्माता से कोई प्रीसेट नहीं है (विशेष रूप से, RAID कॉन्फ़िगर नहीं किया गया है, पावर सेटिंग्स सेट नहीं हैं);
• सभी सर्वर कम से कम दो इंटरफेस द्वारा नेटवर्क उपकरण से जुड़े हुए हैं, जो पहले से ज्ञात वीएलएएन में हैं ;
• नए सर्वर क्रमशः अपने आईपी पते प्राप्त करते हैं, क्रमशः, वे स्विच करने के तुरंत बाद उपलब्ध होते हैं;
• यह ज्ञात है कि कितने सर्वरों को आपूर्ति की जानी थी।

बेशक, कुछ अतिरिक्त कठिनाइयां थीं। पहले, हमारे इंजीनियरों की सर्वर तक भौतिक पहुंच नहीं थी। दूसरे, डिलीवरी के हार्डवेयर में कई अलग-अलग कॉन्फ़िगरेशन थे। और तीसरा, हमारे सर्वर के बारे में हम सभी जानते थे कि वास्तव में केवल उनके कारखाने के लॉगिन और पासवर्ड थे।

ज्यादातर, इस तरह के कार्यों को डेटा सेंटर के कर्मचारियों को शामिल करते हुए एक dd , PXE सर्वर और rsync , कार्य सेटिंग की सहायता से हल किया जाना प्रस्तावित है। लेकिन हमने सवाल अलग तरीके से किया।

हमने जो समाधान पाया, उसमें कुछ स्वचालन शामिल है। कृपया ध्यान दें कि नीचे दी गई सभी लिपियाँ केवल सूचना के उद्देश्यों के लिए हैं और पूर्ण होने का दावा नहीं करती हैं।

हमारे द्वारा आवश्यक कार्य पूरा करने के लिए:

• कई पाठ फ़ाइलें जो काम पूरा होने पर हटा दी जाती हैं;
• उम्मीद का उपयोग करते हुए कुछ बहुत ही सरल स्क्रिप्ट;
• कॉन्फ़िगर किया गया नेटवर्क बूट सर्वर (हमारे मामले में, यह xCAT है );
• ओएस की कॉन्फ़िगर और काम करने वाली छवि (कोई फर्क नहीं पड़ता कि, मुख्य बात यह है कि इस छवि में शामिल सभी उपयोगिताओं की आवश्यकता है);
• एक अनुकूलित उपकरण सूची प्रणाली (हमारे मामले में, glpi परियोजना )।

सबसे पहले, हमें यह पता लगाने की जरूरत है कि हमारे नए सर्वरों द्वारा कौन से आईपी पते प्राप्त किए गए थे। ऐसा करने के लिए, हमने प्रारूप में लॉगिन और पासवर्ड के बारे में डेटा के साथ एक टेक्स्ट फ़ाइल नोड बनाया

  ILOHOSTNAME1 ILOPASSWORD1
 ILOHOSTNAME2 ILOPASSWORD2 

हमें बारकोड स्कैनर का उपयोग करके प्रत्येक सर्वर पर उपलब्ध स्टिकर से यह डेटा मिला है। मानक लॉगिन अग्रिम में जाना जाता था - प्रशासक। स्टीकर उदाहरण:


अब एक कमांड चलाना संभव था जो हमें होस्टनाम और आईपी मैच एकत्र करता था:

  $ i में (कैट नोड्स | awk {'प्रिंट $ 1'});  do j = $ (cat nodes | grep $ i | awk {'$ $ 2'});  ssh DHCPD_SERVER_FQDN "sudo cat / var / log / messages | grep $ i | tail -1 | sed 's / $ /' $ j '/ g'";  किया 

परिणामस्वरूप, हमें नीचे की तरह लाइनें मिलीं, उन्हें नोड्सविप फ़ाइल में जोड़ा गया:

  जुलाई 1 10:31:23 स्थानीय @ DHCPD_SERVER dhcpd: DHCPACK 10.10.10.213 से 9c: 8e: 99: 19: 3a: 68 (ILOUSE125NDBF) 10..10.10.13 के माध्यम से W3G554L7
 Jul 1 10:31:35 स्थानीय @ DHCPD_SERVER dhcpd: DHCPACK 10.10.10.210 से 9c: 8e: 99: 19: b6: aa (ILOUSE125NDBA) 10.10.1.1 BJCP691P के माध्यम से
 जुलाई 1 10:31:47 स्थानीय @ DHCPD_SERVER dhcpd: DHCPACK 10.10.10.211 से 9c: 8e: 99: 19: 58: 7c (ILOUSE125NDBG) 10..10.10.1 67MG91SV के माध्यम से 

अब हमें नए सर्वर के सभी आईपीएमआई इंटरफेस पर उसके लिए उपलब्ध अधिकारों के एक सेट के साथ एक मानक उपयोगकर्ता बनाने की आवश्यकता है। यहां आगे की संरचना के लिए शुद्ध और एमजीएम इंटरफेस के मैक पते प्राप्त करना भी आवश्यक था। ऐसा करने के लिए, हमने कमांड चलाया

  के लिए मैं $ में (बिल्ली nodeswip | awk {'प्रिंट $ 8'});  do j = $ (grep $ i nodeswip | awk {'print $ 14'});  उम्मीद है कि expwip.sh $ i $ j |  grep Port1NIC_MACAddress;  किया; 

जहां sh-script expwip.sh इस तरह दिखता था:

  #! / usr / बिन / उम्मीद
 टाइमआउट 600 निर्धारित करें  
 IP सेट करें [lindex $ argv 0]
 सेट पास [lindex $ argv 1]
 spawn ssh एडमिनिस्ट्रेटर @ $ ip
 सेट उत्तर "$ पास"
 सेट कम 1 "create / map1 / accounts1 उपयोगकर्ता नाम = नियोजक पासवर्ड = पासवर्ड नाम = नियोजक समूह = व्यवस्थापक, कॉन्फ़िगरेशन, oemhp_vm, oemhp_power, oemhp_rc"
 उम्मीद है कि "व्यवस्थापक @ $ ip का पासवर्ड:"
 "$ answer \ r" भेजें
 उम्मीद है "</> hpiLO->"
 "$ comm1 \ r" भेजें
 उम्मीद है "</> hpiLO->"
 "शो / system1 / network1 / Integrated_NICs \ r" भेजें
 उम्मीद है "</> hpiLO->"
 "बाहर निकलें" भेजें
 उम्मीद है कि 

हमारे सर्वर के नेट इंटरफेस के मैक पते की परिणामी सूची को टेबल संपादक में जोड़ा गया था, जिससे हमें सभी मैचों को देखने की अनुमति मिली।

फिर हमने डीएचसीपी सर्वर को कॉन्फ़िगर करने के लिए चरणों का प्रदर्शन किया, और फिर सर्वर को नेटबूट पर भेजा। उसके बाद, हमें रिबूट करने के लिए आईपीएमआई इंटरफेस भेजना था ताकि वे उन्हें सौंपे गए पते पर कब्जा कर लें। यह कमांड का उपयोग करके किया गया था

  उम्मीद है reset_ilo.sh $ i $ j 

जहां $ i पहले प्राप्त सर्वर का पता है, $ j कारखाना प्रशासक का पासवर्ड है

Reset_ilo.sh स्क्रिप्ट इस तरह दिखती है:

  #! / usr / बिन / उम्मीद
 टाइमआउट 600 निर्धारित करें  
 IP सेट करें [lindex $ argv 0]
 सेट पास [lindex $ argv 1]
 spawn ssh एडमिनिस्ट्रेटर @ $ ip
 सेट उत्तर "$ पास"
 सेट कम 1 "रीसेट / मैप 1"
 उम्मीद है कि "व्यवस्थापक @ $ ip का पासवर्ड:"
 "$ answer \ r" भेजें
 उम्मीद है "</> hpiLO->"
 "$ comm1 \ r" भेजें
 उम्मीद है कि 

इसके बाद, हम RAID-सरणियों के स्वचालित गठन के लिए आगे बढ़े, हार्डवेयर पर सभी संभव फर्मवेयर संस्करणों को अपडेट करते हुए, एक सुविधाजनक रूप में सर्वर के लेआउट पर व्यापक जानकारी प्राप्त की। ये सभी ऑपरेशन नेटवर्क बूट के दौरान किए गए थे।

सबसे पहले, init स्क्रिप्ट शुरू हुई, जिसने RAID सरणी को "तैयार" किया:

  LD = `/ usr / sbin / hpacucli ctrl स्लॉट = 0 लॉजिकलड्राइव सभी शो। awk '$ 0 ~ / RAID 5 / ||  / RAID 0 / ||  / RAID 1 / {प्रिंट $ 1 "" $ 2} ''

 LD = $ {LD: -NULL}

 अगर ["$ LD"! = "NULL"];  फिर / usr / sbin / hpacucli ctrl स्लॉट = 0 $ एलडी डिलीट मजबूर;  फाई
 / usr / sbin / hpacucli ctrl स्लॉट = 0 क्रिएट टाइप करें = ld ड्राइव्स = `/ usr / sbin / hpacucli ctrl स्लॉट = 0 फिजिकलड्राइव सभी शो। awk '$ 1 ~ / physicaldrive / ($ 2, arr,": "); प्रिंट $ 2} '| tr "\ n" "," | sed' s /, $ // '' छापे = 1 + 0
 अगर [`/ usr / sbin / hpacucli ctrl स्लॉट = 0 फिजिकलड्राइव सभी शो |  grep physicaldrive |  wc -l` -gt 1];  फिर r = `/ usr / sbin / hpacucli ctrl स्लॉट = 0 फिजिकलड्राइव सभी शो |  grep physicaldrive |  wc -l`;  चलो टी = $ आर% 2;  अगर [$ t -ne 0];  तो चलो tl = $ r-1;  / usr / sbin / hpacucli ctrl स्लॉट = 0 क्रिएट टाइप = ld ड्राइव = `/ usr / sbin / hpacucli ctrl स्लॉट = 0 फिजिकलड्राइव सभी शो | grep physicaldrive |  सिर - $ tl | awk '$ 1 ~ / physicaldrive / {विभाजन ($ 2, गिरफ्तारी, ":"; प्रिंट $ 2}' | tr "\ n" "," | sed "s /, $ // '' छापा = 1 + 0;  / usr / sbin / hpacucli ctrl स्लॉट = 0 सरणी सभी जोड़ पुर्जों = `/ usr / sbin / hpacucli ctrl स्लॉट = 0 फिजिकलड्राइव सभी शो | grep physicaldrive |  पूंछ -1 | awk '$ 1 ~ / physicaldrive / {विभाजित ($ 2, गिरफ्तारी, ":); प्रिंट 2 2}'। tr" \ n "", "| sed 's /, $ //' ';  फाई;  फाई 

नतीजतन, हमें 1 + 0 या "दर्पण" मिला। फिर, एक एजेंट लॉन्च किया गया, जिसने हार्डवेयर के बारे में हमारे इन्वेंट्री सिस्टम को जानकारी भेजी। हम एक फ्यूजन इन्वेंट्री एजेंट का उपयोग करते हैं, जिसकी सेटिंग में हमने सूचना संग्रह सर्वर के पते के अलावा कुछ भी नहीं बदला। परिणाम फ्यूजन इन्वेंटरी इंटरफ़ेस में दिखाई देता है:


चलाने के लिए अंतिम स्क्रिप्ट हार्डवेयर पर सभी फर्मवेयर अद्यतन कर रहा था। इसके लिए, कठपुतली में कई वर्गों का उपयोग किया गया था, जो नए सर्वरों पर चलाए जाते थे। नीचे एक वर्ग का एक उदाहरण है जो वर्तमान सर्वर कॉन्फ़िगरेशन पर "दिखता है" और, यदि आवश्यक हो, तो RAID नियंत्रक के फर्मवेयर संस्करण को आवश्यक एक में अपडेट करता है। इसी परिदृश्य में, शेष हार्डवेयर अद्यतन किए गए थे।

  वर्ग hp_raid_update_rom {
         निष्पादित {"updateraid":
                 कमांड => "wget ​​-P / tmp / http: //WEBSERVER/install/soft/firmware/hp/raid/5_12/CP015960.scexe; wget -P / tmp / http:: WEBSERVER / install / soft / update_hp_raid_firmware_512 श; chmod + x /tmp/CP015960.scexe; chmod + x /tmp/update_hp_raid_firmware_512.sh ;/tmp/update_p_raid_firmware_512.sh; गूंज '5.12'> / tmp / फर्मवेयर_ डर_
                 onlyif => "/ usr / bin / test` / sbin / lspci | grep -i 'Hewlett-Packard Company Smart Array G6' | wc -l`! = '0' && / usb / bin / test` / usr / sbin / hpacucli ctrl सभी शो डिटेल | grep -i फर्मवेयर | awk {'Print \ $' '}}! =' 5.12 '&& ([! -f / tmp / फर्मवेयर_ डर]] [' cat / tmp / फर्मवेयर_ डर`! '' 5.12 ']) ",
                 पथ => "/ usr / बिन: / बिन",
                 आवश्यकता => Exec ["remove_report_file", "remove_empty_report_file",,
         }
         निष्पादित {"remove_report_file":
                 कमांड => "/ बिन / आरएम / tmp / फर्मवेयर_ डर",
                 onlyif => "[-f / tmp / फर्मवेयर_ डर] && [` बिल्ली / tmp / फर्मवेयर_ डर` == `/ usr / sbin / hpacucli ctrl सभी शो विवरण | grep -i फर्मवेयर। awk {'Print \ $ 3'}`] "
                 पथ => "/ usr / बिन: / बिन",
         }
         निष्पादित {"remove_empty_report_file":
                 कमांड => "/ बिन / आरएम / tmp / फर्मवेयर_ डर",
                 onlyif => "[-f / tmp / फर्मवेयर_ डर] && [` बिल्ली / tmp / फर्मवेयर_ डर | wc -l` == '0'] ", |
                 पथ => "/ usr / बिन: / बिन",
         }
 } 

इस प्रकार, हमने केवल अपने संसाधनों का उपयोग करके कार्य को हल किया। हमारे सभी मशीन एक मुकाबला ओएस स्थापित करने, सॉफ़्टवेयर स्थापित करने और Badoo उपयोगकर्ताओं की सेवा शुरू करने के लिए तैयार थे।

उपरोक्त सभी में केवल उपकरण स्थापित करने की तैयारी के चरण का वर्णन है, लेख के दायरे के बाहर ओएस स्थापित करने और काम करने के वातावरण को कॉन्फ़िगर करने के प्रश्न थे। यदि आप इस विषय में रुचि रखते हैं, तो हम खुशी से xCAT और कठपुतली के बारे में सामग्री तैयार करेंगे और इन उपकरणों का उपयोग करके विशिष्ट समस्याओं को हल करने के हमारे तरीके साझा करेंगे।

आप टिप्पणियों में उपरोक्त पर अपने सुझाव, सवाल और टिप्पणियां सुरक्षित रूप से छोड़ सकते हैं - हम हमेशा बातचीत के लिए खुले हैं!

सगाई कंपनी