🍡 🏦 🏳️ मल्टी-नोड हाई-लोड क्लस्टर संगठन 🤽🏽 👶🏿 👎🏽

इस विषय के जवाब में, मैंने अपने विचारों को लिखने का फैसला किया कि अत्यधिक भरी हुई परियोजनाओं के लिए एक क्लस्टर कैसे बनाया जाए।

विषय बहुत अच्छा है। डेवलपर के दृष्टिकोण से इसे पढ़ना बहुत अच्छा है।

व्यवसाय द्वारा, मैं होस्टिंग सेवाओं के प्रावधान में लगा हुआ हूं। मेरे काम का 90% मैगनेटो इंजन पर लिखे भारी स्टोरों के लिए सर्वर स्थापित और प्रशासित कर रहा है। इसलिए, मैं प्रदर्शन पर बहुत ध्यान देता हूं।

अपने काम के दौरान, मैंने भारी परियोजनाओं के लिए आदर्श क्लस्टर की एक निश्चित दृष्टि विकसित की। यह है:

- 2 वेब सर्वर

- 1 डीबी सर्वर

- 1 लोड बैलेंसर।

बिल्कुल भी नया नहीं है, लेकिन विचार विशेष रूप से लोड बैलेंसर से संबंधित हैं

भले ही कितने लोग अपाचे की दिशा में एसिड थूकते हों, लेकिन मुझे इसके लिए योग्य प्रतिस्थापन नहीं मिला। कोशिश की गई प्रत्येक उत्पाद की अपनी खामियां थीं। सभी प्रकार की समस्याएं थीं, जिन्हें मैंने सभी तरीकों से हल करने की कोशिश की, लेकिन अंत में मैंने डंप करने के लिए सभी इंस्टॉलेशन, जैसे कि lighthttp या nginx + php-fcgi भेजे, और अपाचे को मॉड्यूल के एक अच्छे सेट के साथ वापस कर दिया।

दरअसल, वह दो वेब सर्वर पर php एप्लीकेशन को ट्विस्ट करेगा। वहां, स्वाद के लिए, आवश्यक मॉड्यूल चालू करें और अनावश्यक बंद करें।

वेब सर्वर:

फिर वेब सर्वर स्थापित करने पर एक साफ सार बहस। उन्हें शुरू करने और लोड को देखने के बाद, आपको सब कुछ बदलना और पुन: कॉन्फ़िगर करना होगा, लेकिन अभी के लिए, आपको कहीं और शुरू करने की आवश्यकता है।

Mod_prefork की डिफ़ॉल्ट सेटिंग्स बदलें। हम ServerLimit और MaxClients के निर्देश को 100 पर सेट करते हैं। हम एक ही मान के लिए StartServers और MinSpareServers निर्देशों को सेट करते हैं, उदाहरण के लिए 50। हम MaxSpareServers (टिप्पणी) को अनदेखा कर सकते हैं। सबसे अधिक संभावना है, हमारा सर्वर कई अनुरोधों को संसाधित करने में सक्षम नहीं होगा, और शायद यह अधिक प्रक्रिया करने में सक्षम होगा - यह सब आवेदन पर निर्भर करता है। इसीलिए क्लस्टर के लॉन्च के बाद, इन मूल्यों को बदलना होगा। MaxRequestsPerChild को 2000-3000 पर रखा जा सकता है।

रखवाले को चालू करें और इसे बहुत कम मूल्य पर सेट करें। 3 मैच काफी होंगे वेब सर्वर द्वारा जारी की गई सामग्री के लिए यह आवश्यक है कि किसी एकल अनुरोध के हिस्से के रूप में घाव किया जाए।

हमारे वेब सर्वर के संस्करण को छिपाने के लिए apache.conf या httpd.conf में "ServerTokens Prod" लाइन जोड़ें। यह सिर्फ मामले में है। हमारे लोड बैलेंसर अजनबियों से यह जानकारी छिपाएंगे। लेकिन उस पर और बाद में।

ये सर्वर केवल कोड स्टोर करेंगे। हम एक लोड बैलेंसर पर स्थिर सामग्री (सभी प्रकार के चित्र, फोंट, आइकन) डालेंगे। सामग्री को सिंक्रनाइज़ करने के लिए, मैं DRBD की ओर देखने की सलाह नहीं दूंगा, क्योंकि प्राथमिक-प्राथमिक मोड में केवल युवा प्रकृतिवादियों ने इसे स्थापित किया था और यहां तक कि चिकित्सा में प्रयोगशाला कक्षाओं में भी। सामग्री को सिंक्रनाइज़ करने के लिए, rsync का उपयोग करना बेहतर है। एक छोटा क्रोहन टास्क या एक छोटी स्क्रिप्ट जो हर 2-3 मिनट में चलेगी। यदि एप्लिकेशन अपनी निर्देशिकाओं के लिए कुछ फ़ाइलें (उदाहरण के लिए, लॉग) लिखता है, तो इन फ़ाइलों को सिंक्रनाइज़ेशन से बाहर रखा जाना चाहिए।

सर्वर के हार्डवेयर के मामले में, विचार की उड़ान के लिए भी काफी गुंजाइश है। इसलिए, मैं केवल हार्ड ड्राइव के टूटने पर ध्यान केंद्रित करूंगा:

कई वर्गों को बनाना बेहतर है। अलग से, बूट, / var / लॉग, / (रूट), SWAP, और / var / www। क्या बेहतर होगा अगर वे (बूट को छोड़कर) lvm में होंगे। यदि आवश्यक हो तो यह अंतरिक्ष को जोड़ना आसान बना देगा।

अपने विवेक पर टूट। उदाहरण के लिए: बूट = 0.2Gb, / var / log = 5Gb, / = 5Gb, स्वैप = 1Gb और / var / www = जितना आपके आवेदन की आवश्यकता है।

मैं / var / log में एप्लिकेशन लॉग को संग्रहीत करने की सलाह देता हूं। यदि एप्लिकेशन लॉग के स्थान को सेट करने का समर्थन नहीं करता है, तो आप कस्टम फ़ोल्डर बना सकते हैं और सही जगह में बाइंड-माउंट को कॉन्फ़िगर कर सकते हैं।

fstab से उदाहरण:

/var/log/app_logs /var/www/app_html/log none rw,bind 0 0

डेटाबेस सर्वर:

हमारा डेटाबेस यहां रहेगा। मैं ज्यादा नहीं बताऊंगा। आपका सामान्य DB सर्वर। आपके द्वारा उपयोग किए जाने वाले सॉफ़्टवेयर के आधार पर, इसे कॉन्फ़िगर करें। स्क्रू के टूटने के संदर्भ में - वेब सर्वर के लिए, केवल / var / www के बजाय, उदाहरण के लिए, आपको अपने डेटाबेस mysql को चालू करने पर विभाजन / var / lib / mysql में माउंट करना होगा। वास्तव में अन्य इंजनों के लिए एक ही बढ़ते तर्क।

एक अलग DB सर्वर का लाभ यह है कि इसका संचालन php चलाने वाले सर्वर को लोड नहीं करेगा। और पीठ पर। काम करते समय, दो वेब सर्वर एक ही डेटाबेस का उपयोग करेंगे।

फिर से, lvm का उपयोग करने से आप आसानी से वांछित अनुभाग में मक्खी के स्थानों को जोड़ सकेंगे, यदि आवश्यक हो।

लोड बैलेंसर:

सबसे स्वादिष्ट हिस्सा। क्लस्टर के इस सेगमेंट को कम न समझें, क्योंकि मेरी योजना में यह सबसे महत्वपूर्ण है। यह वह जगह है जहां सभी जादू होगा।

पहले आपको ड्राइव पर निर्णय लेने की आवश्यकता है, क्योंकि सभी स्थिर सामग्री यहां संग्रहीत की जाएगी। तर्क समान है - लॉग, स्वैप और फ़ाइल सिस्टम की जड़ के लिए एक अलग अनुभाग। मीडिया कंटेंट के लिए एक अलग सेक्शन भी है। सब कुछ lvm में।

हमने यहां मेमस्कैच किया है, और इस सर्वर से कनेक्ट करने के लिए एप्लिकेशन कॉन्फ़िगर किए हैं।

इसके अलावा यह लोड बैलेंसर पर निर्णय लेने के लायक है। मैं nginxa की ओर देखूंगा, क्योंकि यह ssl का समर्थन करता है। लेकिन आप उसके सामने एक haproxy लटका सकते हैं। फिर आपको 2 पैकेट प्रवाह पैटर्न मिलते हैं:

1. ग्राहक -> web_varnish: 80 -> haproxy: 80 -> web_backend

ग्राहक -> static_varnish: 80 -> nginx

2. ग्राहक -> haproxy: 443 -> nginx -> upstream_backend

तर्क यह है कि https यातायात haproxy से गुजरता है और एक अलग वेब-होस्ट nginxa पर जाता है, जो सर्वर के बैकएंड का वर्णन करता है। यह आपको nginxa स्तर पर ssl हैंडशेक करने की अनुमति देता है। स्टेटिक्स को नगनेक्स द्वारा दिया जाता है, और नगीनक्स अपस्ट्रीम मॉड्यूल के माध्यम से वर्णित बैकएंड सर्वर से गतिशील सामग्री का अनुरोध करता है।

उत्तरार्द्ध की सेटिंग के आधार पर, वार्निश का उपयोग करके एचटीपी सामग्री को कैश किया जाएगा। वार्निश सेटिंग्स में, सामग्री को तर्क के अनुसार हल किया जाता है:

अगर आपने css, js, ico, gif, jpeg, jpg, png, eot, ttf, swf, woff {से कुछ मांगा

nginx बैकएंड का उपयोग करें}

अगर कुछ और {

haproxy बैकएंड का उपयोग करें}

योजना इतनी सरल नहीं है। मैं haproxy का उपयोग क्यों करना चाहता हूं? बस एक मूर्ख? नहीं। यह हाइप्रोक्सी है जो हमें उन कनेक्शनों की संख्या को नियंत्रित करने की अनुमति देगा जो हम अपने बैकेंड सर्वर पर लॉन्च करेंगे। लेकिन सभी क्रम में।

पहले वार्निश को कॉन्फ़िगर करें। वार्निश की कॉन्फ़िगरेशन फ़ाइल को संपादित करें: डेबियन / ubuntu में यह / आदि / डिफ़ॉल्ट / वार्निश है; redhat / सेंटो में यह / etc / sysconfig / वार्निश है।

INSTANCE = $ (uname -n)

DAEMON_OPTS = "- एक% external_ip%: 80 \ _

-T% external_ip%: 6082 \

-उ वार्निश -g वार्निश \

-p थ्रेड_पल्स = 1 \

-f /etc/varnish/config.vcl \

-s फ़ाइल, / var / lib / varnish / $ INSTANCE / varnish_storage.bin, 1G "

अगला, हम /etc/varnish/config.vcl में अपने विचारों का वर्णन करते हैं

 backend haproxy { .host = "127.0.0.1"; .port = "80";} backend nginx { .host = "127.0.0.1"; .port = "802";} sub vcl_recv { remove req.http.X-Forwarded-For; set req.http.X-Forwarded-For = client.ip; # Remove unneaded request cookies: if (req.http.Cookie) { set req.http.Cookie = regsub(req.http.Cookie, "^(.*)$", "; \1"); set req.http.Cookie = regsuball(req.http.Cookie, "; +", ";"); set req.http.Cookie = regsuball(req.http.Cookie, ";(SESS[a-z0-9]|xyz+)=", "; \1="); set req.http.Cookie = regsuball(req.http.Cookie, ";[^ ][^;]*", ""); set req.http.Cookie = regsuball(req.http.Cookie, "^[; ]+|[; ]+$", ""); if (req.http.Cookie == "") { unset req.http.Cookie; } else { return (pass); } } # Set backend for static content... if (req.url ~ "*\.(css|js|ico|gif|jpeg|jpg|png|eot|ttf|swf|woff)$") { unset req.http.Cookie; set req.backend = nginx; } # Use apache as backend for dinamic content. else{ set req.backend = haproxy;} } sub vcl_fetch { set obj.ttl = 10m; set beresp.http.X-Backend = req.backend; if (beresp.status == 200 || beresp.status == 301 || beresp.status == 302) { if (req.url ~ "*\.(png|jpg|jpeg|gif|css|js|swf|ico)$") { unset req.http.Https; unset req.http.Cookie; unset beresp.http.set-cookie; return (deliver); } if (beresp.http.Content-Type ~ "text/html" || beresp.http.Content-Type ~ "text/xml") { if (req.http.Cookie ~ "frontend=") { return (hit_for_pass);. } } } }

अगला, http के लिए योजना को कॉन्फ़िगर करें:

1. Nginx Http विन्यास:

 server { listen 127.0.0.1:802; location ~* \.(ico|gif|jpeg|jpg|png|eot|ttf|swf|woff)$ { root /var/www/media; expires 30d; } location ~* \.(css|js)$ { root /var/www/media; expires 7d; } }

2. Nginx उच्च लोड पृष्ठ:

 server { listen 127.0.0.1:4433; ssl on; ssl_protocols SSLv3 TLSv1; ssl_certificate /etc/nginx/SSL/cert.pem; ssl_certificate_key /etc/nginx/SSL/server.key; location / { root /var/www/hl_page/; } } server { listen 127.0.0.1:803; location / { root /var/www/hl_page/; } }

यह haproxy (file /etc/haproxy/haproxy.cfg) कॉन्फ़िगर करने के लिए बनी हुई है।

 listen http 127.0.0.1:80 mode http option httplog clf balance roundrobin option forwardfor option httpchk OPTIONS * HTTP/1.1\r\nHost:\ www server 192.168.2.2:80 cookie SC1 maxconn 100 maxqueue 10 check inter 8000 fall 3 server 192.168.2.3:80 cookie SC1 maxconn 100 maxqueue 10 check inter 8000 fall 3 server backup 127.0.0.1:802 check port 803;

हाप्रोसी पोर्ट 80 पर लूपबैक एडाप्टर पर कनेक्शन स्वीकार करेगा। फिर यह क्लाइंट के आईपी पते को ट्रांसमिट करते समय वेब सर्वर को कनेक्शन भेजेगा (यह सुनिश्चित नहीं है कि यह अंतिम गंतव्य तक पहुंच जाएगा)। प्रत्येक बैकएंड के लिए 100 कनेक्शन लॉन्च किए जाएंगे, यदि कुल मूल्य दो बैकएंड से अधिक है, तो एक सुंदर पृष्ठ एक संदेश के साथ प्रदर्शित किया जाएगा कि क्लस्टर वर्तमान में अतिभारित है। पृष्ठ की सामग्री हाथ और उन लोगों की कल्पना का काम है जो साइट को क्लस्टर पर होस्ट करते हैं।

यह यहां है कि एक और स्वादिष्ट चीज झूठ है। (क्षमा करें, जो लोग मुझे पसंद नहीं करते हैं वे इस शब्द का उपयोग करते हैं)। इस तथ्य का प्रकटन कि हाईप्रोफाइल लॉग्स में एक हाईलोड पेज प्रदर्शित होता है, एक संकेतक होगा कि ट्रैफ़िक बढ़ रहा है और आपको क्लस्टर पावर या ट्विस्टिंग सेटिंग्स बढ़ाने के बारे में सोचने की आवश्यकता है। यही कारण है कि मैं haproxy का उपयोग करने का सुझाव देता हूं। इसके लिए लॉग लिखने के लिए, आपको 2 काम करने होंगे:

1. haproxy.cfg फ़ाइल के वैश्विक अनुभाग में निम्नलिखित डालें

लॉग 127.0.0.1 12714 लोकल 2

2. यदि rsyslog का उपयोग कर रहे हैं, तो निम्न सामग्री के साथ फ़ाइल /etc/rsyslog.d/haproxy.conf बनाएं:

 # Save HA-Proxy logs $ModLoad imudp $UDPServerRun 514 $UDPServerAddress 127.0.0.1 $FileCreateMode 0664 local2.* -/var/log/haproxy/haproxy_all.log &~

लॉग के लिए एक फ़ोल्डर बनाने के लिए मत भूलना और लॉगोट्रेट को कॉन्फ़िगर करें। लॉग बड़े होंगे।

हमारे क्लस्टर के लिए एक अतिरिक्त बन हो सकता है, उदाहरण के लिए, कैक्टि, जो हमारे क्लस्टर के प्रदर्शन के बारे में सुंदर रंगीन ग्राफिक्स आकर्षित करेगा। 3-4 कैक्टस होस्ट सर्वर पर ज्यादा लोड के बिना निगरानी कर सकते हैं। आप इसे उसी बैलेंसर पर तैनात कर सकते हैं। ऑफसाइट कैक्टि पर निर्देश पढ़ें। 2 मिनट में डालें। स्नैम्प की आवश्यकता है। इस मामले में, यह ट्रैक करना संभव होगा कि क्या हमारे बैकएंड में आने वाले कनेक्शन की सीमा बढ़ाना संभव है। याद रखें, मैंने कहा था कि आपको अभी भी Prefork_module apache2 सेटिंग्स में MaxClients के मूल्यों को मोड़ना है? बस यही क्षण है। यदि हमारे सर्वर में उच्च लोड पृष्ठ प्रदर्शित होने के समय में बड़ा लोड नहीं होता है, तो बैकएंड एक महान काम करते हैं और सीमाएं बढ़ाई जा सकती हैं, क्रमशः हैप्रोक्सी कॉन्फ़िगरेशन में "मैक्सकोन" के मूल्य में वृद्धि।

अगला कदम https को कॉन्फ़िगर करना है। सबसे पहले, haproxy कॉन्फ़िगर करें:

 listen https %externall_ip%:443 mode tcp balance source option ssl-hello-chk server 127.0.0.1:443 maxconn 200 maxqueue 10 check port 443 inter 8000 fall 3 server backup 127.0.0.1:443 check port 443

Nginx https कॉन्फ़िगरेशन

 upstream apache { server 192.168.2.2:443; # first backend server server 192.168.2.3:443; # second backend server } server { listen 127.0.0.1:443; ssl on; ssl_protocols SSLv3 TLSv1; ssl_certificate /etc/nginx/SSL/cert.pem; ssl_certificate_key /etc/nginx/SSL/server.key; location ~* \.(ico|gif|jpeg|jpg|png|eot|ttf|swf|woff)$ { root /var/www/media; expires 30d; } location ~* \.(css|js)$ { root /var/www/media; expires 7d; } location / { proxy_pass https://apache; } }

एक निष्कर्ष के बजाय

सब कुछ वर्णन करने के लिए लगता है कि वह क्या चाहता था। उन लोगों के लिए धन्यवाद जिन्होंने इस पढ़ने में महारत हासिल की। निष्कर्ष में कुछ शब्द।

इस योजना का एक बड़ा प्लस निर्माण संसाधनों में आसानी है। पर्याप्त क्षमता नहीं है? यह एक सवाल नहीं है - हम वेब नोड को क्लोन करेंगे, rsync चलाते हैं, बैलेंसर और वॉइला की सेटिंग में अपना आईपी पता लिखते हैं - हमारा क्लस्टर अधिक शक्तिशाली हो गया है। कहीं पर्याप्त जगह तो नहीं? इसके अलावा कोई समस्या नहीं है - lvm हमारा दोस्त है :)

दीर्घकालिक योजना के संदर्भ में एक छोटी समस्या प्रवासन हो सकती है।

मैं गारंटी नहीं दे सकता कि प्रस्तावित कॉन्फ़िगरेशन आपके लिए काम करेगा। वे बहुत अनुमानित हैं। मैंने विचार का वर्णन करने की कोशिश की।

यदि हम पहले से ही एक बहुत गलत-सहिष्णु क्लस्टर चाहते हैं - तो आप एक और लेख लिख सकते हैं।

अगर किसी के पास ऐसी चीज़ को कॉन्फ़िगर करने की बुद्धि है - मुझसे संपर्क करें - मुझे खुद आश्चर्य है कि यह कैसे काम करता है।

मल्टी-नोड हाई-लोड क्लस्टर संगठन

वेब सर्वर:

डेटाबेस सर्वर:

लोड बैलेंसर:

एक निष्कर्ष के बजाय

More articles: