Yandex में परीक्षण: अपने खुद के Lunapark का निर्माण

कभी-कभी, प्रतिक्रिया समय ग्राफ पर एक दूसरी नज़र यह कहने के लिए पर्याप्त है: सेवा उड़ान नहीं भरेगी। सेकंड के एक और जोड़े - और कारण पाया गया था: प्रोसेसर कोर को असमान रूप से लोड किया जाता है, बहुत कम धागे सर्वर पर चल रहे हैं। तनाव परीक्षणों के परिणामों को इकट्ठा करने और संग्रहीत करने के लिए एक सुविधाजनक प्रणाली कैसे बनाएं? यैंडेक्स में इसके बारे में हमें क्या अनुभव मिला, आज मेरी कहानी है।

वैसे, मैं Yandex.Tank और टेस्ट पर्यावरण पर ग्रेफाइट के बारे में बात करूंगा, जिसके लिए पंजीकरण 18 नवंबर को 18:00 से पहले खुला होगा। वहां आप अपने सवालों को लाइव पूछ सकते हैं।

यदि आप यान्डेक्स में लोड परीक्षण का आयोजन करने के बारे में doctornkz का लेख पढ़ते हैं, तो आप जानते हैं कि हमारे पास जो शूटिंग परिणाम हैं, वे एक रिपॉजिटरी में हैं जो उन्हें वेब इंटरफ़ेस के माध्यम से प्रदर्शित कर सकते हैं। इसे लूनपार्क कहा जाता है। परीक्षण करना और सभी इच्छुक लोगों को एक लिंक भेजना बहुत सुविधाजनक है (और एक पेज पर सब कुछ देखने के लिए)। सेवा एक वेब अनुप्रयोग है जो आंतरिक प्रक्रियाओं के अनुरूप है (इसमें सरगम ​​है, और अन्य आंतरिक संसाधनों के साथ लिंक किया गया है), जिसे हम खुली पहुंच में पोस्ट करने की योजना नहीं बनाते हैं। इसलिए, मैंने यह बताने का फैसला किया कि केवल ओपन-सोर्स उत्पादों का उपयोग करके एक समान सिस्टम कैसे बनाया जाए।

सिस्टम आर्किटेक्चर

स्वचालन प्रणाली एक मॉड्यूल है जो परीक्षणों के प्रक्षेपण को नियंत्रित करता है, आपको उन्हें मानकीकृत करने, अतिरिक्त क्रियाएं करने (उत्पादन सर्वर लॉग को डाउनलोड करने या परीक्षण के वातावरण को बढ़ाने) की अनुमति देता है। यह सब जेनकिंस, मावेन, रेक जैसे उपकरणों का उपयोग करके किया जा सकता है। मैं आज इसके बारे में बात नहीं करूंगा, यह एक अलग बड़े पद के लिए एक विषय है।

लोड जनरेटर एक वर्कहोर्स है, एक मॉड्यूल जो एक लक्ष्य (परीक्षण बेंच) पर लोड बनाता है। कहानी Yandex.Tank के बारे में होगी - यह एक मॉड्यूलर और विस्तार योग्य शूटर है जो आपको अलग-अलग जनरेटर का उपयोग करने की अनुमति देता है, विशेष रूप से, परिचित JMeter। मैं ध्यान देता हूं कि टैंक 2012 में यांडेक्स द्वारा प्रकाशित एक ओपन-सोर्स प्रोजेक्ट है। यह शुरुआती के लिए नहीं है, आपको "हैलो, आप कैसे हैं?" लिनक्स पर, और सरल स्क्रिप्ट लिखने में सक्षम होने के लिए बेहतर होना चाहिए।

और अंत में, परिणामों का एक भंडार। टैंक सेवा में आग लगाता है और प्रतिक्रिया समय और अन्य मापदंडों को मापता है। यह समय श्रृंखला को बदल देता है जिसे कहीं संग्रहीत करने की आवश्यकता होती है, और फिर प्रदर्शित और विश्लेषण किया जाता है। हम इसके लिए ग्रेफाइट का उपयोग करेंगे।

ग्रेफाइट एक उच्च-प्रदर्शन, स्केलेबल टाइम श्रृंखला भंडार है जिसे पायथन में लिखा गया है। खुला स्रोत इसमें डेटा लोड करना बहुत आसान है (और हर स्वाद के लिए कई अलग-अलग तरीके हैं) और फिर इसे वेब-एपीआई के माध्यम से मोड़ने के लिए सुविधाजनक है (और इसके लिए बहुत सारे दृश्य भी हैं)। Yandex में ग्रेफाइट का उपयोग किस तरह किया जाता है, इसकी वास्तुकला और प्रदर्शन के बारे में विवरण यहां सुना जा सकता है ।

Yandex.Tank स्थापित करें

यदि आपके पास उबंटू है - तो आप भाग्यशाली हैं। क्योंकि आपको बस टैंक रिपॉजिटरी को जोड़ने और इसे अन्य सभी पैकेजों के समान स्थापित करने की आवश्यकता है - निर्भरताएं खुद को बढ़ाएंगी (इसके बाद, मूल अधिकारों की आवश्यकता हो सकती है - उन्हें प्रदान करें):

#      sources.list: deb http://ppa.launchpad.net/yandex-load/main/ubuntu precise main deb-src http://ppa.launchpad.net/yandex-load/main/ubuntu precise main 

 apt-get update && sudo apt-get install yandex-load-tank-base 

यदि आपके पास उबंटू नहीं है (उदाहरण के लिए, मैं इसे MacOS पर आज़माना चाहता हूं), तो आप .deb को डाउनलोड करने और उससे .rpm बनाने का प्रयास कर सकते हैं, लेकिन सबसे सार्वभौमिक तरीका है, गीथूब से स्रोतों को डाउनलोड करना।

 git clone https://github.com/yandex-load/yandex-tank.git 

टैंक को खुद को इकट्ठा करने की आवश्यकता नहीं है - यह पायथन में है, हालांकि, निर्भरता को डाउनलोड और इंस्टॉल करना आवश्यक होगा। उनमें से फैंटम - एक उच्च-प्रदर्शन वेब सर्वर है जो टैंक एक स्थानांतरण के रूप में उपयोग करता है, मूल रूप से यैंडेक्स से भी। उसके बारे में कहानी यहाँ सुनी जा सकती है ।

आवश्यक अजगर पुस्तकालय इस तरह स्थापित किए गए हैं:

 pip install ipaddr lxml progressbar psutil mysqldb sqlalchemy 

इसके अलावा, आपको स्रोत प्रेत से इकट्ठा करना होगा। मैं यहां यह नहीं बताऊंगा कि यह कैसे करना है, इसे किसकी जरूरत है - लिखें, मैं आपको बताता हूं।

यह शूटिंग का समय है

एक टैंक को शूट करने के लिए, आपको इसके लिए एक कॉन्फ़िगरेशन फ़ाइल लिखना होगा (आज मेरे पास थोड़ा सा KO है)। मैं उन पेचीदगियों में नहीं जाऊँगा जिनमें कई हैं ; मैं एक सरल उदाहरण दूंगा:

 [phantom] address=example.org rps_schedule=line(1, 100, 10m) headers = [Host: example.org] [Connection: close] [Bloody: yes] uris=/ /list /img 

फ़ाइल बनाने के बाद, बस यैंडेक्स-टैंक कमांड के साथ टैंक शुरू करें। डिफ़ॉल्ट रूप से, यह वर्तमान निर्देशिका में load.ini नामक एक विन्यास की खोज करता है। यह सरसराहट, सरसराहट, गोली मार देगा, आउटपुट डेटा के साथ एक * * .log पाठ फ़ाइल होगी, जिसे आमतौर पर gnuplot में धकेलने की सलाह दी जाती है। लेकिन हम ऐसे नहीं हैं, क्या हम हैं?

ग्रेफाइट डालें

दुर्भाग्य से, ग्रेफाइट के लिए वर्तमान में कोई आधिकारिक डिबेट पैकेज नहीं है, इसलिए हम इसे पायथन रिपॉजिटरी (पीपीआई) से स्थापित करेंगे:

 apt-get install python python-dev python-cairo pip install whisper carbon graphite-web django==1.5.1 Twisted==11.1.0 django-tagging 

स्थापना के बाद, डिफ़ॉल्ट कॉन्फ़िगरेशन (* .conf.example -> * .conf) की प्रतिलिपि बनाएँ, उदाहरण के लिए, इस तरह:

 for file in /opt/graphite/conf/*.example; \ do cp $file ${file%.*}; done 

डिफ़ॉल्ट रूप से, ग्रेफाइट 1 मिनट के संकल्प के साथ डेटा संग्रहीत करता है। यह, ज़ाहिर है, हमारे लिए पर्याप्त नहीं है, तनाव परीक्षणों में हर सेकंड महत्वपूर्ण है। डेटा संग्रहण नीतियों को कॉन्फ़िगर करें:

 [load] pattern = ^one_sec\.yandex_tank\. retentions = 1s:7d,5s:1y 

प्राचीन लेखन क्या हैं? मैंने ग्रेफाइट को प्रतिमान पैरामीटर में निर्दिष्ट नीति के अनुसार पैटर्न पैरामीटर में निर्दिष्ट सभी मैट्रिक्स मिलान regexp को संग्रहीत करने के लिए कहा:

 1s:7d, 5s:1y 

यहां सब कुछ सरल है: दूसरी सटीकता - सात दिन, फिर पांच-दूसरी सटीकता - वर्ष के दौरान।

और एक बात। अपने स्थानीय एक के लिए समय क्षेत्र को कॉन्फ़िगर करना आवश्यक है, अन्यथा, स्थानीय समय को निर्दिष्ट करके, आप ग्राफ़ नहीं देखेंगे - आप बस अपने डेटा को याद करेंगे। समय क्षेत्र local_settings.py फ़ाइल में निर्दिष्ट है, उदाहरण के लिए, इस तरह (डिफ़ॉल्ट रूप से कोई फ़ाइल नहीं है):

 echo TIME_ZONE = "Europe/Moscow" \ > /opt/graphite/webapp/graphite/local_settings.py 

अब django में गोलियाँ बनाएँ:

 cd /opt/graphite/webapp/graphite python manage.py syncdb 

ग्रेफाइट शुरू करने के लिए, आपको कार्बन स्टोरेज और एक वेब फ्रंटेंड शुरू करना होगा:

 /opt/graphite/bin/carbon-cache.py start /opt/graphite/bin/run-graphite-devel-server.py /opt/graphite/ 

डिफ़ॉल्ट रूप से कार्बन 2003rd पोर्ट पर डेटा की प्रतीक्षा करता है। चलो ग्रेफाइट में कुछ लिखने की कोशिश करते हैं। यह बहुत सरल है, उदाहरण के लिए:

 echo my.favourite.metric 1 $(date +%s) | nc -q0 localhost 2003 

यहां हम वर्तमान मान को मौजूदा टाइमस्टैम्प 1 मीट्रिक "my.favourite.metric" के साथ भेजते हैं। अब ग्रेफाइट में / proc / vmstat की सामग्री भरें (यह पहले से ही प्रयोग करने योग्य है):

 while read -r metric; \ do echo one_sec.vmstat.$metric $(date +%s); \ done < /proc/vmstat \ | nc -q0 localhost 2003 

और निश्चित रूप से, सिस्टम संसाधनों पर डेटा को भरने के लिए पहले से ही कई उपकरणों का आविष्कार किया गया है। उदाहरण के लिए, डायमंड और कलेक्ट परियोजनाओं पर एक नज़र डालें।

आप वेब इंटरफेस के माध्यम से बाढ़ के आंकड़ों को देख सकते हैं, जो डिफ़ॉल्ट रूप से पोर्ट 8080 पर सुनता है। इसके साथ थोड़ा खेलो, और फिर जारी रखें।

टैंक को ग्रेफाइट से कनेक्ट करें

तो ठीक है! यह हमारे नए दोस्तों के साथ दोस्ती करने का समय है। यह सरल भी है। टैंक कॉन्फ़िगरेशन फ़ाइल में निम्न अनुभाग जोड़ें:

 [graphite] address=localhost 

यही है, अब आप फिर से शूट कर सकते हैं और पहले से ही ग्रेफाइट में हमारे परिणाम देख सकते हैं। इसके अलावा, परिणाम फ़ोल्डर में अब आप HTML-ku पा सकते हैं कि टैंक हमारे लिए सावधानीपूर्वक उत्पन्न हुआ है। यह पहले से ही कार्यक्रम और समय अंतराल एकत्र कर चुका है। हम यहाँ जो रेखांकन देखते हैं:

मात्रा और औसत प्रतिक्रिया समय

मात्रात्मक ग्राफ के अनुसार, आप प्रति सेकंड प्रतिक्रिया समय का वितरण देख सकते हैं।

प्रति सेकंड प्रश्नों की संख्या, टोकन

इस ग्राफ के अनुसार, आप प्रत्येक मार्कर के लिए कितने अनुरोध ट्रैक कर सकते हैं। फायरिंग से पहले, कारतूस को अलग करने के लिए चिह्नित किया जा सकता है, उदाहरण के लिए, भारी से प्रकाश।

मार्कर औसत समय

सर्वर विभिन्न प्रकार के अनुरोधों का जवाब कैसे देता है, इसका उत्तर यहां है।

उत्तर कोड

यदि त्रुटियां होती हैं, तो आप उन्हें इस ग्राफ में देखेंगे।

संचयी मात्राएँ

पहले ग्राफ के विपरीत, यहाँ परिक्षण परीक्षण की शुरुआत से "संचित" होते हैं। आप देख सकते हैं जब उन्होंने बदलना बंद कर दिया - इसका मतलब है कि आपने यह कल्पना करने के लिए पर्याप्त शॉट लिया कि उत्तर पूरे के रूप में कैसे वितरित किए जाते हैं।

रिपोर्ट का खाका

सभी को याद है कि पिछले अनुभाग में हमने चर्चा की थी कि ग्रेफाइट में सिस्टम संसाधनों पर डेटा कैसे भरें? इन मैट्रिक्स को भी कैसे देखें? चित्रों के साथ HTML-ki उत्पन्न करने के लिए, टैंक एक टेम्पलेट का उपयोग करता है जिसे विकल्पों में निर्दिष्ट किया जा सकता है:

 [graphite] template = ./my.tpl 

एक टेम्पलेट वैरिएबल के साथ सिर्फ HTML है जिसे टैंक प्रतिस्थापित करता है। उदाहरण के लिए:

 <h2>RPS by marker</h2> <img src="" /> <h2>Average response time by marker</h2> <img src="" /> <h2>HTTP codes</h2> <img src="" /> 

ग्रेफाइट में एक ग्रेफाइट लिंक इस तरह दिखता है:

 http://{host}:{web_port}/render/? width={width}& height={height}& from={start_time}& until={end_time}& target=aliasByMetric({prefix}.overall.quantiles.25_0)& target=aliasByMetric({prefix}.overall.quantiles.50_0)& target=aliasByMetric({prefix}.overall.quantiles.75_0)& target=aliasByMetric({prefix}.overall.quantiles.90_0)& target=aliasByMetric({prefix}.overall.quantiles.95_0)& target=aliasByMetric({prefix}.overall.quantiles.99_0)& target=aliasByMetric({prefix}.overall.quantiles.100_0)& target=aliasByMetric({prefix}.overall.avg_response_time)& areaMode=all 

घुंघराले कोष्ठक में हम बदली फ़ील्ड देखते हैं, जिसका नाम स्वयं के लिए बोलता है। {Host} के बजाय, सेटिंग में निर्दिष्ट एक होस्ट होगा, बजाय {start_time} और {end_time} - शूटिंग का प्रारंभ और समाप्ति समय। खैर, आपको बात समझ में आ गई।

परिणाम क्या है?

तो, हमें एक शूटर मिला है जो डेटा को ग्रेफाइट पर अपलोड करता है और इस डेटा के लिंक के साथ एचटीएमएल-कू उत्पन्न करता है। अब स्वचालित रूप से गोलीबारी कैसे शुरू करें? क्रोन द्वारा? यह संभव है और ऐसा ही है। लेकिन जेनकिंस का उपयोग करना अधिक सुविधाजनक है। इसके बारे में अगली बार किसी तरह। देखते रहो!

वैसे, यदि आप इस पाठ को अंत तक पढ़ते हैं, तो विषय आपके लिए दिलचस्प है। आओ टेस्ट पर्यावरण पर चर्चा करें। इस पर, मेरे साथी, अन्य बातों के अलावा, तनाव परीक्षण में सरगम ​​और स्वचालन के बारे में बात करेंगे। आओ सुनो और चैट करो!

संदर्भ

Tech.yandex.ru/events/yac/2013/talks/1122 - ग्रेफाइट के बारे में dkulikovsky @
github.com/graphite-project/graphite-web - github पर ग्रेफाइट
github.com/yandex-load/yandex-tank - Github पर यांडेक्स टैंक
github.com/BrightcoveOS/Diamond - हीरा
collectd.org - कलेक्टडी
twitter.com/direvius - ट्विटर पर मुझे फॉलो करें