स्टेरॉयड पर Nginx - LUA के साथ कार्यक्षमता का विस्तार

हमारे सभी बाहरी उत्पादों के संचालन को सुनिश्चित करने के लिए, हम लोकप्रिय नग्नेक्स का उपयोग करते हैं। यह तेज और विश्वसनीय है। इसके साथ लगभग कोई समस्या नहीं है। हमारे उत्पाद भी लगातार विकसित हो रहे हैं, नई सेवाएं दिखाई देती हैं, नई कार्यक्षमता जोड़ी जाती है, पुराने का विस्तार होता है। दर्शकों और लोड केवल बढ़ रहा है। अब हम इस बारे में बात करना चाहते हैं कि कैसे हमने विकास को गति दी, विशेष रूप से उत्पादकता में वृद्धि की और प्रभावित सेवाओं की उपलब्धता और दोष सहनशीलता को बनाए रखते हुए इस नई कार्यक्षमता को अपनी सेवाओं में जोड़ना आसान बना दिया। यह "वेब एप्लिकेशन के रूप में nginx" की अवधारणा के बारे में होगा।
अर्थात्, थर्ड-पार्टी मॉड्यूल (मुख्य रूप से LUA) के बारे में जो आपको पूरी तरह से जादुई चीजें जल्दी और मज़बूती से करने की अनुमति देता है।

समस्याओं और समाधान

मूल विचार काफी सरल है। निम्नलिखित कारकों को लें:
- आवेदन तर्क की जटिलता,
- आवेदन घटकों की संख्या,
- दर्शकों का आकार।
एक निश्चित बिंदु से, एप्लिकेशन को उत्तरदायी और तेज, कभी-कभी कार्यात्मक रखना भी काफी मुश्किल हो जाता है। भौगोलिक रूप से वितरित उत्पाद बहु-घटक बन जाता है। और अधिक से अधिक लोग इसका उपयोग कर रहे हैं। इसी समय, जवाबदेही और दोष सहिष्णुता के लिए व्यावसायिक आवश्यकताएं हैं, जिन्हें पहले मनाया जाना चाहिए।
इस समस्या को हल करने के कई तरीके हैं। आप सब कुछ तोड़ सकते हैं और इसे अन्य तकनीकों के साथ रीमेक कर सकते हैं। बेशक, यह विकल्प काम करता है, लेकिन हमें वास्तव में यह पसंद नहीं आया और हमने इसे धीरे-धीरे फिर से करने का फैसला किया। आधार असेंबली ओपनरेस्टी (nginx + LUA) था। क्यों एल.यू.ए. Cgi, Fastcgi और अन्य cgi की सहायता के बिना, शक्तिशाली, सुंदर और तेज़ कार्यक्षमता को सीधे नगीन कॉन्फ़िगरेशन फ़ाइल में लिपिबद्ध किया जा सकता है। सब कुछ एसिंक्रोनस रूप से काम करता है। और न केवल ग्राहकों के साथ, बल्कि बैकएंड के साथ भी। उसी समय, वेब सर्वर के ईवेंट लूप में हस्तक्षेप किए बिना, कॉलबैक के बिना, मौजूदा nginx कार्यक्षमता का उपयोग करके पूरी तरह से।

वर्तमान में निम्नलिखित बैकएंड उपलब्ध हैं:
- रेडिस
- ज्ञापन
- MySQL
- PostgreSQL
इसके अलावा, आप उपयोग के लिए अधिक मॉड्यूल कनेक्ट कर सकते हैं, उदाहरण के लिए RabbitMQ और ZeroMQ ।
यह बहुत तेजी से काम करता है। वैसे भी, php-fpm से तेज))

तार्किक सवाल यह है कि, C में सब कुछ फिर से क्यों नहीं लिखा जाए? LUA पर लिखना बहुत आसान और तेज़ है। और हम तुरंत एसिंक्रोनस और नग्नेक्स इवेंट लूप से जुड़ी समस्याओं को बख्शते हैं।

उदाहरण। विचारों

हम, हमेशा की तरह, केवल मुख्य भागों को पूर्ण कोड प्रदान नहीं करेंगे। इन सभी चीजों को पहले php में किया गया था।

1. इस भाग का आविष्कार और निर्माण हमारे सहयोगी AOTD ने किया था। चित्रों का भंडार है। उन्हें उपयोगकर्ताओं को दिखाया जाना चाहिए, और एक ही समय में कुछ ऑपरेशन करने के लिए वांछनीय है, उदाहरण के लिए, आकार। हम ceph में चित्र संग्रहीत करते हैं, यह Amazon S3 का एक एनालॉग है। ImageMagick का उपयोग इमेज प्रोसेसिंग के लिए किया जाता है। पुनर्विक्रेता पर एक कैश निर्देशिका है, संसाधित चित्र वहां जोड़े जाते हैं।
हम उपयोगकर्ता के अनुरोध को पार्स करते हैं, हम चित्र, उस संकल्प को निर्धारित करते हैं जो उसे चाहिए और सीफ पर जाता है, फिर हम इसे मक्खी पर संसाधित करते हैं और दिखाते हैं।
serve_image.lua

require "config" local function return_not_found(msg) ngx.status = ngx.HTTP_NOT_FOUND if msg then ngx.header["X-Message"] = msg end ngx.exit(0) end local name, size, ext = ngx.var.name, ngx.var.size, ngx.var.ext if not size or size == '' then return_not_found() end if not image_scales[size] then return_not_found('Unexpected image scale') end local cache_dir = static_storage_path .. '/' .. ngx.var.first .. '/' .. ngx.var.second .. '/' local original_fname = cache_dir .. name .. ext local dest_fname = cache_dir .. name .. size .. ext -- make sure the file exists local file = io.open(original_fname) if not file then -- download file contents from ceph ngx.req.read_body() local data = ngx.location.capture("/ceph_loader", {vars = { name = name .. ext }}) if data.status == ngx.HTTP_OK and data.body:len()>0 then os.execute( "mkdir -p " .. cache_dir ) local original = io.open(original_fname, "w") original:write(data.body) original:close() else return_not_found('Original returned ' .. data.status) end end local magick = require("imagick") magick.thumb(original_fname, image_scales[size], dest_fname) ngx.exec("@after_resize") 

हम काल्पनिक.लुआ बंधन को जोड़ते हैं । सुलभ LJJIT होना चाहिए।

nginx_partial_resizer.conf.template

 # Old images location ~ ^/(small|small_wide|medium|big|mobile|scaled|original|iphone_(preview|retina_preview|big|retina_big|small|retina_small))_ { rewrite /([^/]+)$ /__CEPH_BUCKET__/$1 break; proxy_pass __UPSTREAM__; } # Try get image from ceph, then from local cache, then from scaled by lua original # If image test.png is original, when user wants test_30x30.png: # 1) Try get it from ceph, if not exists # 2) Try get it from /cache/t/es/test_30x30.ong, if not exists # 3) Resize original test.png and put it in /cache/t/es/test_30x30.ong location ~ ^/(?<name>(?<first>.)(?<second>..)[^_]+)((?<size>_[^.]+)|)(?<ext>\.[a-zA-Z]*)$ { proxy_intercept_errors on; rewrite /([^/]+)$ /__CEPH_BUCKET__/$1 break; proxy_pass __UPSTREAM__; error_page 404 403 = @local; } # Helper failover location for upper command cause you can't write # try_files __UPSTREAM__ /cache/$uri @resizer =404; location @local { try_files /cache/$first/$second/$name$size$ext @resize; } # If scaled file not found in local cache resize it with lua magic! location @resize { # lua_code_cache off; content_by_lua_file "__APP_DIR__/lua/serve_image.lua"; } # serve scaled file, invoked in @resizer serve_image.lua location @after_resize { try_files /cache/$first/$second/$name$size$ext =404; } # used in @resizer serve_image.lua to download original image # $name contains original image file name location =/ceph_loader { internal; rewrite ^(.+)$ /__CEPH_BUCKET__/$name break; proxy_set_header Cache-Control no-cache; proxy_set_header If-Modified-Since ""; proxy_set_header If-None-Match ""; proxy_pass __UPSTREAM__; } location =/favicon.ico { return 404; } location =/robots.txt {} 

2. एपीआई के लिए फ़ायरवॉल। सत्यापन, ग्राहक पहचान, आरपीएस नियंत्रण और उन अवरोधों के लिए अनुरोध करें जिनकी हमें आवश्यकता नहीं है।
Firewall.lua

 module(..., package.seeall); local function ban(type, element) CStorage.banPermanent:set(type .. '__' .. element, 1); ngx.location.capture('/postgres_ban', { ['vars'] = { ['type'] = type, ['value'] = element} }); end local function checkBanned(apiKey) -- init search criteria local searchCriteria = {}; searchCriteria['key'] = apiKey; if ngx.var.remote_addr then searchCriteria['ip'] = ngx.var.remote_addr; end; -- search in ban lists for type, item in pairs(searchCriteria) do local storageKey = type .. '__' .. item; if CStorage.banPermanent:get(storageKey) then ngx.exit(444); elseif CStorage.banTmp:get(storageKey) then -- calculate rps and check is our client still bad boy 8-) local rps = CStorage.RPS:incr(storageKey, 1); if not(rps) then CStorage.RPS:set(storageKey, 1, 1); rps=1; end; if rps then if rps > config.app_params['ban_params']['rps_for_ip_to_permanent_ban'] then CStorage.RPS:delete(storageKey); ban(type, item); ngx.exit(444); elseif config.app_params['ban_params']['rps_for_ip_to_tmp_ban'] > 0 and rps == config.app_params['ban_params']['rps_for_ip_to_tmp_ban'] then local attemptsCount = CStorage.banTmp:incr(storageKey, 1) - 1; if attemptsCount > config.app_params['ban_params']['tmp_ban']['max_attempt_to_exceed_rps'] then -- permanent ban CStorage.banTmp:delete(storageKey); ban(type, item); end; end; end; ngx.exit(444); end; end; end; local function checkTemporaryBlocked(apiKey) local blockedData = CStorage.tmpBlockedDemoKeys:get(apiKey); if blockedData then --storage.tmpBlockedDemoKeys:incr(apiKey, 1); -- think about it. return CApiException.throw('tmpDemoBlocked'); end; end; local function checkRPS(apiKey) local rps = nil; -- check rps for IP and ban it if it's needed if ngx.var.remote_addr then local ip = 'ip__' .. tostring(ngx.var.remote_addr); rps = CStorage.RPS:incr(ip, 1); if not(rps) then CStorage.RPS:set(ip, 1, 1); rps = 1; end; if rps > config.app_params['ban_params']['rps_for_ip_to_permanent_ban'] then ban('ip', tostring(ngx.var.remote_addr)); ngx.exit(444); elseif config.app_params['ban_params']['rps_for_ip_to_tmp_ban'] > 0 and rps > config.app_params['ban_params']['rps_for_ip_to_tmp_ban'] then CStorage.banTmp:set(ip, 1, config.app_params['ban_params']['tmp_ban']['time']); ngx.exit(444); end; end; local apiKey_key_storage = 'key_' .. apiKey['key']; -- check rps for key rps = CStorage.RPS:incr(apiKey_key_storage, 1); if not(rps) then CStorage.RPS:set(apiKey_key_storage, 1, 1); rps = 1; end; if apiKey['max_rps'] and rps > tonumber(apiKey['max_rps']) then if apiKey['mode'] == 'demo' then CApiKey.blockTemporary(apiKey['key']); return CApiException.throw('tmpDemoBlocked'); else CApiKey.block(apiKey['key']); return CApiException.throw('blocked'); end; end; -- similar check requests per period (RPP) for key if apiKey['max_request_count_per_period'] and apiKey['period_length'] then local rpp = CStorage.RPP:incr(apiKey_key_storage, 1); if not(rpp) then CStorage.RPP:set(apiKey_key_storage, 1, tonumber(apiKey['period_length'])); rpp = 1; end; if rpp > tonumber(apiKey['max_request_count_per_period']) then if apiKey['mode'] == 'demo' then CApiKey.blockTemporary(apiKey['key']); return CApiException.throw('tmpDemoBlocked'); else CApiKey.block(apiKey['key']); return CApiException.throw('blocked'); end; end; end; end; function run() local apiKey = ngx.ctx.REQUEST['key']; if not(apiKey) then return CApiException.throw('unauthorized'); end; apiKey = tostring(apiKey) -- check permanent and temporary banned checkBanned(apiKey); -- check api key apiKey = CApiKey.getData(apiKey); if not(apiKey) then return CApiException.throw('forbidden'); end; apiKey = JSON:decode(apiKey); if not(apiKey['is_active']) then return CApiException.throw('blocked'); end; apiKey['key'] = tostring(apiKey['key']); -- check is key in tmp blocked list if apiKey['mode'] == 'demo' then checkTemporaryBlocked(apiKey['key']); end; -- check requests count per second and per period checkRPS(apiKey); -- set apiKey's json to global parameter; in index.lua we send it through nginx to php application ngx.ctx.GLOBAL['api_key'] = JSON:encode(apiKey); end; 

Validator.lua

 module(..., package.seeall); local function checkApiVersion() local apiVersion = ''; if not (ngx.ctx.REQUEST['version']) then local nginx_request = tostring(ngx.var.uri); local version = nginx_request:sub(2,4); if tonumber(version:sub(1,1)) and tonumber(version:sub(3,3)) then apiVersion = version; else return CApiException.throw('versionIsRequired'); end; else apiVersion = ngx.ctx.REQUEST['version']; end; local isSupported = false; for i, version in pairs(config.app_params['supported_api_version']) do if apiVersion == version then isSupported = true; end; end; if not (isSupported) then CApiException.throw('unsupportedVersion'); end; ngx.ctx.GLOBAL['api_version'] = apiVersion; end; local function checkKey() if not (ngx.ctx.REQUEST['key']) then CApiException.throw('unauthorized'); end; end; function run() checkApiVersion(); checkKey(); end; 

Apikey.lua

 module ( ..., package.seeall ) function init() if not(ngx.ctx.GLOBAL['CApiKey']) then ngx.ctx.GLOBAL['CApiKey'] = {}; end end; function flush() CStorage.apiKey:flush_all(); CStorage.apiKey:flush_expired(); end; function load() local dbError = nil; local dbData = ngx.location.capture('/postgres_get_keys'); dbData = dbData.body; dbData, dbError = rdsParser.parse(dbData); if dbData ~= nil then local rows = dbData.resultset if rows then for i, row in ipairs(rows) do local cacheKeyData = {}; for col, val in pairs(row) do if val ~= rdsParser.null then cacheKeyData[col] = val; else cacheKeyData[col] = nil; end end CStorage.apiKey:set(tostring(cacheKeyData['key']),JSON:encode(cacheKeyData)); end; end; end; end; function checkNotEmpty() if not(ngx.ctx.GLOBAL['CApiKey']['loaded']) then local cnt = CHelper.tablelength(CStorage.apiKey:get_keys(1)); if cnt == 0 then load(); end; ngx.ctx.GLOBAL['CApiKey']['loaded'] = 1; end; end; function getData(key) checkNotEmpty(); return CStorage.apiKey:get(key); end; function getStatus(key) key = getData(key); local result = ''; if key ~= nil then key = JSON:decode(key); if key['is_active'] ~= nil and key['is_active'] == true then result = 'allowed'; else result = 'blocked'; end; else result = 'forbidden'; end; return result; end; function blockTemporary(apiKey) apiKey = tostring(apiKey); local isset = getData(apiKey); if isset then CStorage.tmpBlockedDemoKeys:set(apiKey, 1, config.app_params['ban_params']['time_demo_apikey_block_tmp']); end; end; function block(apiKey) apiKey = tostring(apiKey); local keyData = getData(apiKey); if keyData then ngx.location.capture('/redis_get', { ['vars'] = { ['key'] = apiKey } }); keyData['is_active'] = false; CStorage.apiKey:set(apiKey,JSON:encode(cacheKeyData)); end; end; 

Storages.lua

 module ( ..., package.seeall ) apiKey = ngx.shared.apiKey; RPS = ngx.shared.RPS; RPP = ngx.shared.RPP; banPermanent = ngx.shared.banPermanent; banTmp = ngx.shared.banTmp; tmpBlockedDemoKeys = ngx.shared.tmpBlockedDemoKeys; 

3. अतिरिक्त सेवाएं, जैसे कि एएमक्यूपी प्रोटोकॉल के माध्यम से अंतर-घटक संचार। एक उदाहरण यहाँ है ।

4. जैसा कि मैंने पहले ही लिखा था । "स्मार्टली" की क्षमता के साथ आवेदन आत्म निदान मॉड्यूल बैकएंड के माध्यम से अनुरोध पारित करने के लिए मार्गों को नियंत्रित करता है। अभी भी विकास में है।

5. एपीआई के लिए एडेप्टर। कुछ मामलों में, मौजूदा तरीकों को बदलना, पूरक करना या विस्तार करना आवश्यक है। सब कुछ फिर से लिखने के लिए नहीं, एलयूए मदद करेगा । उदाहरण के लिए, उड़ान पर json <-> xml रूपांतरण।

6 ... कई और विचार हैं।

इस तरह कोई बेंचमार्क नहीं होगा। उत्पाद बहुत जटिल हैं और बेंचमार्क के बाद आरपीएस कई कारकों पर निर्भर है। हालांकि, हमारे उत्पादों के लिए, हमने प्रभावित कार्यक्षमता के लिए उत्पादकता में 20 गुना वृद्धि हासिल की और कुछ मामलों में सब कुछ ~ 200 गुना तक तेज हो गया।

पेशेवरों और विपक्ष

मूर्त प्लसस। सब कुछ जो php में 5 मेगाबाइट का कोड हुआ करता था, वह लुआ में 100kb फाइल में बदल जाता है।
- विकास की गति,
- आवेदन की गति
- विश्वसनीयता
- ग्राहकों और बैकएंड के साथ अतुल्यकालिक काम करते हैं, जबकि इवेंट लूप नगिनक्स को नहीं तोड़ते हैं,
- लू शुगर अच्छा लगता है! Coroutines, सभी nginx कांटे, उप-quests, बाँधने का एक गुच्छा के लिए साझा शब्दकोश।

अगोचर विपक्ष।
- आपको सब कुछ ध्यान से करने और अतुल्यकालिक और ईवेंट लूप नग्नेक्स के बारे में याद रखने की आवश्यकता है।
- फ्रंटेंड इतना तेज है कि बैकेंड इसे पसंद नहीं कर सकता है। परतों के बिना, उनके बीच एक सीधा संबंध है। उदाहरण के लिए, मुझे यकीन है कि सीमा पर प्रति सेकंड LUA के 10,000 अनुरोध आसानी से काम करेंगे। लेकिन, अगर एक ही समय में यह आधार पर जाना चाहता है, तो समस्याएं पैदा हो सकती हैं।
- अगर कुछ गलत हुआ तो डिबग करना मुश्किल है।

वैसे, जब यह लेख लिखा जा रहा है, ठीक उसी समय हमारे प्रोग्रामर ने इस सब के बारे में विस्तार से बात की।

हमें टिप्पणियों में प्रश्नों का उत्तर देने में खुशी होगी।

अंत में, यहां आप विषय पर जानकारी का एक छोटा चयन पा सकते हैं।