Android x86 के लिए अनुप्रयोगों का अनुकूलन: सिद्ध तरीके

कोई भी एंड्रॉइड एप्लिकेशन, जिसे केवल स्क्रिप्टिंग और गैर-देशी भाषाओं (जैसे जावा या एचटीएमएल 5) में लिखा गया है, अंततः रनटाइम के मूल घटकों का उपयोग करता है, जिसे अनुकूलित किया जाना चाहिए। अनुकूलन दृष्टिकोण और आवश्यकताओं को स्पष्ट करने के लिए अच्छे उदाहरण ऐसे अनुप्रयोग हैं जो नीचे वर्णित मल्टीमीडिया और संवर्धित वास्तविकता तकनीकों का उपयोग करते हैं। एंड्रॉइड प्लेटफ़ॉर्म (स्मार्टफ़ोन और टैबलेट) के लिए, इंटेल विभिन्न प्रकार के एटम प्रोसेसर का उपयोग करता है जिसमें SSSE3 स्तर का वैश्वीकरण होता है और आमतौर पर हाइपरट्रेडिंग के साथ 2 कोर होते हैं - इसे एक संकेत मानें :) जो लोग संकेत को समझते हैं, कट के तहत एक इज़राइली कंपनी के विशिष्ट अनुप्रयोग को अनुकूलित और समानांतर करने का इतिहास है। iOnRoad - iOnRoad।

समस्या का बयान

iOnRoad एक संवर्धित वास्तविकता स्मार्टफोन ऐप है जो आपको सुरक्षित रूप से ड्राइव करने में मदद करता है। जीपीएस, सेंसर और स्मार्टफोन के एक वीडियो कैमरा, साथ ही साथ आधुनिक कंप्यूटर विज़न एल्गोरिदम का उपयोग करते हुए, एप्लिकेशन ड्राइवर को लेन छोड़ने के बारे में चेतावनी देता है, साथ ही साथ अन्य कारों और बाधाओं के साथ एक संभावित टक्कर। आवेदन बेहद लोकप्रिय है (एक मिलियन से अधिक डाउनलोड!), यह विभिन्न पुरस्कारों द्वारा नोट किया गया था, और इसमें केवल दो कमियां थीं:
1. पड़ोसी कारों और सुंदर लड़कियों के नशे में ड्राइवरों के साथ-साथ अन्य दिलचस्प साथी यात्रियों को भी चेतावनी नहीं देता है जो सड़क पर अपनी कार का पालन करते हैं।
2. इसमें बिजली की खपत सहित अनुकूलन की आवश्यकता होती है, क्योंकि मूल संस्करण का उपयोग स्मार्टफोन को 30-40 मिनट से अधिक समय तक बिजली से कनेक्ट किए बिना नहीं किया जा सकता है, इस दौरान बैटरी पूरी तरह से खत्म हो गई थी।

फिलहाल, केवल एक खामी है। पहला वाला।

इसलिए, वास्तविक समय में काम करते हुए, एप्लिकेशन आगे की प्रक्रिया से पहले स्मार्टफोन के कैमरे से YUV420 / NV21 प्रारूप के प्रत्येक स्रोत फ्रेम को RGB प्रारूप में परिवर्तित करता है।
प्रारंभ में, फ़ंक्शन जो इस परिवर्तन को लागू करता है, प्रोसेसर संसाधनों का 40% तक उपयोग करता है, जिससे आगे की छवि प्रसंस्करण के लिए संभावनाओं को सीमित किया जाता है। इस प्रकार, अनुकूलन की आवश्यकता तत्काल लग रही थी।
एकमात्र मौजूदा अनुकूलित फ़ंक्शन जो हमें मिला, वह IPP पैकेज ( इंटेल इंटीग्रेटेड परफॉर्मेंस प्राइमिटिव्स लाइब्रेरी ) से YUV420ToRGB फ़ंक्शन है, लेकिन इसमें iOnRoad के लिए समर्थित इनपुट और आउटपुट प्रारूपों का आवश्यक संयोजन नहीं है। इसके अलावा, यह बहुपरत नहीं है।
इसलिए, एक नया अनुकूलित कोड लिखने का निर्णय लिया गया जो आवश्यक परिवर्तन को लागू करता है।

YUV420 / NV21 से RGB में परिवर्तन

YUV420 / NV21 प्रारूप में तीन 8-बिट घटक हैं - चमक Y (काला और सफेद) और दो रंग घटक U और V।



मानक आरजीबी प्रारूप में चार पिक्सेल प्राप्त करने के लिए (प्रत्येक पिक्सेल के लिए अपने तीन रंग घटकों के साथ), वाई के प्रत्येक चार घटकों को संबंधित घटकों यू और वी के केवल एक जोड़ी की आवश्यकता होती है।
ऊपर दिए गए चित्र में, इसी चतुर्भुज Y और जोड़े U और V की सेवा करते हुए उन्हें एक ही रंग में चिह्नित किया गया है। यह प्रारूप (जिसे आमतौर पर YUV कहा जाता है) RGB पर 2x संपीड़न प्रदान करता है।

YUV को RGB में बदलना - टेबल (लुक-अप टेबल, LUT) का उपयोग कर एक पूर्णांक दृष्टिकोण

YUV से RGB का रूपांतरण एक सरल रैखिक सूत्र के अनुसार किया जाता है। अस्थायी बिंदु संख्या में रूपांतरण से बचने के लिए, iOnRoad ने निम्नलिखित प्रसिद्ध पूर्णांक सन्निकटन का उपयोग किया:



2 ¹⁶ से अधिक इस सूत्र का उपयोग करके गणना के मध्यवर्ती परिणाम वैश्वीकरण की आगे की चर्चा के लिए एक महत्वपूर्ण बिंदु हैं।
तथाकथित लुक-अप टेबल (LUTs) का उपयोग iOnRoad में स्केलर गणना के लिए किया गया था: चूंकि सभी घटक Y, U, और V 8-बिट हैं, इसलिए उपरोक्त सूत्रों में गुणा की गणना अग्रिम में की जा सकती है और 32-बिट परिणामों को पांच में संग्रहीत किया जाता है। 256 इनपुट के साथ टेबल।

YUV को RGB में बदलना - SSE फिक्स्ड-पॉइंट कम्प्यूटिंग का उपयोग करने का सामान्य विचार

एसएसई के पास एलयूटी के साथ काम करने के लिए वेक्टर इकट्ठा करने के निर्देश नहीं हैं; 16-बिट पैक्ड नंबरों के वेक्टर गुणन का उपयोग स्केलर LUT संचालन और बाद की पैकेजिंग के संयोजन से तेज लगता है। हालाँकि, एक सरल 16-बिट SSE गुणन (PMULLW) का उपयोग नहीं किया जा सकता है, क्योंकि अपेक्षित मध्यवर्ती परिणाम 2 ¹⁶ से अधिक हो सकते हैं। SSE के पास एक PMULHRSW निर्देश है जो पूर्ण 16-बिट गुणन को जोड़ती है और 32-बिट मध्यवर्ती परिणाम की सही शिफ्ट आवश्यक 16-बिट गोलाई को जोड़ती है। इस निर्देश का उपयोग करने के लिए, ऑपरेंड को पहले बाईं ओर स्थानांतरित किया जाना चाहिए, अंतिम परिणाम में अधिकतम महत्वपूर्ण बिट प्रदान करें (हमारे विशेष मामले में, हम 13-बिट अंतिम परिणाम प्राप्त कर सकते हैं)।

अंतर्निहित SSE कोड लिखने के साधन के रूप में अंतर्निहित कार्य (आंतरिक)

कोडांतरक का उपयोग करके मैन्युअल SSE कोड लिखने से बचने में मदद करने के लिए, सभी ज्ञात C / C ++ कंपाइलर (MS, GNU, Intel) में विशेष APIs का एक सेट होता है जिसे आंतरिक कार्य कहते हैं।
प्रोग्रामर के दृष्टिकोण से, एक अंतर्निहित फ़ंक्शन एक नियमित C / C ++ फ़ंक्शन की तरह दिखता है और व्यवहार करता है। वास्तव में, यह एसएसई के एक कोडांतरक निर्देश का आवरण है और ज्यादातर मामलों में इस निर्देश के रूप में संकलित किया जाता है। बिल्ट-इन फ़ंक्शन का उपयोग करके एक ही प्रदर्शन संकेतक पर अपनी सभी जटिलताओं के साथ असेंबली कोड लिखने की जगह।
उदाहरण के लिए, ऊपर उल्लिखित PMULHRSW निर्देश को कॉल करने के लिए, C कोड में हमने अंतर्निहित फ़ंक्शन _mm_mulhrs_epi16 () का उपयोग किया है।
प्रत्येक SSE निर्देश में एक समान अंतर्निहित फ़ंक्शन होता है, ताकि आवश्यक SSE कोड बिल्ट-इन फ़ंक्शन का उपयोग करके पूरी तरह से लिखा जा सके।

YUV टू RGB परिवर्तन - SSE फिक्स्ड पॉइंट कम्प्यूटिंग कार्यान्वयन

प्रक्रिया 16 8-बिट वाई और 8 8-बिट जोड़े (यू, वी) के 2 सर्विंग्स को लोड करने के साथ शुरू होती है।
नतीजतन, यह डेटा 16 32-बिट आरजीबी पिक्सल (FRGB के रूप में जब उच्च बाइट 0xff पर सेट होता है) में परिवर्तित हो जाएगा।
संख्या 8 को संतृप्ति के साथ 8-बिट घटाव के संचालन का उपयोग करके 16 8-बिट वाई से घटाया जाता है, इसलिए नकारात्मकता के लिए परिणाम की जांच करने की कोई आवश्यकता नहीं है।
8 जोड़े (यू, वी) वाई के 16 मूल्यों के साथ 2 पंक्तियों "सेवा" करते हैं।
इनपुट डेटा को अनपैक करने के लिए, एक फेरबदल ऑपरेशन का उपयोग किया जाता है, इस स्थिति में 2 सर्विंग्स:

• 8 16-बिट वाई के 2 एक्स सेट;
• 4 16-बिट डबल यू का पहला सेट;
• 4 16-बिट डबल वी का पहला सेट।

नीचे एक भाग के निर्माण का एक विस्तृत आरेख है।



यू और वी का उपयोग करने से पहले, 16-बिट _mm_sub_epi16 () निर्देश का उपयोग करके 128 को उनसे घटाया जाता है।
घटाव के बाद, वाई, यू और वी के सभी 8 16-बिट मान _mm_mulhrs_epi16 () के लिए बेहतर रूप से फिट होने के लिए बाईं ओर स्थानांतरित कर दिए जाते हैं; यह निर्देश उचित रूप से पैक किए गए बाधाओं के साथ प्रयोग किया जाता है।

नोट: इन प्रारंभिक चरणों (घटाव और पारियों) का उल्लेख ऊपर स्केलर एल्गोरिदम में LUT संचालन के बजाय किया जाता है।

गुणन परिणाम अंतिम 16-बिट मान प्राप्त करने के लिए संक्षेपित किया जाता है, 0 और 2 ¹³ -1 (8191) के बीच सीमित _mm_min_epi16 () और _mm_max_epi16 () का उपयोग करके।
सभी गणनाओं को पूरा करने के बाद, हमें आर, जी और बी के अलग-अलग पैक किए गए 16-बिट मूल्यों के रूप में परिणाम मिलता है।
एफआरजीबी प्रारूप में उन्हें फिर से भरना (जहां एफ आईओएनरोड की आवश्यकताओं के अनुसार इकाइयों से भरा अल्फा चैनल है) को दो चरणों में किया जाता है।
पहले चरण में, हम 16-बिट <0xff00> से भरे अतिरिक्त रजिस्टर का उपयोग करके R, G, और B के 16-बिट मानों को 16-बिट FR और GB में रीपैकेज करते हैं। यह रीपैकेजिंग चरण तार्किक बाएँ और दाएँ पारियों और तार्किक OR / AND संचालन का उपयोग करके किया जाता है, जैसा कि चित्र में दिखाया गया है:



दूसरे चरण में, मध्यवर्ती परिणाम FR और GB अंततः अनपेक्षित निर्देशों _mm_unpacklo_epi16 () और _mm_unpackhi_epi16 () का उपयोग करके FRGB में पैक किए जाते हैं:



ऊपर वर्णित कोड, जो एसएसई के अंतर्निहित वेक्टर कार्यों का उपयोग करके YUV को RGB में रूपांतरित करता है, पूर्व-गणना तालिकाओं (LUT) का उपयोग करके मूल स्केलर कोड की तुलना में 4-गुना त्वरण प्रदान करता है।

समानांतरकरण के लिए CILK + का उपयोग करना: तुच्छ

स्मार्टफोन और टैबलेट में उपयोग किए जाने वाले एटम प्रोसेसर के सभी संस्करणों में कम से कम दो कोर (कम से कम तार्किक वाले - एचटी) होते हैं, और भविष्य में उनके पास और भी अधिक होगा, इसलिए एल्गोरिदम का समानांतरकरण उनके लिए बहुत महत्वपूर्ण है।
समानांतरकरण का सबसे सरल तरीका CILK + C और C ++ के लिए इंटेल कंपाइलर के विस्तार में लागू किया गया है (प्रसिद्ध TBB केवल C ++ के लिए काम करता है!)। सबसे सरल समानांतरकरण ऑपरेटर cilk_for (मानक C / C ++ भाषा के बजाय YUV को RGB के बाहरी रूपांतरण के लिए उपयोग किया जाता है) दोहरे-कोर क्लोवर ट्रेल + प्रोसेसर पर प्रदर्शन में दो गुना वृद्धि प्रदान करता है।
CILK + समानांतर के साथ संयोजन के रूप में SSE के आंतरिक वेक्टरकरण कार्यों का उपयोग करना एक 8x समग्र त्वरण प्रदान करता है।

वैश्वीकरण के लिए CILK + का उपयोग करना: ऐरे नोटेशन, फंक्शन मैपिंग, और कमी

CILK + में Array संकेतन नामक एक बहुत ही महत्वपूर्ण विस्तार है, जो वैश्वीकरण की दक्षता में काफी वृद्धि कर सकता है और साथ ही साथ कोड की पठनीयता में सुधार करता है।
एरे नोटेशन प्लेटफ़ॉर्म स्केलेबिलिटी प्रदान करता है: समान कोड को 128-बिट एटम, 256-बिट हसवेल और 512-बिट एमआईसी / स्काईलेक दोनों के लिए वेक्टर किया जा सकता है - आंतरिक एसएसई / एवीएक्स फ़ंक्शन के आधार पर कोड के विपरीत : इसे प्रत्येक विशिष्ट प्लेटफॉर्म के लिए मैन्युअल रूप से फिर से लिखना होगा। सरणी संकेतन आपको सरणी के तथाकथित वर्गों को फ़ंक्शन तर्क (फ़ंक्शन मैपिंग) के साथ-साथ कमी (योग, अधिकतम / न्यूनतम खोज, आदि) के लिए उपयोग करने की अनुमति देता है।

CILK + ऐरे नोटेशन उदाहरण

दो कोड स्निपेट देखें।
जटिल परिभाषाओं और विकास के साथ स्रोत कोड (एक वास्तविक अनुप्रयोग से लिया गया):



और CILK + तत्वों के साथ एकल-पंक्ति संयोजन, अनुभाग सरणी संकेतन, फ़ंक्शन मैपिंग और कटौती से मिलकर:



ये दो विकल्प पूरी तरह से एक कार्यात्मक दृष्टिकोण से समान हैं, लेकिन CILK + संस्करण 6 गुना तेजी से काम करता है!

निष्कर्ष और डेवलपर्स के लिए एक कॉल

आंतरिक SSE सुविधाएँ (SSSE3 स्तर) एटम / इंटेल उपकरणों पर अनुप्रयोग प्रदर्शन में काफी सुधार करती हैं।
CILK + एरे नोटेशन (इंटेल कंपाइलर में निर्मित) का उपयोग करना स्वचालित वैश्वीकरण के लिए शानदार अवसर प्रदान करता है।
CILK + एटम / इंटेल उपकरणों पर अनुप्रयोगों को समानांतर करने का एक शानदार तरीका है।
नई "एंड्रॉइड" दुनिया में एटम / एंड्रॉइड डेवलपर्स के लिए हमारी सिफारिश: SSE और CILK + का उपयोग करके अपने मल्टीमीडिया अनुप्रयोगों और गेम को अनुकूलित करने में संकोच न करें - ये सिद्ध उपकरण आपको उत्पादकता में एक बड़ी छलांग प्रदान करेंगे!

ग्रिगोरी डैनोविच द्वारा लिखित, वरिष्ठ एप्लाइड सॉल्यूशन इंजीनियर, इंटेल इज़राइल।