तार्किक रूप से पारदर्शी तंत्रिका नेटवर्क और डेटा से स्पष्ट ज्ञान का उत्पादन

तंत्रिका नेटवर्क के विकास के विषय को जारी रखना।

संचित डेटा से स्पष्ट ज्ञान उत्पन्न करना एक समस्या है जो कंप्यूटर की तुलना में बहुत पुरानी है। प्रशिक्षित तंत्रिका नेटवर्क डेटा से छिपे हुए ज्ञान का उत्पादन कर सकते हैं: भविष्यवाणी, वर्गीकरण, पैटर्न मान्यता, आदि का कौशल बनाया जाता है, लेकिन इसकी तार्किक संरचना आमतौर पर उपयोगकर्ता से छिपी रहती है। इस छिपी हुई तार्किक संरचना की अभिव्यक्ति (विपरीत) की समस्या तंत्रिका नेटवर्क को एक विशेष "तार्किक रूप से पारदर्शी" विरल रूप से कम करके हल की जाती है।
प्रत्येक शोधकर्ता जो तंत्रिका नेटवर्क का उपयोग करने का निर्णय लेता है, दो प्रश्नों का सामना करता है: "समस्या को हल करने के लिए कितने न्यूरॉन्स की आवश्यकता होती है?" और "तंत्रिका नेटवर्क की संरचना क्या होनी चाहिए?" (तार्किक रूप से पारदर्शी) और यह समझ क्या लाभ ला सकती है? ”

मुझे कितने न्यूरॉन्स का उपयोग करना चाहिए?

इस सवाल का जवाब देने में, दो विरोधी दृष्टिकोण हैं। उनमें से एक का दावा है कि अधिक न्यूरॉन्स का उपयोग करने के लिए, अधिक विश्वसनीय नेटवर्क बाहर निकल जाएगा। इस स्थिति के प्रस्तावक मानव मस्तिष्क का उदाहरण देते हैं। वास्तव में, अधिक न्यूरॉन्स, उनके बीच कनेक्शन की अधिक से अधिक संख्या, और अधिक जटिल कार्य एक तंत्रिका नेटवर्क हल कर सकते हैं। इसके अलावा, यदि आप समस्या को हल करने के लिए आवश्यक ज्ञात न्यूरॉन्स की एक बड़ी संख्या का उपयोग करते हैं, तो तंत्रिका नेटवर्क निश्चित रूप से सीखेंगे। यदि आप कम संख्या में न्यूरॉन्स के साथ शुरू करते हैं, तो नेटवर्क यह जानने में असमर्थ हो सकता है कि समस्या को कैसे हल किया जाए, और पूरी प्रक्रिया को बड़ी संख्या में न्यूरॉन्स के साथ पहले दोहराना होगा। यह दृष्टिकोण (अधिक बेहतर) तंत्रिका नेटवर्क सॉफ्टवेयर डेवलपर्स के बीच लोकप्रिय है। तो, उनमें से कई अपने कार्यक्रमों के मुख्य लाभों में से एक के रूप में किसी भी संख्या में न्यूरॉन्स का उपयोग करने की संभावना कहते हैं।
देखने का दूसरा बिंदु इस तरह के एक "अनुभवजन्य" नियम पर आधारित है: अधिक फिटिंग पैरामीटर, उन क्षेत्रों में फ़ंक्शन का अनुमानित रूप से खराब होना जहां इसके मूल्य पहले से अज्ञात थे। गणितीय दृष्टिकोण से, तंत्रिका नेटवर्क के प्रशिक्षण के कार्य परिभाषा के पूरे डोमेन पर एक सीमित संख्या में दिए गए फ़ंक्शन की निरंतरता तक कम हो जाते हैं। इस दृष्टिकोण के साथ, नेटवर्क इनपुट को फ़ंक्शन का तर्क माना जाता है, और नेटवर्क प्रतिक्रिया को फ़ंक्शन का मान माना जाता है। जाहिर है, डिग्री 3 के एक बहुपद का उपयोग करके प्राप्त अनुमान एक "सही" सन्निकटन के आंतरिक विचार के साथ अधिक सुसंगत है। अपनी सादगी के बावजूद, यह उदाहरण स्पष्ट रूप से सार को प्रदर्शित करता है।
दूसरा दृष्टिकोण न्यूनतम आवश्यक के रूप में न्यूरॉन्स की आवश्यक संख्या को परिभाषित करता है। मुख्य नुकसान यह है कि यह न्यूनतम संख्या पहले से ज्ञात नहीं है, और न्यूरॉन्स की संख्या को धीरे-धीरे बढ़ाकर इसे निर्धारित करने की प्रक्रिया बहुत ही श्रमसाध्य है। चिकित्सा निदान, अंतरिक्ष नेविगेशन और मनोविज्ञान के क्षेत्र में विभिन्न समूहों के अनुभव के आधार पर, यह ध्यान दिया जा सकता है कि इन सभी कार्यों में, कुछ दर्जन से अधिक न्यूरॉन्स की कभी आवश्यकता नहीं थी। दो चरम स्थितियों के विश्लेषण को सारांशित करते हुए, हम निम्नलिखित कह सकते हैं: न्यूनतम संख्या में न्यूरॉन्स के साथ एक नेटवर्क को बेहतर ("अधिक सही ढंग से, और अधिक सुचारू रूप से) फ़ंक्शन को अनुमानित करना चाहिए, लेकिन इस न्यूनतम संख्या के न्यूरॉन्स को खोजने के लिए प्रशिक्षण नेटवर्क में बहुत सारे बौद्धिक प्रयास और प्रयोग की आवश्यकता होती है। यदि न्यूरॉन्स की संख्या अत्यधिक है, तो आप पहली कोशिश में परिणाम प्राप्त कर सकते हैं, लेकिन एक "खराब" सन्निकटन के निर्माण का जोखिम है। सच्चाई, जैसा कि हमेशा ऐसे मामलों में होता है, मध्य में होता है: आपको आवश्यकता से अधिक न्यूरॉन्स की संख्या चुनने की आवश्यकता है, लेकिन बहुत अधिक नहीं। यह प्रत्येक सीखने के असफल प्रयास के बाद नेटवर्क में न्यूरॉन्स की संख्या को दोगुना करके किया जा सकता है। हालांकि, विपरीत प्रक्रिया का उपयोग करके न्यूरॉन्स की न्यूनतम संख्या का अनुमान लगाने का एक अधिक विश्वसनीय तरीका है। इसके अलावा, विषम प्रक्रिया आपको दूसरे प्रश्न का उत्तर देने की अनुमति देती है: नेटवर्क की संरचना क्या होनी चाहिए।
विपरीत प्रक्रिया परिणाम पर न्यूनतम प्रभाव के साथ रिश्तों को खत्म करने के सिद्धांत पर आधारित है जब तक कि नेटवर्क खरोंच से कार्य को सीखने की अपनी क्षमता खो देता है।

तार्किक रूप से पारदर्शी तंत्रिका नेटवर्क

कई उपयोगकर्ताओं के दृष्टिकोण से तंत्रिका नेटवर्क का एक मुख्य नुकसान यह है कि एक तंत्रिका नेटवर्क एक समस्या को हल करता है, लेकिन यह नहीं बता सकता है कि कैसे। दूसरे शब्दों में, एक समस्या को हल करने के लिए एक एल्गोरिथ्म एक प्रशिक्षित तंत्रिका नेटवर्क से नहीं निकाला जा सकता है। हालांकि, एक विशेष रूप से निर्मित विपरीत प्रक्रिया हमें इस समस्या को हल करने की अनुमति देती है।
उदाहरण के लिए, हमें आवश्यकता है कि सभी न्यूरॉन्स में तीन से अधिक इनपुट सिग्नल न हों। आइए हम एक तंत्रिका नेटवर्क को परिभाषित करते हैं जिसमें सभी इनपुट संकेतों को इनपुट परत के सभी न्यूरॉन्स को आपूर्ति की जाती है, और प्रत्येक अगली परत के सभी न्यूरॉन्स पिछली परत के सभी न्यूरॉन्स के आउटपुट सिग्नल प्राप्त करते हैं। हम नेटवर्क को समस्या के लिए एक त्रुटि-मुक्त समाधान सिखाते हैं।
उसके बाद हम कई चरणों में इसके विपरीत करेंगे। पहले चरण में, हम केवल इनपुट परत के न्यूरॉन्स के वजन के विपरीत होंगे। यदि कुछ न्यूरॉन्स के विपरीत तीन इनपुट संकेतों से अधिक है, तो हम इनपुट न्यूरॉन्स की संख्या में वृद्धि करेंगे। फिर, हम अन्य सभी परतों के लिए वैकल्पिक रूप से एक समान प्रक्रिया करेंगे। वर्णित प्रक्रिया के पूरा होने के बाद, एक तार्किक पारदर्शी नेटवर्क प्राप्त किया जाएगा। एक न्यूनतम नेटवर्क प्राप्त करने के लिए अतिरिक्त नेटवर्क के विपरीत काम किया जा सकता है। यदि तार्किक रूप से पारदर्शी नेटवर्क को नेटवर्क के रूप में समझा जाता है, जिसमें प्रत्येक न्यूरॉन में तीन से अधिक इनपुट नहीं होते हैं, तो यह स्पष्ट है कि नेटवर्क की न्यूनतमता तार्किक पारदर्शिता नहीं लाती है।

निष्कर्ष

प्रशिक्षित तंत्रिका नेटवर्क का उपयोग करके डेटा से स्पष्ट ज्ञान प्राप्त करने की तकनीक काफी सरल लगती है और समस्याओं का कारण नहीं लगती है - आपको इसे लागू करने और उपयोग करने की आवश्यकता है।
पहला चरण: हम बुनियादी समस्या को हल करने के लिए तंत्रिका नेटवर्क को प्रशिक्षित करते हैं। आमतौर पर मूल कार्य मान्यता, भविष्यवाणी (पिछले भाग में), आदि है। ज्यादातर मामलों में, यह डेटा अंतराल को भरने के कार्य के रूप में व्याख्या की जा सकती है। ऐसी रिक्त स्थान मान्यता के दौरान छवि का नाम है, और वर्ग संख्या, और पूर्वानुमान का परिणाम, आदि।
दूसरा चरण: महत्व के संकेतकों का विश्लेषण करके, इसके विपरीत और सीखना (यह सब उपयोग किया जाता है, सबसे अधिक, बार-बार) हम तंत्रिका नेटवर्क को तार्किक रूप से पारदर्शी रूप में लाते हैं - ताकि अधिग्रहित कौशल को "पढ़ा" जा सके।
परिणाम अस्पष्ट है - यदि आप एक अलग प्रारंभिक नक्शे से शुरू करते हैं, तो आप एक और तार्किक रूप से पारदर्शी संरचना प्राप्त कर सकते हैं। प्रत्येक डेटाबेस में स्पष्ट ज्ञान के लिए कई विकल्प हैं। यह एक प्रौद्योगिकी दोष माना जा सकता है, लेकिन वैज्ञानिकों का मानना ​​है कि, इसके विपरीत, स्पष्ट ज्ञान के लिए एकमात्र विकल्प प्रदान करने वाली तकनीक अविश्वसनीय है, और परिणाम की गैर-एकरूपता डेटा से स्पष्ट ज्ञान के उत्पादन की एक मौलिक संपत्ति है।
और नाश्ते के लिए, जिओ जिओ ली एक आकर्षक माइक्रोसॉफ्ट रिसर्च कर्मचारी है जो बेयसियन एंटी-स्पैम फिल्टर विकसित करता है।

संदर्भ

न्यूरोइन्फॉर्मेटिक्स / ए.एन. गोर्बन, वी.एल.डिनिन-बार्ककोवस्की, ए.एन. केविन एट अल। - नोवोसिबिर्स्क: विज्ञान। साइबेरियाई उद्यम रूसी अकादमी ऑफ साइंसेज, 1998।