अनुक्रम प्रतिक्रिया न्यूरॉन मॉडल

हाल ही में Habré पर न्यूरल नेटवर्क के बारे में कुछ लेख थे। अपने क्षितिज को व्यापक बनाने के लिए, मैं गैर-शास्त्रीय सिद्धांतों पर निर्मित तंत्रिका नेटवर्क का विवरण प्रस्तुत करता हूं, और जिसके साथ मैंने बहुत सक्रिय रूप से और उत्पादक रूप से प्रयोग किया। एक न्यूरॉन आने वाले संकेतों को सारांशित नहीं करेगा, लेकिन आने वाले सिग्नल अनुक्रमों को पहचान लेगा।

न्यूरॉन निर्माण

बता दें कि न्यूरॉन में कई इनपुट और एक आउटपुट होता है। संपूर्ण न्यूरल नेटवर्क की तरह एक न्यूरॉन, घड़ी चक्र पर काम करता है। न्यूरॉन इनपुट का आदेश दिया जाता है। एक चक्र के भीतर, न्यूरॉन को सभी आदेशों के अनुसार स्थापित क्रम के अनुसार शून्य और लोगों का एक क्रम प्राप्त होता है: पहला पहले से, फिर दूसरा और इसी तरह। एक चक्र के इनपुट संकेतों का अनुक्रम अगले के संकेतों के अनुक्रम द्वारा पूरक है। कुल मिलाकर, हम मान सकते हैं कि न्यूरॉन को इनपुट पर शून्य और लोगों का एक निरंतर अनुक्रम प्राप्त होता है।
न्यूरॉन का एक पैटर्न होता है, जो कि आने वाले अनुक्रम में कहीं भी होता है, न्यूरॉन "शूट" करता है: यह उस घड़ी में आउटपुट पर एक सिग्नल (यूनिट) देता है जिसमें यह पैटर्न अनुक्रम से मिलता था।
एक न्यूरॉन सीखना एक पैटर्न खोजने के लिए नीचे आता है जिसे न्यूरॉन को अपने इनपुट अनुक्रम में खोजना होगा।

एक नेटवर्क का निर्माण। ऊर्जा

तंत्रिका नेटवर्क को शुरुआत के लिए दो न्यूरॉन्स से मिलकर बनाते हैं, जिनमें से प्रत्येक रिसेप्टर्स से जुड़ा होता है।

• छवि विश्लेषण के लिए, रिसेप्टर्स पारंपरिक रूप से उस मैट्रिक्स के पिक्सल होंगे, जिस पर छवि अनुमानित है।

हम मैट्रिक्स पर दो प्रकार की छवियों को प्रोजेक्ट करेंगे: क्षैतिज और ऊर्ध्वाधर लाइनें। हमने खुद को इन चित्रों को पहचानने के लिए तंत्रिका नेटवर्क के प्रशिक्षण का कार्य निर्धारित किया है, और इसलिए कि एक न्यूरॉन केवल क्षैतिज रेखाओं पर प्रतिक्रिया करता है, और दूसरा केवल ऊर्ध्वाधर लाइनों के लिए।
ऐसा करने के लिए, पहले न्यूरॉन के व्यवहार को जटिल करें। मान लीजिए कि एक न्यूरॉन, एक संकेत (इकाई) को बाहर दे रहा है, ऊर्जा की खपत करता है (हमेशा एक ही है, हम इसे 1E - ऊर्जा की इकाई द्वारा दर्शाते हैं)। न्यूरॉन को अपनी ऊर्जा कहां से मिलती है? उसके परिवेश से। हम मानते हैं कि प्रत्येक चक्र पर एक निश्चित मात्रा में ऊर्जा तंत्रिका नेटवर्क में प्रवेश करती है, जो पूरी तरह से न्यूरॉन्स के बीच वितरित होती है।

• मैं पहले से कहूंगा कि एक निश्चित अंतराल के लिए तंत्रिका नेटवर्क में प्रवेश करने वाली ऊर्जा की मात्रा तंत्रिका नेटवर्क के प्रतिक्रिया संकेतों की संख्या से मेल खाती है। यही है, उन स्थितियों में जब केवल दो प्रकार की छवियां इनपुट होती हैं, और हम एक अस्पष्ट प्रतिक्रिया प्राप्त करना चाहते हैं, प्रत्येक घड़ी चक्र में, ऊर्जा की एक इकाई को नेटवर्क में प्रवेश करना होगा।

तो, चक्र की शुरुआत में प्रत्येक न्यूरॉन में कुछ गैर-नकारात्मक ऊर्जा क्षमता होती है। यदि संचित ऊर्जा अनुमति देती है, तो न्यूरॉन, आने वाले अनुक्रम में अपने पैटर्न से मिलता है, "गोली मारता है"। डिस्चार्ज के दौरान, न्यूरॉन की ऊर्जा क्षमता एक से कम हो जाती है। चक्र के दौरान, न्यूरल नेटवर्क में प्रवेश करने वाली ऊर्जा को न्यूरॉन्स के बीच वितरित किया जाना चाहिए। वितरण नियम प्रणाली के समग्र व्यवहार को प्रभावित करता है। हम एक सरल नियम का प्रस्ताव करते हैं: न्यूरॉन्स के बीच वितरित ऊर्जा उनकी ऊर्जा क्षमता के विपरीत आनुपातिक है: न्यूनतम क्षमता वाले एक न्यूरॉन अधिकतम क्षमता वाले न्यूरॉन की तुलना में अधिक ऊर्जा (या यहां तक ​​कि सभी ऊर्जा) प्राप्त करता है; समान क्षमता वाले न्यूरॉन्स को बराबर मात्रा में ऊर्जा मिलती है।

ट्रेनिंग

यदि वे "शूट" बहुत बार करते हैं तो न्यूरॉन्स को क्या होना चाहिए? इस मामले में ऊर्जा की खपत बढ़ जाती है, और कुछ बिंदु पर यह पता चलता है कि न्यूरॉन एक टेम्पलेट अनुक्रम से मिला था, लेकिन ऊर्जा क्षमता एक उत्तर बनाने की अनुमति नहीं देती है। इसका मतलब है कि पैटर्न अनुक्रम बहुत सामान्य है: पैटर्न को बदलने की आवश्यकता है।

• कोई भी अनुक्रम एक टेम्पलेट हो सकता है, और इसकी लंबाई एक न्यूरॉन के इनपुट synapses की संख्या के अनुरूप नहीं होनी चाहिए: यह या तो कम या अधिक लंबी हो सकती है।

वर्णित मामले में, टेम्पलेट को लंबा किया जाना चाहिए। मान लीजिए कि एक बिट मान्यताप्राप्त पैटर्न के बाद इनपुट अनुक्रम में होता है।
लेकिन क्या होगा अगर न्यूरॉन्स "चुप" हैं? उनकी ऊर्जा बनती है। मान लीजिए कि एक न्यूरॉन (जैसे, 10E) की ऊर्जा क्षमता की एक निश्चित ऊपरी सीमा तक पहुंचना महत्वपूर्ण है। ऊपरी दहलीज पर पहुंचने का मतलब है कि न्यूरॉन में एक अप्रासंगिक पैटर्न है: पैटर्न को छोटा करने की आवश्यकता है। टेम्पलेट की कमी को ऊर्जा की एक निश्चित मात्रा की खपत के साथ मिलान किया जाता है, कहते हैं, 1 ई।

व्यवहार

इस प्रकार, एक गतिशील प्रणाली प्राप्त की गई थी, जो सॉफ्टवेयर कार्यान्वयन के लिए सरल है।
मैं ध्यान देता हूं कि आगे निर्धारित सिद्धांतों के अनुसार दो न्यूरॉन्स पर निर्मित एक प्रणाली छवियों को काफी कुशलता से पहचान सकती है। ऊर्ध्वाधर और क्षैतिज रेखाओं के साथ दिए गए उदाहरण के लिए, एक स्थिर तंत्रिका नेटवर्क किसी भी (!) क्षैतिज और ऊर्ध्वाधर लाइनों के लिए सही परिणाम का उत्पादन करेगा, भले ही रेटिना पर उनकी मोटाई और स्थान की परवाह किए बिना।