🕸️ 👑 🚶🏽 Numenta NuPIC: पहले चरण ♋️ 🚽 👩🏽‍🤝‍👨🏾

परिचय

Numenta NuPIC एल्गोरिदम का एक खुला कार्यान्वयन है जो एक व्यक्ति द्वारा जानकारी संग्रहीत करने की प्रक्रियाओं को मॉडल करता है जो नियोकार्टेक्स में होता है। गितूब पर NuPIC स्रोत कोड

संक्षेप में, NuPIC के उद्देश्य को "बकवास, खुलासा, याद रखना और डेटा में स्थानिक और लौकिक पैटर्न की भविष्यवाणी करना" के रूप में वर्णित किया जा सकता है। यह वह है जो मानव मस्तिष्क ज्यादातर समय करता है - यह याद करता है, संक्षेप और भविष्यवाणी करता है। इन प्रक्रियाओं का बहुत अच्छा विवरण जेफ हॉकिन्स की पुस्तक "ऑन इंटेलिजेंस" में पाया जा सकता है ("इंटेलिजेंस के बारे में" नामक एक पुस्तक का रूसी अनुवाद है)।

Numenta वेबसाइट के पास एल्गोरिदम और ऑपरेशन के सिद्धांतों और साथ ही कई वीडियो का विवरण है।

विधानसभा और स्थापना

इसे रिपॉजिटरी में रीडमी फ़ाइल में वर्णित किया गया है, इसलिए मैं इसका विस्तार नहीं करूंगा। काम करने के लिए, नूपिक को हेडर फ़ाइलों के साथ python2.7 (या 2.6) की आवश्यकता होगी।

मॉडल मापदंडों और संरचना

नूपिक की प्रमुख अवधारणा नियोकॉर्टेक्स मॉडल (या बस - मॉडल) है, जो कोशिकाओं का एक सेट है जो इनपुट डेटा को संसाधित और संग्रहीत करता है। इनपुट डेटा को संसाधित करने की प्रक्रिया में, सेल घटनाओं के संभावित विकास की भविष्यवाणी करते हैं, जो भविष्य के लिए स्वचालित रूप से पूर्वानुमान बनाता है। यह कैसे किया जाता है, इसके बारे में, मैं अगले लेख में बताऊंगा, अब केवल सबसे आवश्यक चीजों का एक सामान्य विवरण।

मॉडल में कई प्रक्रियाएं होती हैं, जिनमें से प्रत्येक का व्यवहार मापदंडों के एक समूह द्वारा निर्धारित किया जाता है।

एनकोडर

इनपुट डेटा एनकोडर से होकर गुजरता है, मॉडल के स्पष्ट दृश्य में परिवर्तित होता है। प्रत्येक सेल केवल बाइनरी डेटा को मानता है, और काम के लिए, मूल्य के करीब डेटा में एक समान बाइनरी प्रतिनिधित्व होना चाहिए।

उदाहरण के लिए, मॉडल इनपुट पर, हम 1 से 100 तक अंतराल से संख्याओं को खिलाना चाहते हैं (कहते हैं, वर्तमान सापेक्ष आर्द्रता)। यदि आप केवल संख्याओं के द्विआधारी प्रतिनिधित्व को लेते हैं, तो मान 7 और 8 पास स्थित हैं, लेकिन उनका द्विआधारी प्रतिनिधित्व बहुत भिन्न होता है (0b0111 और 0b1000)। इससे बचने के लिए, एनकोडर संख्यात्मक मानों को इकाई बिट्स के एक सेट में परिवर्तित करता है, जो मान के अनुपात में स्थानांतरित होता है। उदाहरण के लिए, 1 से 10 और तीन इकाई बिट्स से मानों की एक श्रृंखला के लिए, हमें निम्नलिखित प्रतिनिधित्व मिलता है:

1 -> 111000000000
2 -> 011100000000
3 -> 001110000000
7 -> 000000111000
10 -> 000000000111

यदि इनपुट पर कई मान हैं, तो उनके बाइनरी प्रतिनिधित्व बस एक साथ संयुक्त हैं।
इसी तरह, फ्लोटिंग-पॉइंट वैल्यू और वैल्यू सेट (मान / झूठ, और अन्य एन्यूमरेटेड प्रकार) के असतत सेट का प्रतिनिधित्व किया जाता है।

स्थानिक पूलर

एसपी का मुख्य कार्य इस सक्रियण में यादृच्छिकता के एक तत्व को जोड़ते हुए, डेटा के समान सेट के करीब कोशिकाओं के सक्रियण को सुनिश्चित करना है। यह कैसे किया जाता है, इसकी विस्तृत चर्चा लेख के दायरे से परे है; जो रुचि जारी रखने के लिए इंतजार कर सकते हैं, या मूल स्रोत (श्वेतपत्र) का उल्लेख कर सकते हैं।

टेम्पोरल पूलर

इनपुट डेटा के समान पैटर्न की पहचान करने के अलावा, NuPIC समय के साथ इसके प्रवाह का विश्लेषण करके इस डेटा के संदर्भ को अलग कर सकता है। यह कोशिकाओं के बहुस्तरीय सेट (तथाकथित सेल कॉलम) के कारण प्राप्त किया जाता है, और एक विस्तृत विवरण भी इच्छित रूपरेखा से परे जाता है। यहां यह कहना पर्याप्त है कि इसके बिना, सिस्टम सीबीएसीबीए में एक ही चरित्र से एबीसीएबीसी सीक्वेंस में बी को अलग नहीं करेगा।

अभ्यास: साइन

पर्याप्त सिद्धांत, मुद्दे के व्यावहारिक पक्ष पर चलते हैं। आरंभ करने के लिए, एक साधारण साइन फ़ंक्शन करें, इसे मॉडल के इनपुट में फ़ीड करें और देखें कि यह कितनी अच्छी तरह समझ और भविष्यवाणी कर सकता है।

पूर्ण उदाहरण कोड , हम प्रमुख बिंदुओं का विश्लेषण करेंगे।

मापदंडों के एक सेट का उपयोग करके एक मॉडल बनाने के लिए, मॉडलफैक्टरी वर्ग का उपयोग किया जाता है:

from nupic.frameworks.opf.modelfactory import ModelFactory model = ModelFactory.create(model_params.MODEL_PARAMS) model.enableInference({'predictedField': 'y'})

MODEL_PARAMS मॉडल मापदंडों के एक पूरे सेट के साथ एक बहुत ही ढीला तानाशाही है। अब हम सभी मापदंडों में रुचि नहीं रखते हैं, लेकिन कुछ पर रोक के लायक है।

  'sensorParams': { 'encoders': { 'y': { 'fieldname': u'y', 'n': 100, 'name': u'y', 'type': 'ScalarEncoder', 'minval': -1.0, 'maxval': 1.0, 'w': 21 }, },

यहां आप एनकोडेरा के मापदंडों को सेट कर सकते हैं, जो साइन वैल्यू (-1 से 1 तक की सीमा में) को थोड़ा प्रतिनिधित्व में परिवर्तित करता है। मान मिनवल और मैक्सवेल सीमा निर्धारित करते हैं, मान n परिणाम में बिट्स की कुल संख्या निर्धारित करता है, और डब्ल्यू - यूनिट बिट्स की संख्या (किसी कारण के लिए, यह अजीब होना चाहिए)। इस प्रकार, पूरी सीमा को 0.025 के कदम के साथ 79 अंतरालों में विभाजित किया गया है। जांच करने के लिए यह पर्याप्त है।

बाकी मापदंडों को अभी तक बदलने की आवश्यकता नहीं है - उनमें से कई हैं, लेकिन डिफ़ॉल्ट मान काफी अच्छी तरह से काम करते हैं। कोड के साथ खुदाई और कई महीनों तक खुदाई करने के बाद भी, कुछ विकल्पों का सटीक उद्देश्य मेरे लिए एक रहस्य बना हुआ है।

मॉडल के enableInference विधि के लिए कॉल इंगित करता है कि हम कौन से इनपुट पैरामीटर की भविष्यवाणी करना चाहते हैं (यह केवल एक ही हो सकता है)।

तैयारी पूरी हो गई है, आप मॉडल को डेटा के साथ पंप कर सकते हैं। यह निम्नानुसार किया जाता है:

 res = model.run({'y': y})

तर्क तानाशाही है, जो सभी इनपुट मूल्यों को सूचीबद्ध करता है। आउटपुट पर, मॉडल एक ऑब्जेक्ट देता है जिसमें इनपुट डेटा की प्रतिलिपि होती है (मूल प्रतिनिधित्व में और एन्कोडेड दोनों में), साथ ही अगले चरण के लिए पूर्वानुमान। हम में से कौन सी रुचियां सबसे अधिक अनुमान क्षेत्र में पूर्वानुमान है:

 {'encodings': [array([ 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 1., 1., 1., 1., 1., 1., 1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.], dtype=float32)], 'multiStepBestPredictions': {1: 0.2638645383168643}, 'multiStepPredictions': {1: {0.17879642297981466: 0.0083312500347378464, 0.20791169081775931: 0.0083320832430621525, 0.224951054343865: 0.020831041503470333, 0.24192189559966773: 0.054163124704840825, 0.2638645383168643: 0.90834250051388887}},

हम एक साथ कई चरणों की भविष्यवाणी कर सकते हैं, इसलिए, मल्टीस्टेप्रेडिक्शन डिक्शनरी में, कुंजी पूर्वानुमान चरणों की संख्या है, और मूल्य में कुंजी और संभावना में पूर्वानुमान के साथ मूल्य एक और शब्दकोश है। ऊपर के उदाहरण के लिए, मॉडल 90.83% की संभावना के साथ 0.26386 के मूल्य की भविष्यवाणी करता है, 5.4% की संभावना के साथ 0.2419 का मान आदि।

सबसे संभावित पूर्वानुमान मल्टीस्टेपबेस्टप्रिडिक्शन क्षेत्र में है।

इस सभी ज्ञान के साथ, हम एक सरल साइन की भविष्यवाणी करने की कोशिश कर रहे हैं। कार्यक्रम के रन के ग्राफ नीचे दर्शाए गए हैं, जिसमें प्रारंभ पैरामीटर दर्शाए गए हैं। ऊपरी ग्राफ पर, नीली रेखा मूल साइन है, हरा मॉडल बाईं ओर एक कदम स्थानांतरित होने का पूर्वानुमान है। निचले ग्राफ में, 360 मानों के लिए मानक त्रुटि वापस (पूर्ण अवधि) है।

सबसे पहले, त्रुटि काफी बड़ी है, और अनुमानित मूल्य मूल मूल्य (sin-predictor.py -s 100) से स्पष्ट रूप से भिन्न होता है:

1000 चरणों के बाद:

प्रगति स्पष्ट है। 10,000 चरणों के बाद:

10,000 चरणों के बाद, अंतिम 360 मान:

यह देखा जा सकता है कि मॉडल को निश्चित रूप से कुछ विचार मिले कि वे इससे क्या चाहते हैं।

निष्कर्ष

इस लेख में मैंने कार्यान्वयन विवरणों के जंगल में जाने के बिना NuPIC का उपयोग करने का सबसे सामान्य विचार देने की कोशिश की। पर्दे के पीछे बहुत सारी चीजें बनी रहीं - नेटवर्क संरचना, विज़ुअलाइज़ेशन सिस्टम सेरेब्रो, स्वीमिंग, आदि। यदि विषय में समय और रुचि है, तो लेख जारी रखा जा सकता है।

Numenta NuPIC: पहले चरण