आदर्श छात्र, या जो वे मशीन लर्निंग के बारे में चुप हैं

इससे पहले habrahabr.ru/post/145309 हमने सार्वभौमिक कृत्रिम बुद्धिमत्ता (एआई) के दृष्टिकोण की समीक्षा की। लेकिन सार्वभौमिक एआई क्या है? वास्तव में आधुनिक व्यावहारिक एआई सिस्टम को सार्वभौमिक कहा जाना क्या कमी है? इस मुद्दे की अधिक विशिष्ट चर्चा के लिए, आइए मशीन सीखने का उपयोग करके इसे एआई के आवश्यक घटक के रूप में देखें।

मशीन लर्निंग ने लंबे समय तक अकादमिक कृत्रिम बुद्धिमत्ता के क्षेत्र की सीमाओं को पीछे छोड़ दिया है और "साधारण प्रोग्रामर" तक आ गया है। कई लागू किए गए कार्य डेटा खनन, पैटर्न मान्यता, सांख्यिकीय निष्कर्ष, आदि के व्यावहारिक तरीकों का उपयोग करते हैं। बड़ी कंपनियां स्वचालित डेटा विश्लेषण पर विभिन्न पाठ्यक्रमों और स्कूलों का आयोजन करती हैं, बुनियादी विभाग बनाती हैं, सम्मेलनों के आयोजन में भाग लेती हैं और अन्य तरीकों से दुनिया में मशीन लर्निंग के क्षेत्र में संचित ज्ञान का प्रकाश लाती हैं। वैज्ञानिक भी पीछे नहीं हैं: वे नए तरीकों के साथ आते हैं और नए उप-क्षेत्रों में काम करते हैं, जैसे कि अब फैशनेबल ट्रांसफर ट्रेनिंग।

हालांकि, चौड़ाई में इस क्षेत्र का ऐसा विकास विशेष रूप से इसके विकास अंतर्देशीय में योगदान नहीं करता है। इसके विपरीत, मशीन लर्निंग के मूल सिद्धांतों की सरल व्याख्याएं फैल रही हैं (इस तथ्य के बावजूद कि ये व्याख्याएं अक्सर एक जटिल सिद्धांत द्वारा समर्थित होती हैं), जो विशेष रूप से व्यावहारिक समाधान प्राप्त करना संभव बनाती हैं। उत्तरार्द्ध, ज़ाहिर है, बुरा नहीं है, लेकिन मशीन सीखने के सार्वभौमिक तरीकों की समस्या अनसुलझी बनी हुई है (और यहां तक ​​कि अनदेखी)। उसी समय, एक तरफ, मशीन लर्निंग के सार्वभौमिक तरीकों (जैसे तंत्रिका नेटवर्क) के बारे में मिथक, जो वास्तव में ऐसे नहीं हैं, "आवेदकों" के बीच लोकप्रिय थे। दूसरी ओर, "सिद्धांतकारों" के बीच, मशीन सीखने के सार्वभौमिक तरीकों को बनाने की संभावना में कोई विश्वास नहीं था, जिसका अर्थ है कि एक नई सार्वभौमिक विधि का प्रस्ताव करने का कोई भी प्रयास "अभी तक एक और क्लासिफायर" या "नो फ्री लंच" के रूप में याद किया जाता है। प्रमेय।

सबसे चौंकाने वाली बात यह है कि वास्तव में सार्वभौमिक मशीन सीखने का सिद्धांत आधी सदी से अस्तित्व में है, और इस सिद्धांत के संदर्भ में आधुनिक शोधकर्ताओं के कई तर्क बहुत भोले लगते हैं। यह सिद्धांत क्या है? यह मशीन सीखने की समस्याओं को कैसे हल करता है? इसे अब तक अधिक वितरण क्यों नहीं मिला है? और क्या एक सार्वभौमिक मशीन शिक्षण प्रणाली बनाना संभव है? हम इन सवालों के जवाब के करीब पहुंचने की कोशिश करेंगे, लेकिन पहले हम मजबूत एआई के लिए सार्वभौमिक प्रशिक्षण की आवश्यकता को दिखाएंगे।

मशीन लर्निंग की मुख्य समस्याओं को कार्यात्मक सन्निकटन और एक्सट्रपलेशन के रूप में ऐसी "सरल" समस्या के उदाहरण द्वारा प्रदर्शित किया जा सकता है। अंत में, बुद्धिमान एजेंट को सेंसर इनपुट और मोटर आउटपुट के बीच एक संबंध स्थापित करने की आवश्यकता होती है, या उठाए गए कार्यों के आधार पर पर्यावरण से सुदृढीकरण के परिमाण को एक्सट्रपलेशन करना सीखते हैं, इसलिए एआई के साथ इस कार्य का कनेक्शन निर्विवाद है।

आइए अंजीर में दिखाए गए बिंदुओं के अनुक्रम को देखें। 1. इसे कैसे जारी रखा जाए? सबसे पहले, यह बिल्कुल स्वाभाविक लगता है कि इस समस्या को हल करने के लिए, आपको एक फ़ंक्शन चुनने की आवश्यकता है जो उपलब्ध बिंदुओं के सबसे करीब से गुजरता है, और यह फ़ंक्शन सबसे अच्छा समाधान होगा।


अंजीर। 1. अंक कैसे जारी रखें?

गणित में, विभिन्न प्रमेय हैं जो कुछ मनमाना कार्य करते हैं, जिनमें से रूप महत्वपूर्ण प्रतिबंधों के अधीन नहीं है, (शायद, निरंतरता और भिन्नता के अपवाद के साथ), एक निश्चित प्रकार के कार्यों द्वारा मनमानी सटीकता के साथ लगाया जा सकता है। विशेष रूप से, इस तरह के प्रमेयों के कारण, कृत्रिम तंत्रिका नेटवर्क (ANN) सार्वभौमिक सन्निकटकों के लिए एक प्रतिष्ठा है। यह हास्यास्पद है कि इस तरह की प्रतिष्ठा को एएनएन द्वारा ठीक से विकसित किया गया था, न कि, पॉलीओनियम्स, जिसके लिए समान प्रमेय बहुत पहले साबित हुए थे।

लेकिन मशीन सीखने के संदर्भ में इन प्रमेयों का क्या मतलब है? तथ्य यह है कि अन्य कार्यों द्वारा कुछ कार्यों का अनुमान लगाना संभव है, सिद्धांत रूप में इसका मतलब यह नहीं है कि यह अभ्यास में किया जा सकता है। दरअसल, व्यवहार में हमेशा परिमित आकार का एक प्रशिक्षण नमूना होता है, और इसके अलावा, यह अक्सर शोर होता है। आइए देखें कि इस तरह की परिस्थितियों में सन्निकटन कैसे काम करेगा। इसके लिए हम बहुपद का उपयोग करते हैं, क्योंकि उनके लिए परिणाम की अधिक पारदर्शी व्याख्या होगी।

हम विभिन्न डिग्री के बहुपद के मापदंडों का चयन करेंगे ताकि ये बहुपद प्रशिक्षण नमूने के बिंदुओं के सबसे करीब से गुजरें, अर्थात, हम कम से कम वर्गों की विधि का उपयोग करते हैं, जो इस मामले में बहुत सरल कार्यान्वयन है। अंजीर में। चित्रा 2 एक रैखिक फ़ंक्शन, एक पेराबोला और एक क्यूबिक फ़ंक्शन के समाधान दिखाता है। अंतिम (लाल) बिंदु को प्रशिक्षण सेट में शामिल नहीं किया गया था और यह सच निर्भरता से मेल खाता है।


अंजीर। 2. 1, 2 और 3 डिग्री के बहुपद के निर्माण के परिणाम।

सब कुछ अच्छा लगता है: बहुपद की डिग्री में वृद्धि करके, प्रशिक्षण नमूने के बिंदुओं से विचलन को कम करना और भविष्यवाणी की सटीकता में सुधार करना दोनों संभव है। लेकिन आगे भी डिग्री बढ़ाने के लिए प्रयास करते रहें। अंजीर में। चित्रा 3 4 वें, 7 वें और 10 वें डिग्री के बहुपद के लिए समाधान दिखाता है।


अंजीर। 3. 4 वें, 7 वें और 10 वें डिग्री के बहुपद के निर्माण के परिणाम।

जैसा कि आप देख सकते हैं, प्रशिक्षण सेट पर सटीकता बढ़ जाती है, और 10 वीं डिग्री का बहुपद आदर्श रूप से सभी बिंदुओं से गुजरता है, लेकिन भविष्यवाणी की सटीकता कम हो जाती है! यह ओवरफिटिंग का एक प्रसिद्ध प्रभाव है। कुछ के लिए, यह प्रभाव पूरी तरह से रहस्यमय लग सकता है: “हम मौजूदा नमूने पर सन्निकटन में सुधार कर रहे हैं, इसके अलावा कोई डेटा नहीं है! यह वास्तव में क्यों खराब हो रहा है? " और किसी के लिए यह आम बात होगी: "यदि आप अपने मॉडल को डेटा में शोर के लिए फिट करने की कोशिश कर रहे थे तो आपको क्या उम्मीद थी?" हालांकि, इस समस्या के दृष्टिकोण की परवाह किए बिना, यह कहीं भी गायब नहीं होता है। यह एएनएन के मामले में स्वाभाविक रूप से खुद को प्रकट करता है। मशीन लर्निंग के क्षेत्र में यह समस्या सर्वव्यापी है: यह न केवल सन्निकटन और एक्सट्रपलेशन के लिए विशेषता है, बल्कि पैटर्न मान्यता, विभाजन, क्लस्टरिंग आदि के लिए भी है। मैं इससे कैसे निपट सकता हूं?

विभिन्न दृष्टिकोण यहां संभव हैं। तंत्रिका नेटवर्क के कुछ वर्गों के मामले में, प्रशिक्षण को विशेष रूप से तब तक बाधित किया जाता है जब तक कि एएनएन के पास डेटा को बहुत अधिक समायोजित करने का समय नहीं होता है (यहां तक ​​कि विशेष अनुमानी मानदंड विकसित किए गए हैं जो सीखने को रोकने के लिए सबसे उपयुक्त क्षण निर्धारित करते हैं)। इस संबंध में, इस घटना का एक दूसरा नाम है - ओवरलैटिंग। सरल शब्दों में, यह cramming है, जिसमें सिस्टम विशिष्ट उदाहरणों पर ध्यान केंद्रित करता है। यह खामी छात्र के सीखने की भी विशेषता है, यदि उनके प्रशिक्षण और उसकी गुणवत्ता का आकलन उसी परीक्षणों के अनुसार किया जाता है।

इस प्रभाव का मुकाबला करने का एक और सीधा तरीका क्रॉस-वेलिडेशन, या क्रॉस-वैलिडेशन के माध्यम से है, जिसका विचार प्रशिक्षण नमूने से नियंत्रण का चयन करना है। इसके अलावा, प्रशिक्षण नमूने के एक भाग में किया जाता है, और प्रशिक्षण की गुणवत्ता का मूल्यांकन दूसरे भाग में किया जाता है। यही है, चूंकि हम चाहते हैं कि हमारा समाधान उस डेटा पर अच्छा काम न करे जिस पर हमने इसे प्रशिक्षित किया है, लेकिन नए डेटा पर, इसे इस तरह से जांचें। इस दृष्टिकोण की अपनी कमियां हैं। सबसे पहले, प्रशिक्षण नमूने का आकार कम हो जाता है, और, इसलिए, निर्माणाधीन मॉडल की गुणवत्ता बिगड़ रही है। दूसरे, यह दृष्टिकोण अभी भी पीछे हटने का खतरा है, हालांकि कमजोर: नियंत्रण नमूना के संबंध में अप्रत्यक्ष रूप से एक अत्यधिक निकट फिट होता है (यह याद करने के लिए कि स्कूली बच्चों को प्रशिक्षित किए बिना विशेष लाभ के बिना एकीकृत राज्य परीक्षा में कैसे प्रशिक्षित किया जाता है)। इस प्रभाव को कमजोर करने के लिए, प्रशिक्षण के नमूने को कई भागों में विभाजित किया जाता है (कहते हैं, 10 से) और समाधान की गुणवत्ता को बारी-बारी से उनमें से विभिन्न पर परीक्षण किया जाता है, जो हालांकि, गणना के समय को बढ़ाता है और पहली कमियां निकालता है। और तीसरा, यह दृष्टिकोण शिक्षक के बिना सीखने पर लागू करना बहुत आसान नहीं है।

किसी भी मामले में, न तो प्रशिक्षण की शुरुआती रुकावट, न ही क्रॉस-वैरिफिकेशन, रिट्रेंसिंग की प्रकृति के बारे में सवाल का जवाब देता है और अजीब लगता है: यदि लंबे समय तक अध्ययन करना या सभी उपलब्ध जानकारी का उपयोग करना बुरा है, तो सीखने में ही कुछ गलत होना चाहिए। आइए इसे जानने की कोशिश करें। जब मॉडल स्थान बहुत बड़ा होता है, तो पुनरावृत्ति होती है, उदाहरण के लिए, किसी भी संख्या के न्यूरॉन्स के साथ मनमानी डिग्री या तंत्रिका नेटवर्क के बहुपदों का उपयोग किया जाता है (इस वजह से, कभी-कभी यह भी सुझाव दिया जाता है कि व्यवहार में ऐसे स्थान अर्थहीन हैं - वे बहुत "रचनात्मक स्वतंत्रता" हैं, और लोगों को पढ़ाने के दौरान यह अब फैशनेबल नहीं है)। तो, समस्या यह है कि बड़ी संख्या में मॉडलों में से सबसे अच्छा एक का चयन करें। इसे हल करने के लिए, मॉडल की गुणवत्ता के लिए कम से कम एक पर्याप्त मानदंड की आवश्यकता है।

संभाव्यता सिद्धांत रिट्रेस्टिंग की प्रकृति के उत्तर पर कुछ संकेत देता है। बायेसियन नियम के अनुसार, डेटा D का सबसे अच्छा मॉडल M अधिकतम पोस्टीरियर प्रायिकता P (M | D) वाला मॉडल होगा, जो इस मॉडल P (D | M) के लिए डेटा की संभावना के उत्पाद के लिए आनुपातिक है, मॉडल P (M) की एक प्राथमिक संभावना द्वारा गुणा किया जाता है:

P (M | D) ~ P (D | M) P (M)

यहां, जिस सटीकता के साथ मॉडल डेटा का वर्णन करता है वह संभावना से मेल खाता है, जो त्रुटियों के एक सामान्य वितरण (डेटा से मॉडल के विचलन) की धारणा के तहत, स्पष्ट रूप से मानक विचलन के संदर्भ में व्यक्त किया गया है। यदि आप केवल इसे अधिकतम करते हैं (अर्थात, अधिकतम संभावना विधि का उपयोग करते हैं), तो रिट्रेनिंग का प्रभाव उत्पन्न होता है। इसलिए, संभावना, बायेसियन नियम के अनुसार, कम सटीक चुनने के लिए, लेकिन मुकरने की संभावना नहीं है, मॉडल केवल एक प्राथमिकता संभावनाओं P (M) के साथ प्रदान किया जा सकता है ।

सांख्यिकीय व्युत्पत्ति में एक प्राथमिकताओं की समस्या मूलभूत है। आखिरकार, ये संभावनाएं एक प्राथमिकता हैं, अर्थात्, उन्हें डेटा प्राप्त होने से पहले चमत्कारिक रूप से निर्धारित किया जाना चाहिए। यदि हमारे पास कई डेटा सेट हैं, तो मॉडल की एक प्राथमिकताओं की संभावना है कि कुछ विशेष मनमाने सेट के लिए एक विशेष मॉडल सबसे अच्छा होगा। लेकिन यह केवल कार्य को जटिल बनाता है: आखिरकार, जब कई डेटा सेटों में से एक प्राथमिकताओं की संभावनाओं का निर्धारण करते हैं, तो हमें फिर से कुछ प्राथमिकताओं की आवश्यकता होती है ताकि कोई पुनरावृत्ति न हो। और इसी तरह। हालांकि हमें पता चला कि पूर्व-निर्धारण की संभावनाओं को स्थापित करने की समस्या से जुड़े हुए हैं, लेकिन यह अभी तक आसान नहीं है।

हालांकि, एक दिलचस्प अवलोकन किया जा सकता है अगर हम बेयस नियम का प्रचार करते हैं और इसके बाद की संभावना को अधिकतम करने के बजाय, इसे घटाते हैं।

-Log ₂ P (M | D) ~ –log ₂ P (D | M) - log ₂ P (M)

संभाव्यता का लघुगणक केवल जानकारी की मात्रा है, जिसके साथ मॉडल में जानकारी की मात्रा ₂ P (M) है (बिट्स में इसके विवरण की लंबाई), और –log ₂ P (D | M) डेटा में अतिरिक्त मात्रा की जानकारी है, यदि मौजूदा मॉडल (वास्तव में, मॉडल से डेटा के विचलन के विवरण की लंबाई, इसकी सटीकता की विशेषता)। यदि हम संभावनाओं के माध्यम से जानकारी की मात्रा की गणना करने के तरीके से विचलित होते हैं, तो हम निम्नलिखित देख सकते हैं। मॉडल में जानकारी की मात्रा इसकी जटिलता है। कहते हैं, हमारे बहुपद या न्यूरॉन्स के जितने अधिक सदस्य और एएनएन में उनके बीच संबंध हैं, उतने बिट्स ऐसे मॉडल को कोड करने पर खर्च होंगे।

मॉडल की जटिलता और इसकी सटीकता के बीच एक समझौता खोजने की आवश्यकता न्यूनतम विवरण लंबाई के सिद्धांत में व्यक्त की गई है, जो बताता है कि सबसे अच्छा मॉडल एक मॉडल है जिसके लिए मॉडल से डेटा के विचलन की न्यूनतम विवरण लंबाई (या मॉडल का उपयोग करके डेटा एन्कोडिंग) और मॉडल की जटिलता स्वयं प्राप्त की जाती है। इस सिद्धांत को कभी-कभी ओकैम के रेजर नियम की औपचारिकता कहा जाता है, जिसने लंबे समय से संकेत दिया है कि संस्थाओं को आवश्यकता से परे नहीं बनाया जाना चाहिए।

यहां यह महत्वपूर्ण है कि मॉडल की जटिलता को सीधे माना जा सकता है, न कि अपनी प्राथमिकताओं के माध्यम से। वास्तव में, संभावना की अवधारणा को जानकारी की अवधारणा (और सूचना सिद्धांत से व्युत्पन्न संभाव्यता सिद्धांत, और इसके विपरीत नहीं) का परिचय देने का एक सही अवसर है, और इस तरह प्रायिकता सिद्धांत और शास्त्रीय (शैनन) सिद्धांत में निहित कई मूलभूत समस्याओं को हल करना है। सूचना सिद्धांत। लेकिन यह एक और चर्चा का विषय है।

तो, मॉडल की प्राथमिकता प्राथमिकता कम होनी चाहिए, इसकी जटिलता जितनी अधिक होगी। अभ्यास में जटिलता के लिए इस तरह के ठीक मॉडल, रिट्रेनिंग के प्रभाव को खत्म करने के अन्य तरीकों के लिए एक अच्छा विकल्प है। जब कोई मॉडल बहुत जटिल होता है, तब रिट्रीटिंग होती है। मॉडल जितना सरल है, उतना ही सामान्य है। जाहिर है, रिट्रेनिंग अपर्याप्त सामान्यीकरण के साथ जुड़ा हुआ है। यह सामान्यीकरण की कमी है जो परीक्षणों में cramming या फिटिंग प्रशिक्षण में शिक्षा की खराब गुणवत्ता का कारण है। बेशक, एक और चरम, एक सरल मॉडल का उपयोग करते समय वे त्रुटियों या तथ्य यह है कि मॉडल को सरल नहीं करता है ("सेक नहीं करता") डेटा के बावजूद, बहुत अधिक वर्णन करने का प्रयास करते हैं। सूचना मानदंड आपको सही समझौता खोजने की अनुमति देता है।

हालांकि, मशीन सीखने की सामान्य समस्या अभी भी हल नहीं हुई है। सही सामान्यीकरण की असंभवता इस तथ्य के कारण हो सकती है कि वांछित मॉडल बस इस्तेमाल किए गए मॉडल स्थान में मौजूद नहीं है।
आइए हम बहुपद सन्निकटन के साथ उदाहरण पर लौटते हैं। यदि बहुपद हमारे लिए सही मॉडल है, तो सब कुछ ठीक हो जाएगा - विवरण की लंबाई के लिए मानदंड हमें मापदंडों की इष्टतम संख्या के साथ एक बहुपद चुनने की अनुमति देगा, सर्वोत्तम (उपलब्ध डेटा के साथ) भविष्यवाणी प्रदान करता है। लेकिन कुछ अन्य फ़ंक्शन का उपयोग करके डेटा उत्पन्न होने पर क्या होता है? क्या यह हमें बचाएगा कि यह फ़ंक्शन, सिद्धांत रूप में, कुछ बहुपद द्वारा अनुमानित किया जा सकता है?

उदाहरण के लिए, घातांक को लें। यह प्रपत्र xn / n के कई शब्दों द्वारा वर्णित है ! लेकिन इस श्रृंखला में अनंत संख्या में सदस्य हैं। और अंकों का चयन परिमित होगा, इसलिए पुनर्गठित बहुपद में भी परिमित डिग्री होगी। इसका मतलब यह है कि एक्सट्रपलेशन के दौरान त्रुटि वैसे भी बहुत जल्दी जमा हो जाएगी, और कोई भी मानदंड अब हमारी मदद नहीं करेगा। समान रूप से, यदि डेटा में एक हार्मोनिक निर्भरता होती है, तो इसे बहुपदों या घातांक द्वारा अच्छी तरह से एक्सट्रपलेशन नहीं किया जाएगा जिसकी परिमित श्रृंखला आवधिक नहीं हो सकती है। बेशक, कुछ प्रकार की निर्भरताएं अन्य प्रकारों से बेहतर या बदतर हो सकती हैं, लेकिन हम यह कह सकते हैं कि यदि हमारे मॉडल स्थान में डेटा में निहित निर्भरता के प्रकार बिल्कुल नहीं हैं, तो हमें सबसे अच्छी भविष्यवाणी नहीं मिलेगी।

इसे न केवल भविष्यवाणी के बारे में कहा जा सकता है, बल्कि, मान्यता के बारे में भी कहा जा सकता है। मान्यता के मामले में, यह समस्या सबसे स्पष्ट रूप से आक्रमणकारियों की समस्या में प्रकट होती है। यदि एक निश्चित वर्ग के कुछ चित्र एक निश्चित अपरिवर्तनीय को संतुष्ट करते हैं, तो मान्यता प्रणाली का काम काफी अच्छा नहीं होगा यदि यह बिल्कुल इस अपरिवर्तनीय को नहीं सीख सकता है। विशेष रूप से, यही कारण है कि छवि पहचान के लिए तंत्रिका नेटवर्क को या तो आवश्यकता होती है कि उन्हें तुरंत उन संकेतों के साथ प्रस्तुत किया जाए जो छवियों के ज्यामितीय परिवर्तनों के लिए अपरिवर्तनीय हैं, या विशाल आकारों के नमूनों की आवश्यकता होती है। इसलिए, यदि प्रशिक्षण के दौरान एक अवधारणकर्ता छवि के एक हिस्से में पहचानने योग्य वस्तुओं को प्रस्तुत करता है, तो वह उन्हें पहचान नहीं पाएगा यदि वे छवि के दूसरे भाग में प्रस्तुत किए जाते हैं।

यह वास्तव में इस तरह की आलोचना की गई थी कि मिर्स्की और पैपर्ट की प्रसिद्ध पुस्तक में शामिल थे: वे नॉनोकल इनवेरिएंट्स (एक उपयुक्त सामान्यीकरण प्रदर्शन) का निर्माण करने में सक्षम नहीं हैं और अपने सभी रूपों में छवि को जानने के लिए घातीय बड़े आकार के प्रशिक्षण नमूने की आवश्यकता होती है। यहां तक ​​कि अगर परसेप्ट्रोन एक ही समय में पीछे नहीं हटते हैं, तो वे प्रभावी प्रशिक्षण के मुख्य लक्ष्य को प्राप्त नहीं करते हैं - अंतर्निहित पैटर्न की पहचान करना जो पहले सामने नहीं आए किसी स्वरूप में छवियों की भविष्यवाणी या मान्यता की अनुमति देता है।

मनमाने ढंग से प्रजातियों के नियमों को व्यक्त करने में असमर्थता, स्वाभाविक रूप से, न केवल विशिष्ट ANN आर्किटेक्चर की विशेषता है, बल्कि अन्य मशीन सीखने के तरीकों की भी है। वे सभी कुछ सीमित तरीकों का प्रतिनिधित्व करते हैं, उदाहरण के लिए, आधार कार्यों के विशिष्ट परिवार के रूप में, जिस पर अपघटन किया जाता है। उपयोग करते समय प्रतीकात्मक सीखने के बारे में भी यही कहा जा सकता है, उदाहरण के लिए, निर्णय पेड़ या नियम सेट। ज्ञान के आधार पर जटिल प्रणालियों में, इस समस्या को हल किया जा सकता है, लेकिन इसे हल नहीं किया जा सकता है।

विभिन्न तरीकों को संयोजित करने का प्रयास करना स्वाभाविक है जो डेटा में विभिन्न संभावित पैटर्न को ध्यान में रखते हैं। और यह दृष्टिकोण वास्तव में अभी काफी लोकप्रिय है। हालांकि, गैर-सार्वभौमिक तरीकों का एक सरल संयोजन केवल उनकी क्षमताओं को थोड़ा बढ़ाता है, क्योंकि मैन्युअल रूप से डेवलपर्स केवल पैटर्न के विभिन्न परिवारों की अपेक्षाकृत कम संख्या में लेट सकते हैं।
लेकिन क्या मशीन लर्निंग सिस्टम में किसी भी संभावित नियमितताओं की पहचान करने की क्षमता रखना संभव है? क्या ऐसी कोई जगह है जिसमें विशेष रूप से डेवलपर द्वारा अग्रिम रूप से प्रदान नहीं किए जाने वाले मनमाने पैटर्न को रचनात्मक रूप से वर्णित किया जाएगा? ऐसा कोई स्थान ही नहीं है; यह भी सर्वविदित है। यह एल्गोरिदम का स्थान है।

घातीय निर्भरता को पुन: उत्पन्न करना चाहते हैं? इस तरह के एक एल्गोरिथ्म का निर्माण करना मुश्किल नहीं है। बहुपद, हार्मोनिक फ़ंक्शन, फाइबोनैचि अनुक्रम, फैक्टरियल की तलाश है? ऐसे एल्गोरिदम हैं। सम और विषम संख्या वर्गों को पहचानने की आवश्यकता है? उपयुक्त एल्गोरिथ्म का उपयोग करना आसान है! अब सोचिए कि एएनएन की मदद से इन सभी समस्याओं को एक साथ हल करना कितना सरल होगा।स्वाभाविक रूप से, तुलनात्मक रूप से सही होने के लिए, हमें एक ऐसी विधि की आवश्यकता होती है, जो संबंधित प्रशिक्षण नमूने की प्रस्तुति पर इन सभी एल्गोरिदम का निर्माण करे। लेकिन यहां हमारे लिए मुख्य बात यह है कि एल्गोरिदम के स्थान में, कम से कम, ऐसी सभी समस्याओं के लिए उपयुक्त समाधान हैं।

, , , . , , . « » . , , (, , , habrahabr.ru/post/145929 ). , . « » , .

, . . , , ( , «» ), , , .

, ( ) . 1964- . , , . , . , , , , . , ( ) . , , , . – .