मशीन सीखने के लिए तंत्रिका नेटवर्क के विकास में प्रगति

हाल ही के वर्षों में स्व-शिक्षण तंत्रिका नेटवर्क के लिए एल्गोरिदम के डेवलपर्स द्वारा प्रकाशित महत्वपूर्ण सफलता पर एक लेख एनवाई टाइम्स फ्राइडे के अंक में प्रकाशित किया गया है। गहरी संरचनाओं में, कई छिपी हुई परतें होती हैं जिन्हें पारंपरिक रूप से प्रशिक्षित करना मुश्किल होता है। लेकिन यह सब पूर्व प्रशिक्षण के लिए बोल्ट्जमैन मशीनों (आरबीएम) के ढेर का उपयोग करके बदल गया। उसके बाद, आप बैकप्रॉपैगमेंटेशन विधि का उपयोग करके आसानी से वज़न को पुनः कॉन्फ़िगर कर सकते हैं। साथ ही, तेजी से जीपीयू के आगमन - यह सब महत्वपूर्ण प्रगति का कारण बना है जो हमने हाल के वर्षों में देखा है।

खुद डेवलपर्स उच्च-नेटवर्क स्टेटमेंट नहीं बनाते हैं ताकि तंत्रिका नेटवर्क के आसपास हलचल न बढ़े - जैसे कि 1960 के दशक में यह साइबरनेटिक्स के आसपास बढ़ गया था। फिर भी, कोई इस क्षेत्र में अनुसंधान में रुचि के पुनरुद्धार की बात कर सकता है।

तंत्रिका नेटवर्क पर अनुसंधान 1960 के दशक में सक्रिय रूप से किया गया था, फिर यह क्षेत्र कुछ समय के लिए छाया में चला गया। लेकिन 2011-2012 में, भाषण मान्यता, कंप्यूटर दृष्टि और कृत्रिम बुद्धि के क्षेत्रों में कई उत्कृष्ट परिणाम दिखाए गए थे। यहाँ कुछ हालिया सफलताएँ हैं:

• 2011 में, लूगानो विश्वविद्यालय से स्विस एआई लैब द्वारा बनाए गए एक कार्यक्रम ने सड़क के संकेतों को पहचानने की प्रतियोगिता जीती। जर्मन सड़क संकेतों की 50 हजार छवियों के आधार पर, इसने 99.46% का परिणाम दिखाया, न केवल अन्य कार्यक्रमों से आगे, बल्कि प्रतियोगिता में भाग लेने वाले 32 लोगों में से सर्वश्रेष्ठ (99.22%) भी। लोगों के लिए औसत 98.84% था। स्विस एआई लैब के तंत्रिका नेटवर्क ने अन्य प्रतियोगिताओं को भी जीता, जिसमें हस्तलिखित चीनी पात्रों की सबसे सटीक पहचान शामिल थी।

• 2012 की गर्मियों में, Google विशेषज्ञों ने स्व-सीखने वाले तंत्रिका नेटवर्क के लिए 16 हजार कंप्यूटरों का एक समूह बनाया, जो 20 हजार वस्तुओं के अनुरूप 14 मिलियन चित्रों के आधार पर प्रशिक्षित हुआ। हालांकि मान्यता सटीकता बहुत अधिक (15.8%) नहीं है, लेकिन यह समान उद्देश्य की पिछली प्रणालियों की तुलना में बहुत अधिक है।

• अक्टूबर 2012 में, पहली बार, तंत्रिका नेटवर्क का उपयोग करने वाले एक कार्यक्रम ने नई दवाओं को विकसित करने के लिए सांख्यिकीय गतिविधि विश्लेषण के लिए मर्क आणविक गतिविधि चुनौती सॉफ्टवेयर प्रतियोगिता जीती। यह एक प्रसिद्ध तंत्रिका नेटवर्क विशेषज्ञ प्रोफेसर जेफ्री ई। हिंटन के निर्देशन में टोरंटो विश्वविद्यालय की एक टीम द्वारा विकसित किया गया था।

• नवंबर 2012 में, माइक्रोसॉफ्ट रिसर्च यूनिट के निदेशक ने भाषण में मान्यता के प्रभावशाली प्रदर्शन के साथ चीन में माइक्रोसॉफ्ट रिसर्च एशिया की 21 वीं शताब्दी कम्प्यूटिंग में बात की, साथ ही चीनी और वास्तविक समय में दूसरी भाषा संश्लेषण में अपनी आवाज में अनुवाद)।

ऐसा माना जाता है कि यह उक्त जेफरी हिंटन थे जिन्होंने 1969 में आविष्कार किए गए प्रशिक्षण नेटवर्क , बैकप्रॉपैजेशन विधि के क्षेत्र में शुरुआत की थी, लेकिन इसके काम से पहले बहुत कम लोग जानते थे।

तंत्रिका नेटवर्क के प्रशिक्षण में एक सफलता 2006 में हिंटन और उनके सहयोगी रुसलान सलाखुद्दीनोव द्वारा "वैज्ञानिकता के साथ डेटा की आयामीता को कम करना " के एक वैज्ञानिक लेख के प्रकाशन के बाद हुई। वहां उन्होंने एक तंत्रिका नेटवर्क के पूर्व-प्रशिक्षण के लिए एक तकनीक का वर्णन किया और फिर बोल्ट्जमैन मशीनों (आरबीएम) और बैकप्रोपैजेशन विधि के ढेर का उपयोग करके इसे ठीक किया। योजना के अनुसार, इस तकनीक को चित्रण में दिखाया गया है।



मार्क वॉटसन ने अपने ब्लॉग में इस क्षेत्र में सीखने के लिए उपयोगी संसाधनों के कुछ लिंक पोस्ट किए।

1. कोर्टसेरा पर मशीन लर्निंग के लिए तंत्रिका नेटवर्क पर Hinton का ऑनलाइन कोर्स।
2. डीप लर्निंग ट्यूटोरियल , एक बहुत बड़ी प्रस्तुति (पीडीएफ, 184 स्लाइड), जो सभी आवश्यक सैद्धांतिक आधार, गणित और पायथन कोड उदाहरण प्रदान करता है।