जेफरी हिंटन की टीम ने दो गुना लाभ के साथ इमेजनेट कंप्यूटर विजन प्रतियोगिता जीती

ImageNet प्रतियोगिता अक्टूबर 2012 में हुई और तस्वीरों में वस्तुओं के वर्गीकरण के लिए समर्पित थी। प्रतियोगिता को 1000 श्रेणियों में पैटर्न की पहचान की आवश्यकता थी।

हिंटन की टीम ने डीप लर्निंग मेथड्स और कन्वेन्शनल न्यूरल नेटवर्क्स का इस्तेमाल किया , साथ ही जेफ डीन और एंड्रयू एनजी के नेतृत्व में गूगल ने जो इन्फ्रास्ट्रक्चर तैयार किया। मार्च 2013 में, Google ने टोरंटो विश्वविद्यालय में स्थित एक Hinton स्टार्टअप में निवेश किया, जिससे प्रौद्योगिकी के सभी अधिकार प्राप्त हुए। छह महीनों के दौरान, photos.google.com की फोटो खोज सेवा विकसित की गई है।

यह सेवा 1990 के दशक के उत्तरार्ध में प्रोफेसर जान लेकुं द्वारा मूल रूप से विकसित तंत्रिका नेटवर्क का उपयोग करती है। फिर भी, इस तकनीक ने हस्तलिपि पहचान की समस्याओं को मज़बूती से हल करना संभव बना दिया। तब से, कंप्यूटर की शक्ति में काफी वृद्धि हुई है, और तंत्रिका नेटवर्क के बड़े पैमाने पर प्रशिक्षण के लिए नए एल्गोरिदम दिखाई दिए हैं।

तकनीकी बुनियादी ढांचे के लिए, मैंने आंशिक रूप से इसे लेख में वर्णित किया है। शिक्षक के बिना शिक्षण पर बड़े पैमाने पर प्रयोग की मदद से उच्च-स्तरीय विशेषताओं का गठन । एक विस्तृत विवरण के लिए, लेख (पीडीएफ) देखें , और मैं खुद को कुछ आंकड़ों तक सीमित करूंगा। स्थानीय रूप से जुड़े नेटवर्क के उपयोग के माध्यम से, द्वि-आयामी छवियों को संसाधित करने के लिए विशेषता, एक बड़े तंत्रिका नेटवर्क के प्रशिक्षण के लिए, कुल 512 कोर के लिए प्रत्येक में 16 कोर के साथ 32 कंप्यूटर तक कुशलता से उपयोग करना संभव है। वितरित अनुकूलन एल्गोरिदम के उपयोग और प्रशिक्षित मापदंडों की प्रतिकृति के कारण, प्रभावी ढंग से काम करने वाले समानांतर प्रोसेसर कोर की संख्या को हजारों में लाया जा सकता है!

विशेष रूप से, इमेजनेट प्रतियोगिता जीतने वाले नेटवर्क के प्रशिक्षण के लिए, 100x100 पिक्सेल की 16 मिलियन छवियों का उपयोग किया गया था। तंत्रिका नेटवर्क की आउटपुट परत में 21,000 "सभी में से एक" लॉजिस्टिक क्लासिफायरियर शामिल थे। अनुकूलित मापदंडों (तंत्रिका नेटवर्क वजन) की कुल संख्या 1.7 बिलियन थी। प्रशिक्षण के लिए 81 मशीनों का उपयोग किया गया - लगभग 1300 कोर।
Google द्वारा एक वर्ष से भी कम समय पहले हासिल की गई शैक्षणिक तकनीकों के कार्यान्वयन ने कम से कम समय में अचिह्नित छवियों के लिए एक नायाब खोज सेवा विकसित करना संभव बना दिया। यहां कुछ दिलचस्प परिणाम दिए गए हैं:

सामान्यकरण

प्रशिक्षण और परीक्षण के नमूनों में छवियों के बीच महत्वपूर्ण अंतर के बावजूद, खोज इंजन सामान्यीकरण के साथ काफी अच्छी तरह से मुकाबला करता है। उदाहरण के लिए, "फूल" की अवधारणा को सिखाने के लिए, फूलों की मैक्रो तस्वीरों का उपयोग किया जा सकता है, एक आदर्श रचना के साथ जिसमें फ्रेम के केंद्र में एक एकल फूल शामिल था। एक प्रशिक्षित नेटवर्क शौकिया तस्वीरों में मनमानी रचना और पैमाने के साथ फूल पाता है।

एक प्रशिक्षण सेट से एक फूल की छवि

वह छवि जिसमें सिस्टम ने फूलों का पता लगाया था

मल्टीमॉडल क्लासेस

नेटवर्क छवि वर्गों को पहचानने में सक्षम था जो दिखने में काफी भिन्न होते हैं। उदाहरण के लिए, सिस्टम कार के बाहरी और आंतरिक दोनों को "कार" वर्ग के रूप में वर्गीकृत करता है। आउटपुट लेयर में अनिवार्य रूप से रैखिक क्लासिफायर का उपयोग किया जाता है जो कि सुविधाओं के बहुआयामी स्थान को अलग करते हैं क्योंकि यह सब और अधिक आश्चर्यजनक है।

सार अवधारणाओं का वर्गीकरण

इस तरह के "नृत्य", "चुंबन", "खाना" के रूप में सार या अत्यधिक सामान्यीकृत वर्गों के साथ प्रणाली copes। यह दिलचस्प है क्योंकि रंग, बनावट या आकार जैसी सरल अवधारणाएं ऐसी अवधारणाओं के लिए स्पष्ट नहीं हैं।

इन छवियों पर भोजन का पता चला

सार्थक गलतियाँ

कई कंप्यूटर दृष्टि प्रणालियों के विपरीत, जब किसी दिए गए सिस्टम को गलत किया जाता है, तो इसकी त्रुटियां काफी उचित लगती हैं। इस तरह की गलतियाँ मनुष्य द्वारा अच्छी तरह से की जा सकती हैं - उदाहरण के लिए मोलस्क (साँप) या गधे (कुत्ते) का गलत वर्गीकरण देखें।

केले के टुकड़े को गलती से सांप के रूप में पहचाना जाता है

गधा गलती से कुत्ते के रूप में पहचाना जाने लगा

अति विशिष्ट वर्गों की मान्यता

प्रणाली बहुत विशिष्ट वर्गों को पहचानने में सक्षम थी, उदाहरण के लिए, रंगों के प्रकार (हिबिस्कस, आदि) एक प्रणाली के लिए जो व्यापक अवधारणाओं को पहचान सकती है, जैसे "डॉन", सूक्ष्म संकेतों का वर्गीकरण अद्भुत है।

प्रणाली ने निर्धारित किया कि यह एक ध्रुवीय भालू था ...

... और यह एक ख़ाकी भालू है