अनुशंसित सिस्टम: एसवीडी और बुनियादी भविष्यवक्ता

पिछली बार जब मैंने बात की थी, तो अब तक के सबसे सामान्य शब्दों में, एकवचन अपघटन के बारे में - आधुनिक सहयोगी फ़िल्टरिंग का मुख्य उपकरण। हालांकि, पिछली बार हमने ज्यादातर सामान्य गणितीय तथ्यों के बारे में ही बात की थी: एसवीडी एक बहुत ही अच्छी चीज है जो अच्छी-रैंकिंग रैंकिंग देती है। आज हम एसवीडी के बारे में बात करना जारी रखेंगे और चर्चा करेंगे कि वास्तव में, इस सभी गणित का उपयोग कैसे करें।


और फिर से, दूर से शुरू करते हैं: यह देखें कि एक उत्पाद की रेटिंग क्या होगी। सबसे पहले, यह अच्छी तरह से हो सकता है कि उपयोगकर्ता दयालु है और सभी को अच्छी रेटिंग देता है; या, इसके विपरीत, गुस्सा और रेटिंग चुटकी। यदि आप इस मूल कारक को ध्यान में नहीं रखते हैं, तो कुछ भी काम नहीं करेगा - औसत के लिए समायोजन के बिना, विभिन्न उपयोगकर्ताओं की रेटिंग की तुलना नहीं की जा सकती। दूसरी ओर, कुछ उत्पाद दूसरों की तुलना में बेहतर हैं (या कम से कम बेहतर प्रचारित), और इसे भी इसी तरह से ध्यान में रखा जाना चाहिए।

इसलिए, हम तथाकथित आधारभूत भविष्यवक्ताओं की शुरुआत करके शुरू करेंगे व्यक्तिगत उपयोगकर्ताओं के मूल भविष्यवक्ताओं से मिलकर बनता है और व्यक्तिगत उत्पादों के मूल भविष्यवक्ता , साथ ही आधार μ के लिए बस औसत औसत रेटिंग:

यदि हम केवल मूल भविष्यवक्ताओं को खोजना चाहते हैं, तो हमें ऐसे μ ढूंढने होंगे, और जिसके लिए सर्वश्रेष्ठ अनुमानित मौजूदा रेटिंग।

फिर वास्तविक कारकों को जोड़ना संभव होगा - अब जब हमने मूल भविष्यवक्ताओं के लिए एक समायोजन किया है, तो अवशिष्ट एक दूसरे के लिए तुलनीय होंगे, और हम उचित कारक प्राप्त करने की उम्मीद कर सकते हैं:

जहाँ उत्पाद का प्रतिनिधित्व करने वाले कारकों का वेक्टर है , और उपयोगकर्ता का प्रतिनिधित्व करने वाले कारकों का एक वेक्टर है i ।

ऐसा लग सकता है कि उदाहरण के लिए, मूल भविष्यवक्ता काफी सरल हैं: चलो बस पूरे डेटाबेस के लिए औसत रेटिंग की गणना करते हैं , इसे μ के रूप में लें, फिर इसे प्रत्येक रेटिंग से घटाएं और औसत रेटिंग की गणना करें उपयोगकर्ताओं द्वारा और उत्पादों द्वारा। हालांकि, इन भविष्यवाणियों पर इस तरह से विचार करना गलत होगा: वास्तव में, वे एक-दूसरे पर निर्भर करते हैं, और उन्हें एक साथ अनुकूलित किया जाना चाहिए।

अब हम मूल समस्या पर लौट सकते हैं और इसे ठीक-ठीक बता सकते हैं: हमें सबसे अच्छे भविष्यवक्ताओं को खोजने की आवश्यकता है जो अनुमानित हैं


"सर्वश्रेष्ठ" का क्या अर्थ है? इस प्रश्न के उत्तर का पहला अनुमान इस प्रकार है: "सर्वश्रेष्ठ" वे हैं जो उपलब्ध आंकड़ों पर कम से कम गलतियाँ करते हैं। त्रुटि कैसे निर्धारित करें? उदाहरण के लिए, आप विचलन के वर्गों को जोड़ सकते हैं (वैसे, वर्गों को क्यों? हम इस बारे में अगली श्रृंखला में भी बात करेंगे) उन रेटिंगों के लिए जिन्हें हम पहले से जानते हैं:


लेकिन इस तरह के फ़ंक्शन को कम से कम कैसे करें? हां, यह बहुत सरल है - ढाल वंश द्वारा: हम प्रत्येक तर्क के संबंध में आंशिक डेरिवेटिव लेते हैं और इन आंशिक डेरिवेटिव की दिशा के विपरीत दिशा में आगे बढ़ते हैं। त्रुटि फ़ंक्शन एक द्विघात सतह है, इसलिए कोई आश्चर्य नहीं है कि हमें यहां इंतजार है।

हालाँकि, अगर हम अब प्राप्त त्रुटि फ़ंक्शन L से ग्रेडिएंट डिसेंट के लिए फॉर्मूला लिखते हैं और लागू करते हैं, तो असली डेटासेट पर व्यावहारिक परिणाम हमें खुश करने की संभावना नहीं है। भविष्यवाणियों और कारकों के अच्छे मूल्यों को प्रशिक्षित करने के लिए, आम तौर पर बोलना, मशीन सीखने की अन्य महत्वपूर्ण अवधारणाओं को समझना अच्छा होगा - ओवरफिटिंग और नियमितीकरण , और अगली श्रृंखला में से एक में हम इसे अभ्यास में देखेंगे। इस बीच, बस विश्वास करो कि आपको अभी भी प्रशिक्षित चर के बड़े मूल्यों के लिए ठीक करने की आवश्यकता है; उदाहरण के लिए, आप त्रुटि समारोह में सभी कारकों और भविष्यवाणियों के वर्गों का योग जोड़ सकते हैं।

परिणामस्वरूप, त्रुटि फ़ंक्शन जैसा दिखता है

जहां λ नियमितकरण पैरामीटर है।

यदि हम प्रत्येक अनुकूलित चर के लिए इसमें से आंशिक व्युत्पन्न लेते हैं, तो हम (स्टोकेस्टिक) क्रमिक वांछनीय के लिए सरल नियम प्राप्त करते हैं:

सभी के लिए, जहाँ इस परीक्षण उदाहरण में त्रुटि है, और test सीखने की दर है। इस मॉडल को SVD ++ कहा जाता है, और यह वह थी जिसने नेटफ्लिक्स पुरस्कार में विजेता मॉडल का आधार बनाया (हालांकि, निश्चित रूप से, वह अकेले नहीं जीत सकती थी - हम बाद में उसके बारे में भी बात करेंगे, और क्या करना है)।

अगली बार मैं एक विशिष्ट उदाहरण का विश्लेषण करने का प्रयास करूंगा: एसवीडी को प्राथमिकता मैट्रिक्स पर लागू करें, विश्लेषण करें कि क्या होता है, मुख्य कठिनाइयों को उजागर करें। मुझे उम्मीद है कि यह दिलचस्प होगा!