👩🏾‍⚕️ 💕 📤 हम कंप्यूटर को इंद्रियों (रूसी में भावुक विश्लेषण) सिखाते हैं 🗯️ 🧚🏿 🧑🏼‍🤝‍🧑🏼

सेंटीमेंट विश्लेषण (रूसी में, टॉन्सिलिटी विश्लेषण) कंप्यूटर भाषा विज्ञान का एक क्षेत्र है जो पाठ दस्तावेजों में राय और भावनाओं का अध्ययन करता है। हाल ही में, टोनिंगिटी का विश्लेषण करने के लिए मशीन लर्निंग के उपयोग के बारे में हब पर एक लेख दिखाई दिया, हालांकि, यह इतना खराब रूप से तैयार किया गया था कि मैंने अपना संस्करण लिखने का फैसला किया। इसलिए, इस लेख में मैं एक सुलभ तरीके से समझाने की कोशिश करूंगा कि टॉन्सिलिटी का विश्लेषण क्या है, और रूसी भाषा के लिए इसी तरह की प्रणाली को कैसे लागू किया जाए।

मुख्य विश्लेषण

टॉन्सिलिटिस के विश्लेषण का उद्देश्य पाठ में राय खोजना और उनके गुणों का निर्धारण करना है। कार्य के आधार पर, हमें विभिन्न गुणों में रुचि हो सकती है, उदाहरण के लिए:

लेखक - जो इस राय का मालिक है
विषय - राय में क्या कहा गया है
आज की रात - उल्लेखित विषय के बारे में लेखक की स्थिति (आमतौर पर "सकारात्मक" या "नकारात्मक")

: "        –      ,       », —   " :   : "  " : ""

साहित्य में, राय के मॉडल को औपचारिक बनाने के लिए अलग-अलग तरीके हैं। मैंने उनमें से एक उदाहरण के रूप में उद्धृत किया। विभिन्न शब्दावली का भी उपयोग किया जाता है। अंग्रेजी में, अनुसंधान के इस क्षेत्र को आमतौर पर राय खनन और भावना विश्लेषण के रूप में संदर्भित किया जाता है (शाब्दिक रूप से: " राय मांगना और भावनाओं का विश्लेषण करना ")। रूसी लेखों में आमतौर पर "टॉन्सिलिटी एनालिसिस" शब्द का इस्तेमाल किया जाता है। इस तथ्य के बावजूद कि आज की रात राय की विशेषताओं में से केवल एक है, यह टॉन्सिलिटी को वर्गीकृत करने का कार्य है जो आजकल सबसे अधिक अध्ययन किया जाता है। इसके कई कारण हैं:

लेखक और विषय की परिभाषा आज की रात के वर्गीकरण की तुलना में बहुत अधिक कठिन है, इसलिए यह पहले एक सरल समस्या को हल करने के लिए समझ में आता है, और फिर बाकी पर स्विच करें।
कई मामलों में, हमें केवल टॉन्सिलिटी निर्धारित करने की आवश्यकता है, क्योंकि अन्य विशेषताएँ हमें पहले से ही ज्ञात हैं। उदाहरण के लिए, यदि हम ब्लॉग से राय एकत्र करते हैं, तो आमतौर पर राय के लेखक पदों के लेखक होते हैं, अर्थात्। हमें लेखक की पहचान करने की आवश्यकता नहीं है। इसके अलावा, हम अक्सर एक विषय को पहले से ही जानते हैं: उदाहरण के लिए, यदि हम ट्विटर पर "विंडोज 8" कीवर्ड पर खोज करते हैं, तो हमें केवल हमारे द्वारा पाए जाने वाले ट्वीट की टोन को निर्धारित करने की आवश्यकता है। बेशक, यह सभी मामलों में काम नहीं करता है, लेकिन केवल उनमें से ज्यादातर में। लेकिन इन मान्यताओं से पहले से ही कठिन काम को आसान करना संभव हो जाता है।

आज रात के विश्लेषण से विभिन्न क्षेत्रों में इसके व्यावहारिक अनुप्रयोग का पता चलता है:

समाजशास्त्र - हम सामाजिक से डेटा एकत्र करते हैं। नेटवर्क (जैसे धार्मिक विश्वास)
राजनीतिक विज्ञान - हम आबादी के राजनीतिक विचारों पर ब्लॉग से डेटा एकत्र करते हैं
मार्केटिंग - हम यह पता लगाने के लिए ट्विटर का विश्लेषण करते हैं कि कौन सा लैपटॉप मॉडल सबसे अधिक मांग में है
दवा और मनोविज्ञान - हम सामाजिक सेवाओं के उपयोगकर्ताओं के बीच अवसाद को परिभाषित करते हैं। नेटवर्किंग

कुंजी वर्गीकरण दृष्टिकोण

टॉन्सिलिटी का विश्लेषण आमतौर पर कंप्यूटर भाषा विज्ञान के कार्यों में से एक के रूप में परिभाषित किया गया है, अर्थात्। यह निहित है कि हम प्राकृतिक भाषा प्रसंस्करण टूल (जैसे टैगर्स, पार्सर, आदि) का उपयोग करके टॉन्सिलिटी को पा सकते हैं और वर्गीकृत कर सकते हैं। एक बड़े सामान्यीकरण के बाद, हम मौजूदा दृष्टिकोणों को निम्नलिखित श्रेणियों में विभाजित कर सकते हैं:

नियम आधारित दृष्टिकोण
शब्दकोश आधारित दृष्टिकोण
एक शिक्षक के साथ मशीन सीखना
बिना शिक्षक के मशीन सीखना

पहले प्रकार की प्रणाली में नियमों का एक सेट शामिल होता है , जिसे लागू करने से सिस्टम पाठ की टोन के बारे में निष्कर्ष निकालता है। उदाहरण के लिए, "मुझे कॉफी पसंद है" वाक्य के लिए, आप निम्नलिखित नियम लागू कर सकते हैं:

   ("")      ("", "", "" ...)      ,     ""

कई वाणिज्यिक प्रणालियां इस दृष्टिकोण का उपयोग करती हैं, इस तथ्य के बावजूद कि यह महंगा है, क्योंकि सिस्टम को अच्छी तरह से काम करने के लिए, बड़ी संख्या में नियम बनाने होंगे। अक्सर नियमों को एक विशिष्ट डोमेन (उदाहरण के लिए, "रेस्तरां विषयों") से जोड़ा जाता है और एक डोमेन ("कैमरा समीक्षा") बदलते समय, नियमों को फिर से संकलित करने की आवश्यकता होती है। फिर भी, यह दृष्टिकोण सबसे सटीक है यदि नियमों का एक अच्छा आधार है, लेकिन यह अनुसंधान के लिए पूरी तरह से निर्बाध है।

शब्दकोश-आधारित दृष्टिकोण पाठ का विश्लेषण करने के लिए तथाकथित टोनल शब्दकोशों (भावात्मक शब्दकोष) का उपयोग करते हैं। एक सरल रूप में, एक तानवाला शब्द शब्दों की एक सूची है जिसमें प्रत्येक शब्द के लिए एक टन मूल्य है। यहाँ रूसी में अनुवादित ANEW डेटाबेस से एक उदाहरण है:

शब्द	वैधता (1-9)
सुखी	8.21
अच्छा	7.47
कुंठित	2.95
क्रोधित	2.85
उदास	1.61

पाठ का विश्लेषण करने के लिए, आप निम्नलिखित एल्गोरिथ्म का उपयोग कर सकते हैं: सबसे पहले, पाठ में प्रत्येक शब्द को शब्दकोष से शब्दकोश में (यदि यह शब्दकोष में मौजूद है), और फिर पूरे पाठ की समग्रता की गणना करें। समग्र टॉन्सिलिटी की गणना करने के कई तरीके हैं। उनमें से सबसे सरल सभी मूल्यों का अंकगणित माध्य है। अधिक जटिल क्लासिफायरियर (उदा। तंत्रिका नेटवर्क) को प्रशिक्षित करना है।

एक शिक्षक के साथ मशीन सीखना अनुसंधान में उपयोग की जाने वाली सबसे आम विधि है। इसका सार पूर्व-चिह्नित ग्रंथों के संग्रह पर मशीन क्लासिफायरियर को प्रशिक्षित करना है, और फिर नए दस्तावेजों का विश्लेषण करने के लिए परिणामी मॉडल का उपयोग करना है। इस पद्धति के बारे में यह है कि मैं बाद में चर्चा करूंगा।

एक शिक्षक के बिना मशीन सीखना संभवतया सबसे दिलचस्प है और एक ही समय में कम से कम टन विश्लेषण के लिए सटीक तरीका है। इस पद्धति का एक उदाहरण स्वचालित दस्तावेज़ क्लस्टरिंग हो सकता है।

एक शिक्षक के साथ मशीन सीखना

मशीन लर्निंग का उपयोग करके अन्य प्रणालियों को बनाने की प्रक्रिया के समान एक टनसिटी विश्लेषण प्रणाली बनाने की प्रक्रिया है:

क्लासिफायरियर के प्रशिक्षण के लिए दस्तावेजों का संग्रह एकत्र करना आवश्यक है
प्रशिक्षण संग्रह के प्रत्येक दस्तावेज को एक फीचर वेक्टर के रूप में प्रस्तुत किया जाना चाहिए
प्रत्येक दस्तावेज़ के लिए आपको "सही उत्तर", अर्थात निर्दिष्ट करने की आवश्यकता है टॉन्सिलिटी का प्रकार (उदाहरण के लिए, सकारात्मक या नकारात्मक), इन उत्तरों के अनुसार क्लासिफायरियर को प्रशिक्षित किया जाएगा
वर्गीकरण एल्गोरिथ्म चयन और क्लासिफायर प्रशिक्षण
परिणामी मॉडल का उपयोग करना

वर्गों की संख्या

उन वर्गों की संख्या, जिनमें टॉन्सिलिटी विभाजित है, आमतौर पर सिस्टम विनिर्देश से निर्दिष्ट होती है। उदाहरण के लिए, ग्राहक को सिस्टम को तीन प्रकार की टॉन्सिलिटी के बीच अंतर करने की आवश्यकता होती है: "सकारात्मक", "तटस्थ", "नकारात्मक"। अध्ययनों में, टॉन्सिलिटी के द्विआधारी वर्गीकरण की समस्या, अर्थात्। केवल दो वर्ग हैं: "सकारात्मक" और "नकारात्मक"। अपने स्वयं के अनुभव से मैं कह सकता हूं कि दो से अधिक वर्गों में टॉन्सिलिटी का वर्गीकरण एक बहुत मुश्किल काम है। तीन वर्गों के साथ भी उपयोग किए गए दृष्टिकोण की परवाह किए बिना अच्छी सटीकता प्राप्त करना बहुत मुश्किल है।

यदि कार्य दो से अधिक वर्गों में वर्गीकृत करना है, तो क्लासिफायर प्रशिक्षण के लिए निम्नलिखित विकल्प संभव हैं:

फ्लैट वर्गीकरण - हम सभी वर्गों के लिए केवल एक क्लासिफायरियर ट्रेन करते हैं
श्रेणीबद्ध वर्गीकरण - हम समूहों को समूहों में विभाजित करते हैं और समूहों को परिभाषित करने के लिए कई वर्गीकरणों को प्रशिक्षित करते हैं। उदाहरण के लिए, यदि हमारे पास 5 कक्षाएं ("दृढ़ता से सकारात्मक", "मध्यम सकारात्मक", "तटस्थ", "मध्यम नकारात्मक", "दृढ़ता से नकारात्मक") हैं, तो हम पहले एक द्विआधारी क्लासिफायरफायर सिखा सकते हैं जो तटस्थ ग्रंथों को व्यक्तिपरक से अलग करता है; फिर एक क्लासीफायर प्रशिक्षित करें जो सकारात्मक विचारों को नकारात्मक लोगों से अलग करता है; और इसके परिणामस्वरूप, एक क्लासिफायरियर जो औसत लोगों से दृढ़ता से व्यक्त राय को अलग करता है।
प्रतिगमन - हम वर्गीकरण का एक संख्यात्मक मान प्राप्त करने के लिए प्रशिक्षक को प्रशिक्षित करते हैं, उदाहरण के लिए, 1 से 10 तक, जहां एक बड़े मूल्य का मतलब अधिक सकारात्मक टन है।

आमतौर पर पदानुक्रमित वर्गीकरण फ्लैट की तुलना में बेहतर परिणाम देता है, क्योंकि प्रत्येक क्लासिफायरियर के लिए आप सुविधाओं का एक सेट पा सकते हैं जो परिणामों को बेहतर बना सकता है। हालांकि, प्रशिक्षण और परीक्षण के लिए बहुत समय और प्रयास की आवश्यकता होती है। यदि वास्तव में कई कक्षाएं (5 या अधिक से) हैं, तो प्रतिगमन बेहतर परिणाम दिखा सकता है।

फ़ीचर चयन

परिणामों की गुणवत्ता सीधे इस बात पर निर्भर करती है कि हम क्लासिफायर के लिए दस्तावेज़ कैसे प्रस्तुत करते हैं, अर्थात्, हम फीचर वेक्टर को संकलित करने के लिए किस विशेषताओं का उपयोग करेंगे। COMP कार्यों में दस्तावेज़ प्रस्तुत करने का सबसे आम तरीका है। भाषाविज्ञान और खोज - यह या तो शब्दों के एक सेट (बैग-ऑफ-वर्ड) के रूप में या एन-ग्राम के एक सेट के रूप में है। इसलिए, उदाहरण के लिए, वाक्य "आई लव ब्लैक कॉफ़ी" को यूनीग्राम्स (आई, लव, ब्लैक, कॉफ़ी) या बिगग्राम (आई लव, लव ब्लैक, ब्लैक कॉफ़ी) के सेट के रूप में प्रस्तुत किया जा सकता है।

आमतौर पर, यूनीग्राम्स और बिग्रेड्स उच्च आदेशों के एन-ग्राम (ट्रिगर्स और उच्चतर) की तुलना में बेहतर परिणाम देते हैं, क्योंकि अधिकांश मामलों में प्रशिक्षण नमूना उच्चतम आदेश एन-ग्राम की गणना करने के लिए पर्याप्त बड़ा नहीं है। यह हमेशा समझ में आता है कि परिणाम का परीक्षण करने के लिए unigrams, bigrams और उनके संयोजन (मुझे ब्लैक, कॉफ़ी, आई लव, लव ब्लैक, ब्लैक कॉफ़ी पसंद है)। डेटा के प्रकार पर निर्भर करते हुए, यूनीग्राम बिग्रेड की तुलना में बेहतर परिणाम दिखा सकते हैं, लेकिन वे इसके विपरीत और कर सकते हैं। इसके अलावा, कभी-कभी यूनीग्राम और बिगग्राम के संयोजन से परिणाम बेहतर हो सकते हैं।

स्टेमिंग और लेम्मेटाइजेशन

कुछ अध्ययनों में, जब एक पाठ प्रस्तुत करते हैं, तो सभी शब्द स्टेमिंग (समाप्त होने को हटाने) या लेमेटाइजेशन (प्रारंभिक रूप में कमी) की प्रक्रिया से गुजरते हैं। इस प्रक्रिया का उद्देश्य समस्या के आयाम को कम करना है, दूसरे शब्दों में, यदि पाठ में समान शब्द हैं, लेकिन अलग-अलग अंत के साथ, स्टेमिंग और लेमेटाइज़ेशन का उपयोग करके आप उन्हें एक रूप में ला सकते हैं। हालांकि, व्यवहार में यह आमतौर पर कोई ठोस परिणाम नहीं देता है। इसका कारण यह है कि, शब्द अंत से छुटकारा पाने के लिए, हम रूपात्मक जानकारी खो देते हैं, जो कि आज की रात के विश्लेषण के लिए उपयोगी हो सकता है। उदाहरण के लिए, शब्द "चाहते" और "चाहता है" एक अलग स्वर है। यदि पहले मामले में आज की रात सबसे अधिक संभावना सकारात्मक है, क्योंकि लेखक आशा और सकारात्मक भावनाओं को व्यक्त कर सकता है, फिर पिछले तनाव में क्रिया में, यदि लेखक खेद व्यक्त करता है, तो यह नकारात्मकता हो सकती है।

पाठ का प्रतिनिधित्व करने का एक और तरीका चरित्र एन-ग्राम है। उदाहरण से पाठ को निम्नलिखित 4-वर्ण एन-ग्राम के रूप में दर्शाया जा सकता है: "मुझे प्यार है", "प्यार", "बकवास", "बकवास", आदि। इस तथ्य के बावजूद कि यह विधि बहुत आदिम लग सकती है, क्योंकि पहली नज़र में, वर्ण सेट कोई शब्दार्थ नहीं ले जाता है, हालांकि, यह विधि कभी-कभी शब्दों के एन-ग्राम से भी बेहतर परिणाम देती है। यदि आप बारीकी से देखते हैं, तो आप देख सकते हैं कि वर्णों के एन-ग्राम कुछ हद तक शब्दों के morphemes के अनुरूप हैं, और विशेष रूप से शब्द का मूल ("प्रेम") इसके अर्थ को वहन करता है। चरित्र एन-ग्राम दो मामलों में उपयोगी हो सकता है:

यदि पाठ में वर्तनी की त्रुटियां हैं, तो त्रुटियों के साथ पाठ का वर्ण सेट और त्रुटियों के बिना पाठ का वर्ण सेट लगभग शब्दों के समान होगा।
समृद्ध आकारिकी वाली भाषाओं के लिए (उदाहरण के लिए, रूसी के लिए) - एक ही शब्द ग्रंथों में पाए जा सकते हैं, लेकिन विभिन्न रूपों (अलग लिंग या संख्या) में, लेकिन शब्दों की जड़ नहीं बदलती है, और इसलिए वर्णों का सामान्य सेट।

वर्ण एन-ग्राम का उपयोग शब्दों के एन-ग्राम की तुलना में बहुत कम बार किया जाता है, लेकिन कभी-कभी वे परिणामों में सुधार कर सकते हैं।

आप अतिरिक्त सुविधाओं का भी उपयोग कर सकते हैं, जैसे: भाषण के भाग, विराम चिह्न (पाठ में मुस्कुराहट, विस्मयादिबोधक चिह्न), पाठ में नकारात्मक की उपस्थिति ("नहीं", "नहीं", "कभी नहीं"), अंतरायन आदि।

वजनदार वेक्टर

एक फीचर वेक्टर संकलित करने का अगला चरण प्रत्येक सुविधा के लिए अपना वजन नियत करना है। कुछ क्लासीफायर के लिए, यह वैकल्पिक है, उदाहरण के लिए, बायेसियन क्लासिफायरियर के बाद से वह खुद संकेतों की संभावना की गणना करता है। लेकिन अगर आप सपोर्ट वेक्टर विधि का उपयोग करते हैं, तो वेट सेट करने से परिणामों में काफी सुधार हो सकता है।

सूचना पुनर्प्राप्ति में, फीचर वजन का अनुमान लगाने के लिए सबसे आम तरीका TF-IDF है । आज रात के विश्लेषण के लिए, यह विधि अच्छे परिणाम नहीं देती है। इसका कारण यह है कि आज की रात के विश्लेषण के लिए, शब्द जो अक्सर पाठ में दोहराए जाते हैं (यानी उच्च टीएफ के साथ शब्द) इतने महत्वपूर्ण नहीं हैं, जैसा कि खोज कार्य के विपरीत है। इसलिए, बाइनरी वजन आमतौर पर उपयोग किया जाता है, अर्थात्, विशेषताएँ (यदि हम यूनीग्राम का उपयोग करते हैं, तो शब्द) एक इकाई भार असाइन किए जाते हैं यदि वे पाठ में मौजूद हैं। अन्यथा, वजन शून्य है। उदाहरण के लिए, "मुझे ब्लैक कॉफी बहुत पसंद है" को निम्नलिखित वेक्टर के रूप में प्रस्तुत किया जाएगा (हम वजन = 0 के साथ शब्दों को छोड़ते हैं)

 {"": 1, "": 1, "": 1, "": 1}

हालांकि, शब्दों के महत्व का आकलन करने के लिए तरीके हैं जो शब्द भार की गणना करते हैं जो कि टॉन्सिलिटी को वर्गीकृत करने में बहुत बेहतर परिणाम देते हैं, जैसे कि डेल्टा टीएफ-आईडीएफ ।

डेल्टा TF-IDF

TF-IDF डेल्टा विधि के पीछे का विचार उन शब्दों को अधिक भार देना है, जिनमें गैर-न्यूट्रल टन है यह ऐसे शब्द हैं जो पूरे पाठ के स्वर को निर्धारित करते हैं। शब्द w के वजन की गणना करने का सूत्र निम्नानुसार है:

Vt, d = Ct, dlog (| N | Pt | P | Nt)

जहां:

वी _{टी, डी} - दस्तावेज़ में शब्द टी का वजन डी
_{टी के} साथ _{, डी} - दस्तावेज़ में शब्द टी की संख्या कितनी बार होती है डी
| पी | - सकारात्मक स्वर के साथ दस्तावेजों की संख्या
| एन | - नकारात्मक टन के साथ दस्तावेजों की संख्या
पी _टी - सकारात्मक दस्तावेजों की संख्या जहां टी शब्द होता है
एन _टी - नकारात्मक दस्तावेजों की संख्या जहां टी शब्द होता है

परिणाम क्या है? मान लीजिए कि हम फिल्म समीक्षाओं के संग्रह के साथ काम कर रहे हैं। आइए तीन शब्दों पर विचार करें: "उत्कृष्ट", "उबाऊ", "स्क्रिप्ट"। सूत्र में सबसे महत्वपूर्ण बात डेल्टा TF-IDF है - यह दूसरा कारक लॉग (...) है । यह वह होगा जो इन तीन शब्दों में अलग है:

शब्द "उत्कृष्ट" सबसे सकारात्मक (पी _टी ) समीक्षाओं में पाए जाने की संभावना है और लगभग कभी भी नकारात्मक (एन _टी ) में नहीं होता है, परिणामस्वरूप, वजन एक बड़ी सकारात्मक संख्या होगी, क्योंकि अनुपात P _t / N _t एक संख्या 1 से अधिक होगा।
शब्द "थकाऊ", इसके विपरीत, मुख्य रूप से नकारात्मक समीक्षाओं में होता है, इसलिए पी _टी / एन _टी अनुपात एक से कम होगा और, परिणामस्वरूप, लघुगणक ऋणात्मक होगा। नतीजतन, शब्द का वजन एक नकारात्मक संख्या होगी, लेकिन परिमाण में बड़ा।
शब्द "स्क्रिप्ट" सकारात्मक और नकारात्मक दोनों समीक्षाओं में समान संभावना के साथ हो सकता है, इसलिए पी _टी / एन _टी अनुपात एकता के बहुत करीब होगा, और परिणामस्वरूप, लघुगणक शून्य के करीब होगा। शब्द का वजन व्यावहारिक रूप से शून्य होगा।

नतीजतन, एक सकारात्मक टन के साथ शब्दों का वजन एक बड़ी सकारात्मक संख्या होगी, एक नकारात्मक टन के साथ शब्दों का वजन एक नकारात्मक संख्या होगी, तटस्थ शब्दों का वजन शून्य के करीब होगा। ज्यादातर मामलों में फ़ीचर वेक्टर का ऐसा भार टनटन के वर्गीकरण की सटीकता में सुधार करने की अनुमति देता है।

क्लासिफायर इम्प्लीमेंटेशन

मैंने अजगर में फिल्मों की समीक्षा के लिए एक सरल टॉन्सिलिटी क्लासिफायर लागू की। डेटा को किनोपोइक से एकत्र किया गया था। 500 सकारात्मक और 500 नकारात्मक समीक्षाओं का चयन किया गया। एक वर्गीकरण एल्गोरिथ्म के रूप में, मैंने भोले बायेसियन क्लासिफायर (एनबी) और समर्थन वेक्टर विधि (एसवीएम) का उपयोग किया। संकेत के रूप में मैंने unigrams, bigrams और उनके संयोजन का परीक्षण किया, और एक भारोत्तोलन फ़ंक्शन के रूप में: बेज़ और SVM के लिए एक बाइनरी फ़ंक्शन और SVM के लिए डेल्टा TF-IDF। क्लासिफायर के प्रदर्शन का मूल्यांकन करने के लिए, मैंने एक क्रॉस-चेक किया : मापदंडों के प्रत्येक सेट के लिए, 5 परीक्षण एक पंक्ति में चलाए गए थे, जिनमें से प्रत्येक में प्रशिक्षण के लिए 800 और परीक्षण के लिए 200 समीक्षाओं का उपयोग किया गया था। नीचे सभी 9 सेट के मापदंडों के लिए परिणाम (प्रतिशत में सटीकता) हैं।

सबूत	एनबी	SVM	एसवीएम + डेल्टा
unigrammy	85.5	82.5	86.2
Bigrams	84.9	86.5	87.8
संयोग	86.5	88.4	90.8

यह परिणामों से देखा जा सकता है कि इस संग्रह के लिए सबसे अच्छा परिणाम समर्थन वेक्टर विधि द्वारा वेटिंग फ़ंक्शन डेल्टा TF-IDF के साथ दिखाया गया है। यदि आप सामान्य बाइनरी फ़ंक्शन का उपयोग करते हैं, तो दोनों क्लासीफायर (एनबी और एसवीएम) लगभग समान परिणाम दिखाते हैं। यूनीग्राम और बिगग्राम का संयोजन सभी परीक्षणों में बेहतर परिणाम देता है।

आइए देखें कि डेल्टा TF-IDF परिणामों में ऐसा मार्जिन (2.4 - 4.3%) क्यों देता है। अधिकतम डेल्टा TF-IDF मोडुलो के साथ N- ग्राम चुनें:

लुभावनी	5.20	व्यवहार	-5.02
यह निर्भर करता है	5.08	किसी कारण के लिए	-4.80
लेता है	4.95	नहीं कर सका	-4.80
बनाने	4.80	न के बारे में	-4.71
काम करता है	4.80	प्रभावित नहीं हुआ	-4.71
ध्यान से	4.71	सेक्स करना	-4.71
स्वयं	4.71	से भी बदतर	-4.71
किम	4.62	लेकिन यह	-4.71
रोमांच	4.62	फिल्माया गया था	-4.62
उसके लिए	4.51	मत देखो	-4.62

नकारात्मक एन-ग्राम के उदाहरण पर, यह विशेष रूप से ध्यान देने योग्य है कि उनका वजन एक नकारात्मक टन को दर्शाता है।

व्यावहारिक अनुप्रयोग

टॉन्सिलिटी क्लासिफायरियर के व्यावहारिक अनुप्रयोग के एक उदाहरण के रूप में, मैंने जल्दी से ट्वीट के क्लासिफायरियर को व्हिप किया, जिसकी योजना इस प्रकार है:

फिल्म के शीर्षक के लिए ट्विटर पर खोज
टॉन्सिलिटी क्लासिफायर के माध्यम से ट्वीट छोड़ें
ट्विटर से फिल्मों के बारे में सकारात्मक और नकारात्मक टिप्पणियां प्राप्त करें

विश्लेषक का एक उदाहरण:

 alexpak@dard:~/projects/pyrus$ src/sentiment/test.py "" 1. pos    !    / Sur la piste du Marsupilami (2012) DVDRip http://t.co/to5EuTHL 2. neg       !    (2012)! 3. pos     " !  "   4. pos  !   .  :) 5. pos  !    - Sur la piste du Marsupilami (2012) HDRip http://t.co/UB1hwnHh 6. pos ,    .  ,   ) 7. pos   # 8. pos Went to the movies) watched the movie " !   ." http://t.co/EBlIsWMs 9. neg     ) 10. neg         ?!    11. pos  !    / Sur la piste du Marsupilami (2012) http://t.co/OoH3chso 12. pos  !    http://t.co/rb1BWurX 13. pos  !    http://t.co/rHorvtvu 14. pos  !    http://t.co/xNBHadIN 15. pos  !    http://t.co/33t35O35

जैसा कि आप देख सकते हैं, परिणाम बहुत संतोषजनक नहीं हैं। वर्गीकरणकर्ता दो प्रकार की त्रुटियां करता है:

सकारात्मक / नकारात्मक के रूप में तटस्थ ट्वीट (मूवी विवरण, समाचार, स्पैम) को वर्गीकृत करता है
गलत तरीके से समीक्षाओं के स्वर को वर्गीकृत करता है

पहले प्रकार की त्रुटि को एक अतिरिक्त क्लासिफायरियर जोड़कर ठीक किया जा सकता है जो तटस्थ ट्वीट्स को फ़िल्टर करेगा। यह एक आसान काम नहीं है, लेकिन काफी संभव है। दूसरे प्रकार की त्रुटियां मुख्य रूप से इस तथ्य के कारण उत्पन्न होती हैं कि ट्वीट प्रशिक्षण के संग्रह से बहुत अलग हैं: इसमें कठबोली, वर्तनी की त्रुटियां हैं, कहने का तरीका अलग है। यहां आपको क्लासिफायर को प्रशिक्षित करने के लिए या तो एक अन्य संग्रह की तलाश करनी चाहिए (उदाहरण के लिए वही ट्वीट लें), या सुविधाओं के सेट में सुधार करें (उदाहरण के लिए, इमोटिकॉन्स जोड़ें)। लेकिन कुल मिलाकर, यह उदाहरण दिखाता है कि ट्विटर पर एक राय विश्लेषण प्रणाली बनाना काफी संभव है।

निष्कर्ष

एक राय विश्लेषण प्रणाली बनाना एक मुश्किल काम है, लेकिन यदि प्रशिक्षण के लिए डेटा और एक डोमेन (विषय) पूर्वनिर्धारित है तो काफी संभव है। मशीन लर्निंग का उपयोग करते समय, परीक्षण डेटा पर बेहतर काम करने वालों का चयन करने के लिए विभिन्न मापदंडों का परीक्षण करना महत्वपूर्ण है। (NB, SVM), (, , N-), . , , (, ), (, .). .

, .
स्रोत कोड

FAQ:

डेमो गलत रूप से वर्गीकृत समीक्षाएँ!
- हाँ, यह केवल एक दिन में लिखा गया एक प्रोटोटाइप है।

और क्या होगा यदि पाठ में सकारात्मक और नकारात्मक दोनों प्रतिक्रियाएं हों?
- वर्तमान एल्गोरिथ्म उनमें से केवल एक को वर्गीकृत करता है।

और अगर मैं विशेष रूप से सकारात्मक शब्दों में नकारात्मक समीक्षा लिखता हूं?
- इसे गलत तरीके से वर्गीकृत किया जाएगा (और आपको कंप्यूटर से क्या उम्मीद थी?)

हम कंप्यूटर को इंद्रियों (रूसी में भावुक विश्लेषण) सिखाते हैं