👨🏽‍⚕️ 📤 ▪️ पायथन का उपयोग करके कई प्रतिगमन समस्या को हल करने का एक उदाहरण 👨‍👦‍👦 ⌨️ 🧑🏿‍🤝‍🧑🏽

परिचय

शुभ दोपहर, प्रिय पाठकों।
पिछले लेखों में, व्यावहारिक उदाहरणों पर, मैंने दिखाया है कि वर्गीकरण समस्याओं ( क्रेडिट स्कोरिंग समस्या ) और पाठ्य सूचना सूचना विश्लेषण ( पासपोर्ट समस्या ) की मूल बातें कैसे हल करें। आज मैं समस्याओं के एक अन्य वर्ग, अर्थात् प्रतिगमन बहाली पर स्पर्श करना चाहूंगा। इस वर्ग के कार्य आमतौर पर पूर्वानुमान में उपयोग किए जाते हैं।
पूर्वानुमान समस्या को हल करने के एक उदाहरण के रूप में, मैंने सबसे बड़ी यूसीआई रिपॉजिटरी से ऊर्जा दक्षता डेटासेट लिया। एक परंपरा के रूप में, हम पैंडन का उपयोग पांडा और स्किटिट-लर्न एनालिटिक पैकेज के साथ करेंगे।

समस्या के डेटा सेट और विवरण का विवरण

एक डाटासेट दिया गया है जो निम्नलिखित कमरे की विशेषताओं का वर्णन करता है:

मैदान	विवरण	टाइप
एक्स 1	सापेक्षिक संकुचितता	फ्लोट
X2	क्षेत्र	फ्लोट
X3	दीवार क्षेत्र	फ्लोट
X4	छत का क्षेत्र	फ्लोट
X5	कुल ऊंचाई	फ्लोट
X6	उन्मुखीकरण	INT
X7	ग्लेज़िंग क्षेत्र	फ्लोट
X8	वितरित ग्लेज़िंग क्षेत्र	INT
y1	ताप भार	फ्लोट
y2	कूलिंग लोड	फ्लोट

इसमें

- परिसर की विशेषताओं जिसके आधार पर विश्लेषण किया जाएगा, और LaTeX: y1, y2

- लोड मूल्यों की भविष्यवाणी की जानी है।

प्रारंभिक डेटा विश्लेषण

आरंभ करने के लिए, हमारा डेटा अपलोड करें और उन्हें देखें:

from pandas import read_csv, DataFrame from sklearn.neighbors import KNeighborsRegressor from sklearn.linear_model import LinearRegression, LogisticRegression from sklearn.svm import SVR from sklearn.ensemble import RandomForestRegressor from sklearn.metrics import r2_score from sklearn.cross_validation import train_test_split dataset = read_csv('EnergyEfficiency/ENB2012_data.csv',';') dataset.head()

	एक्स 1	X2	X3	X4	X5	X6	Y1	Y2
0	0.98	514.5	294.0	110.25	7	2	15.55	21.33
1	0.98	514.5	294.0	110.25	7	3	15.55	21.33
2	0.98	514.5	294.0	110.25	7	4	15.55	21.33
3	0.98	514.5	294.0	110.25	7	5	15.55	21.33
4	0.90	563.5	318.5	122.50	7	2	20.84	28.28

अब देखते हैं कि क्या कोई विशेषता संबंधित है। यह सभी स्तंभों के लिए सहसंबंध गुणांक की गणना करके किया जा सकता है। यह कैसे करना है यह पिछले लेख में वर्णित किया गया था:

 dataset.corr()

	एक्स 1	X2	X3	X4	X5	X6	X7	X8	Y1	Y2
एक्स 1	1.000000e + 00	-9.919015e-01	-2.037817e-01	-8.688234e-01	8.277473e-01	0.000000	1.283986e -17	1.764620e -17	0.622272	0.634339
X2	-9.919015e-01	1.000000e + 00	1.955016e-01	8.807195e-01	-8.581477e-01	0.000000	1.318356e -16	-3.558613e -16	-.६,५८,१२०	-.६,७२,९९९
X3	-2.037817e-01	1.955016e-01	1.000000e + 00	-2.923165e-01	2.809757e-01	0.000000	-7.969726e -19	0.000000e + 00	0.455671	0.427117
X4	-8.688234e-01	8.807195e-01	-2.923165e-01	1.000000e + 00	-9.725122e-01	0.000000	-1.381805e -16	-1.079129e -16	-.८,६१,८२८	-.८,६२,५४७
X5	8.277473e-01	-8.581477e-01	2.809757e-01	-9.725122e-01	1.000000e + 00	0.000000	1.861418e-18	0.000000e + 00	0.889431	0.895785
X6	0.000000e + 00	0.000000e + 00	0.000000e + 00	0.000000e + 00	0.000000e + 00	1.000000	0.000000e + 00	0.000000e + 00	-.०,०२,५८७	0.014290
X7	1.283986e -17	1.318356e -16	-7.969726e -19	-1.381805e -16	1.861418e-18	0.000000	1.000000e + 00	2.129642e-01	0.269841	0.207505
X8	1.764620e -17	-3.558613e -16	0.000000e + 00	-1.079129e -16	0.000000e + 00	0.000000	2.129642e-01	1.000000e + 00	0.087368	0.050525
Y1	6.222722e-01	-6.581202e-01	4.556712e-01	-8.618283e-01	8.894307e-01	-.०,०२,५८७	2.698410e-01	8.736759e-02	1.000000	0.975862
Y2	6.343391e-01	-6.729989e-01	4.271170e-01	-8.625466e-01	8.957852e-01	0.014290	2.075050e-01	5.052512e-02	0.975862	1.000000

जैसा कि आप हमारे मैट्रिक्स से देख सकते हैं, निम्नलिखित कॉलम एक दूसरे के साथ सहसंबंधित हैं (सहसंबंध गुणांक का मान 95% से अधिक है):

y1 -> y2
एक्स 1 -> एक्स 2
x4 -> x5

अब हम चुनते हैं कि हमारे जोड़े के कौन से कॉलम हम अपने चयन से हटा सकते हैं। ऐसा करने के लिए, प्रत्येक जोड़ी में, हम उन स्तंभों का चयन करते हैं जिनका Y1 और Y2 के अनुमानित मूल्यों पर अधिक प्रभाव पड़ता है और उन्हें छोड़ देते हैं, और बाकी को हटा देते हैं।
जैसा कि आप देख सकते हैं, y1 , y2 पर सहसंबंध गुणांक वाले मेट्रिक्स में X2 और X5 में X1 और X4 से अधिक है, इसलिए हम अंतिम कॉलम को हटा सकते हैं।

 dataset = dataset.drop(['X1','X4'], axis=1) dataset.head()

इसके अलावा, यह ध्यान दिया जा सकता है कि Y1 और Y2 क्षेत्र एक दूसरे के साथ बहुत निकट से जुड़े हुए हैं। लेकिन, चूंकि हमें दोनों मूल्यों की भविष्यवाणी करने की आवश्यकता है, इसलिए हम उन्हें "जैसा है" छोड़ देते हैं।

मॉडल चयन

हमारे नमूने से पूर्वानुमान मान अलग करें:

 trg = dataset[['Y1','Y2']] trn = dataset.drop(['Y1','Y2'], axis=1)

डेटा को संसाधित करने के बाद, आप मॉडल के निर्माण के लिए आगे बढ़ सकते हैं। मॉडल बनाने के लिए हम निम्नलिखित विधियों का उपयोग करेंगे:

इन विधियों के सिद्धांत को मशीन सीखने पर के.वी. वोरोत्सोव के व्याख्यान के दौरान पढ़ा जा सकता है।
हम निर्धारण के गुणांक ( आर-वर्ग ) का उपयोग करके अनुमान लगाएंगे। यह गुणांक निम्नानुसार निर्धारित किया जाता है:

$LaTeX: R ^ 2 = 1 - \ frac {V (y। X)} {V (y)} = 1 - \ frac {\ sigma ^ 2} {\ _ sigma_y ^ 2}$

जहाँ

- कारक x पर निर्भर मात्रा y का सशर्त विचरण।
गुणांक के बीच एक मूल्य लेता है LaTeX: [0.1]

और यह 1 के करीब है, निर्भरता जितनी मजबूत होगी।
खैर, अब आप सीधे मॉडल बनाने और मॉडल चुनने के लिए जा सकते हैं। आइए हम अपने सभी मॉडलों को आगे के विश्लेषण की सुविधा के लिए एक सूची में रखें:

  models = [LinearRegression(), #    RandomForestRegressor(n_estimators=100, max_features ='sqrt'), #   KNeighborsRegressor(n_neighbors=6), #    SVR(kernel='linear'), #       LogisticRegression() #   ]

इसलिए मॉडल तैयार हैं, अब हम अपने प्रारंभिक डेटा को 2 उप-भागों में तोड़ेंगे: परीक्षण और प्रशिक्षण । मेरे पिछले लेख पढ़ने वालों को पता है कि यह scikit-learn पैकेज से train_test_split () फ़ंक्शन का उपयोग करके किया जा सकता है:

 Xtrn, Xtest, Ytrn, Ytest = train_test_split(trn, trg, test_size=0.4)

अब, चूंकि हमें 2 मापदंडों की भविष्यवाणी करने की आवश्यकता है LaTeX: y1, y2

, उनमें से प्रत्येक के लिए एक प्रतिगमन का निर्माण करना आवश्यक है। इसके अलावा, आगे के विश्लेषण के लिए, आप परिणामों को एक अस्थायी डेटाफ़्रेम में लिख सकते हैं। आप इसे इस तरह से कर सकते हैं:

  #   TestModels = DataFrame() tmp = {} #     for model in models: #   m = str(model) tmp['Model'] = m[:m.index('(')] #     for i in xrange(Ytrn.shape[1]): #  model.fit(Xtrn, Ytrn[:,i]) #   tmp['R2_Y%s'%str(i+1)] = r2_score(Ytest[:,0], model.predict(Xtest)) #    DataFrame TestModels = TestModels.append([tmp]) #     TestModels.set_index('Model', inplace=True)

जैसा कि आप ऊपर के कोड से देख सकते हैं, गुणांक की गणना करने के लिए लाटेक्स: आर ^ २

r2_score () फ़ंक्शन का उपयोग किया जाता है।
तो, प्राप्त विश्लेषण के लिए डेटा। अब ग्राफ बनाते हैं और देखते हैं कि किस मॉडल ने सबसे अच्छा परिणाम दिखाया:

 fig, axes = plt.subplots(ncols=2, figsize=(10,4)) TestModels.R2_Y1.plot(ax=axes[0], kind='bar', title='R2_Y1') TestModels.R2_Y2.plot(ax=axes[1], kind='bar', color='green', title='R2_Y2')

परिणामों और निष्कर्षों का विश्लेषण

ऊपर दिए गए ग्राफ़ से, हम यह निष्कर्ष निकाल सकते हैं कि रैंडम फ़ॉरेस्ट विधि (यादृच्छिक वन) ने दूसरों की तुलना में बेहतर कार्य को संभाला। इसका निर्धारण गुणांक दोनों चर में अन्य की तुलना में अधिक है: $LaTeX: R_ {y1} ^ 2 \ लगभग 99 \%, \ R_ {y2} ^ 2 \ लगभग 90 \%$
आगे के विश्लेषण के लिए, आइए अपने मॉडल को फिर से प्रशिक्षित करें:

 model = models[1] model.fit(Xtrn, Ytrn)

एक करीबी परीक्षा यह सवाल उठा सकती है कि पिछली बार हमने निर्भर सैंपल Ytrn को चर (कॉलम में) में क्यों विभाजित किया था, और अब हम नहीं करते हैं।
तथ्य यह है कि कुछ विधियां, जैसे कि रैंडमफोरस्टीग्रेडर , कई पूर्वानुमानित चर के साथ काम कर सकती हैं, जबकि अन्य (उदाहरण के लिए, SVR ) केवल एक चर के साथ काम कर सकते हैं। इसलिए, पिछले प्रशिक्षण में, हमने कुछ मॉडल के निर्माण की प्रक्रिया में त्रुटियों से बचने के लिए कॉलम ब्रेक का उपयोग किया।
यह निश्चित रूप से, एक मॉडल का चयन करने के लिए अच्छा है, लेकिन यह जानकारी के लिए अच्छा होगा कि प्रत्येक कारक अनुमानित मूल्य को कैसे प्रभावित करेगा। इसके लिए, मॉडल में feature_importances_ गुण है।
इसका उपयोग करके, आप अंतिम मॉडल में प्रत्येक कारक का वजन देख सकते हैं:

 model.feature_importances_

सरणी ([0.40717901, 0.11394948, 0.34984766, 0.00751686, 0.09158358,
0.02992342])

हमारे मामले में, यह देखा जा सकता है कि कुल ऊंचाई और क्षेत्र हीटिंग और शीतलन के दौरान लोड को सबसे अधिक प्रभावित करते हैं। पूर्वानुमान मॉडल में उनका कुल योगदान लगभग 72% है।
यह भी ध्यान दिया जाना चाहिए कि उपरोक्त योजना के अनुसार, आप प्रत्येक कारक के प्रभाव को अलग-अलग ताप पर और अलग-अलग शीतलन पर देख सकते हैं, लेकिन चूंकि ये कारक हमारे साथ बहुत निकट से जुड़े हैं ( $LaTeX: r \ = \ 97 \%$ ), हमने उन दोनों पर एक सामान्य निष्कर्ष निकाला जो ऊपर लिखा गया था।

निष्कर्ष

लेख में, मैंने पायथन और विश्लेषणात्मक पैकेज पांडा और स्किट-लर्न का उपयोग करके डेटा के प्रतिगमन विश्लेषण में मुख्य चरणों को दिखाने की कोशिश की।
यह ध्यान दिया जाना चाहिए कि डेटा सेट को विशेष रूप से चुना गया था ताकि जितना संभव हो उतना औपचारिक रूप से चुना जाए और इनपुट डेटा का प्रारंभिक प्रसंस्करण न्यूनतम हो। मेरी राय में, यह लेख उन लोगों के लिए उपयोगी होगा जो केवल डेटा विश्लेषण में अपना रास्ता शुरू कर रहे हैं, साथ ही साथ जिनके पास एक अच्छा सैद्धांतिक आधार है, लेकिन जो काम के लिए उपकरण चुनते हैं।

पायथन का उपयोग करके कई प्रतिगमन समस्या को हल करने का एक उदाहरण