NOMAD: घर पर "ब्लैक बॉक्स" का अनुकूलन

लेख एक सुविधाजनक उपकरण पर चर्चा करेगा जिसे मैं और मेरे सहयोगी अक्सर अपने अभ्यास में उपयोग करते हैं। इस टूल को NOMAD कहा जाता है। यह पैकेज अलग-अलग जटिलता के कार्यों को अनुकूलित करने के लिए डिज़ाइन किया गया है, मुख्य रूप से गणना करने के लिए मुश्किल है, किसी कारण के लिए एक ढाल दुर्गम के साथ कार्यात्मक, शोर, आदि।

अनुकूलित (न्यूनतम) कार्यक्षमता को "ब्लैक बॉक्स" के रूप में माना जाता है, एक अलग से लागू स्क्रिप्ट या प्रोग्राम (जब बैच-मोड में काम कर रहा है) या एक विशेष रूप से कार्यान्वित C ++ वर्ग (जब लाइब्रेरी-मोड में काम कर रहा है) इसकी गणना के लिए जिम्मेदार है। अनुकूलन MADS एल्गोरिथ्म का उपयोग किया जाता है

स्रोतों को एलजीपीएल लाइसेंस के तहत वितरित किया जाता है, यूनिक्स, लिनक्स, मैक ओएस एक्स और विंडोज के लिए संस्करण उपलब्ध हैं, पंजीकरण डाउनलोड के लिए आवश्यक नहीं है, लेकिन आपको एक संक्षिप्त रूप (नाम, संगठन, शहर, देश) भरने की आवश्यकता है।

NOMAD: एक ब्लैकबॉक्स अनुकूलन सॉफ्टवेयर

क्यों जरूरी है?

मूल परिदृश्य इस प्रकार है। आप एक बच्चे के कौतुक को विकसित कर रहे हैं जो सामान्य अच्छे के लिए अपना योगदान देता है। इस प्रक्रिया में, हम शांत, सुपर-आधुनिक तरीकों और एल्गोरिदम का उपयोग करते हैं, जो आपके पैरामीटर में रखे गए संख्यात्मक मापदंडों के माध्यम से कॉन्फ़िगर किया जा सकता है (यदि वे जादू की संख्या के रूप में कोड में चमक नहीं करते हैं)। सिस्टम में एक निश्चित गुणवत्ता संकेतक है, जिसकी गणना कोई नहीं जानता है कि कैसे, और अब यह लगभग 98% है, और आप 99.5% तक पहुंचना चाहते हैं। मैं एक ऐसा उपकरण चाहूंगा जो "ट्विस्ट" दे सके और चाय पी सके, जबकि वह सिस्टम की गुणवत्ता को थोड़ा और बढ़ा देगा। समस्याओं के इस वर्ग को हल करने के लिए एक अच्छा उपकरण NOMAD है।

एक विशेष मामला। इसी समस्या को हल करने के लिए, आप दो अलग-अलग एल्गोरिदम का उपयोग करते हैं। कार्य में इनपुट ऑब्जेक्ट का कुछ वर्गीकरण या मूल्यांकन शामिल है (एक उदाहरण मान्यता है), आउटपुट पर आपको मूल्यांकन मानों का एक वेक्टर मिलता है (एक उदाहरण तंत्रिका नेटवर्क में विकल्पों का आउटपुट वेक्टर)। पहला एल्गोरिथ्म एक प्रकार के स्रोत डेटा पर बेहतर काम करता है, दूसरा एल्गोरिथ्म दूसरे पर बेहतर काम करता है, और किसी कारण से आप इनपुट डेटा के प्रकारों को स्पष्ट रूप से अलग नहीं कर सकते। एक संभव तरीका दोनों एल्गोरिदम का उपयोग करना है, और एक पोस्टीरियर के परिणामों को "औसत" करना है। एकमात्र सवाल यह है कि परिणामों को औसत करने के लिए गुणांक (वजन) क्या है। गुणांक के इष्टतम औसत को निर्धारित करने के लिए, आप NOMAD का उपयोग कर सकते हैं, यदि आप कार्यात्मक, कहते हैं, त्रुटियों की कुल संख्या या इनपुट डेटा के दिए गए नमूने पर कुछ कुल जुर्माना।

इसका उपयोग कैसे करें

बैच मोड में NOMAD का उपयोग करने के एक सरल उदाहरण पर विचार करें। कार्य यह है: आप एक साधारण फ़ंक्शन बनाना चाहते हैं जो सेट X से ऑब्जेक्ट्स को दो वर्गों में विभाजित करता है: A और B। एक छोटे से सांख्यिकीय अध्ययन के बाद, आपने पाया कि संकेत एफ 1 , एफ 2 और एफ 3 हैं , यह दर्शाता है कि ऑब्जेक्ट एक्स किसी वर्ग का है। f1 , f2 और f3 एक ऑब्जेक्ट के कार्य हैं जिनका मान एक वास्तविक संख्या है। हम C (x) = a1 * f1 (x) + a2 * f2 (x) + a3 * f3 (x) + b , जहाँ a1 , a3 , a वास्तविक संख्याएँ हैं, और b एक पूर्णांक है - के रूप में वर्गीकृत करने वाले फ़ंक्शन की खोज करेंगे । 1 से 1 । यदि C (x)> = 0 है , तो हम कहते हैं कि x का संबंध A से है , अन्यथा x का संबंध B से है । पकड़ यह है कि अगर हमने कोई गलती की है और सेट बी में ऑब्जेक्ट x को परिभाषित किया है, हालांकि यह वास्तव में ए से है , तो यह निश्चित रूप से अप्रिय है, लेकिन घातक नहीं है, लेकिन अगर हमने एक्स को ए में परिभाषित किया है, लेकिन बी में होना चाहिए, तो यह 100 गुना बदतर।

इस समस्या को हल करने के लिए कई मजाकिया तरीके हैं, लेकिन उदाहरण के लिए, हम एक मूल्यांकन कार्यात्मक का निर्माण करेंगे और NOMAD का उपयोग करते हुए गुणांक पाएंगे।

इस तरह के डेटा वाले एक प्रशिक्षण आधार होने दें: एक सच्चा वर्ग (जहां हमें परिभाषित करना चाहिए
x) और संकेत f1 (x) , f2 (x) , f3 (x) के मान। आधार इस तरह से एक पाठ फ़ाइल है: (base.data कहते हैं)

A 1.0 3.0 4.5555 B 2.3 2.3 0.0 B 2.4 2.5 9.0 ... 

हम कार्यात्मक को इस तरह से परिभाषित करते हैं: हम डेटाबेस के माध्यम से देखते हैं, यदि कोई त्रुटि होती है, तो हम इस त्रुटि की लागत को कार्यात्मक के मूल्य में जोड़ते हैं। त्रुटि की त्रुटि "हमें ए होना चाहिए, और हमने कहा कि बी " एक के बराबर है, त्रुटि की लागत "हमें बी होनी चाहिए, और हमने कहा कि ए " 100 है ।

हम एक साधारण प्रोग्राम लिखते हैं जो गुणांक 1 , a2 , a3 , b के साथ फाइल को पर्यावरण के लिए एकमात्र तर्क के रूप में लेता है और मानक आउटपुट स्ट्रीम में कार्यात्मक के मूल्य को प्रदर्शित करता है।

 #!/usr/bin/python #  evaluator.py import sys #     def C(f, a): return a[3] + sum([x * y for x, y in zip(f, a[:3])]) #      def penalty(correct, f, a): answer = 'A' if C(f, a) >= 0.0 else 'B' #    -   if answer == correct: return 0.0 #   ,    elif correct == 'A': return 1.0 #   ,    else: return 100.0 if __name__ == '__main__': F = 0.0 #    sys.argv[1] a = list(map(float, list(open(sys.argv[1], 'r'))[0].split())) #      with open('base.data', 'r') as base: for line in base: line = line.strip().split() correct = line[0] f = map(float, line[1:]) F += penalty(correct, f, a) #    print(F) 

अगला चरण NOMAD कॉन्फ़िगरेशन फ़ाइल है: (params.nomad कहते हैं)

 #    DIMENSION 4 # ,    #    BB_EXE "$python evaluator.py" #   : #       BB_INPUT_TYPE ( RRRI ) #   : #    (OBJ) #    - # (   ) BB_OUTPUT_TYPE OBJ #   X0 ( 0 0 0 0 ) #    LOWER_BOUND ( -10 -10 -10 -1 ) UPPER_BOUND ( 10 10 10 1 ) #     MAX_BB_EVAL 1000 #   TMP_DIR /tmp 

NOMAD लॉन्च करें:

 kbulatov@node ~> ./NOMAD.3.6.0/bin/nomad params.nomad NOMAD - version 3.6.0 - www.gerad.ca/nomad Copyright (C) 2001-2013 { Mark A. Abramson - The Boeing Company Charles Audet - Ecole Polytechnique de Montreal Gilles Couture - Ecole Polytechnique de Montreal John E. Dennis, Jr. - Rice University Sebastien Le Digabel - Ecole Polytechnique de Montreal Christophe Tribes - Ecole Polytechnique de Montreal } Funded in part by AFOSR and Exxon Mobil. License : '$NOMAD_HOME/src/lgpl.txt' User guide: '$NOMAD_HOME/doc/user_guide.pdf' Examples : '$NOMAD_HOME/examples' Tools : '$NOMAD_HOME/tools' Please report bugs to nomad@gerad.ca MADS run { BBE OBJ 1 41100.0000000000 5 27814.0000000000 12 22459.0000000000 14 5070.0000000000 36 4853.0000000000 44 4828.0000000000 49 4720.0000000000 58 4657.0000000000 78 4583.0000000000 93 4514.0000000000 106 4509.0000000000 115 4495.0000000000 117 4494.0000000000 118 4484.0000000000 119 4453.0000000000 133 4379.0000000000 145 4376.0000000000 153 4217.0000000000 156 4158.0000000000 177 4034.0000000000 181 3982.0000000000 184 3942.0000000000 216 3918.0000000000 237 3905.0000000000 262 3903.0000000000 458 3903.0000000000 } end of run (mesh size reached NOMAD precision) blackbox evaluations : 458 best feasible solution : ( 1.300140381 0.6046962738 -0.9088993073 -1 ) h=0 f=3903 

अंतिम पंक्ति में आवश्यक गुणांक होते हैं।

अतिरिक्त विशेषताएं

कॉन्फ़िगरेशन फ़ाइल में, आप अनुकूलन एल्गोरिथ्म के अतिरिक्त मापदंडों की एक बड़ी संख्या निर्दिष्ट कर सकते हैं, इस समीक्षा में केवल मुख्य वर्णित हैं।

NOMAD को एक स्थिर C ++ लाइब्रेरी (लाइब्रेरी मोड) के रूप में उपयोग करना भी संभव है। इस मामले में, आपको एक वर्ग लिखने की ज़रूरत है जो कार्यात्मक की गणना करता है, जैसे कुछ:

 class MyEvaluator: public NOMAD::Evaluator { public: MyEvaluator(NOMAD::Parameters const& p) : NOMAD::Evaluator(p) {} ~MyEvaluator() {} bool eval_x(NOMAD::Eval_Point& x, NOMAD::Double const& h_max, bool& count_eval) const { ///   ///  false,  -    ... count_eval = true; return true; } } 

अंतभाषण

उदाहरण थोड़ा तंग हो गया, अधिक कुशल खोज के लिए, निश्चित रूप से, लाइब्रेरी मोड का उपयोग करना आवश्यक था। इसके अलावा, इस मामले में कार्यात्मक स्केल किए गए सिग्नल फ़ंक्शन का योग है; इन सिगनल फ़ंक्शन को कुछ सिग्मोइड द्वारा अनुमानित किया गया था, तो एल्गोरिथ्म के संचालन को सुविधाजनक बनाना संभव था। कार्यक्षमता, कम से कम, निरंतर होगी। लेकिन लक्ष्य - वर्णन करने के लिए - प्राप्त किया जाता है।

मुझे अन्य उपकरणों के बारे में सुनकर खुशी होगी जो आपको ऐसा कुछ करने की अनुमति देते हैं, अगर कोई भी उन लोगों को जानता है और सफल आवेदन का अनुभव रखता है।