किसके लिए विलक्षणता है, और किससे पुरातन है

यह पोस्ट एक हालिया पोस्ट में उठाए गए विषय पर कुछ चर्चा है, " विलक्षणता: 7 रोबोटिक भविष्य के विकल्प "

इस पोस्ट को लिखने के लिए मुझे मूल लेख में कृत्रिम बुद्धिमत्ता के सार के बारे में मौलिक रूप से गलत रवैये से प्रेरित किया गया था।

लेख में AI के आगमन से जुड़े 7 संभावित बिंदुओं पर चर्चा की गई है। लेकिन आप उन सभी के बारे में बात कर सकते हैं जो केवल कई धारणाएं बनाते हैं:

1) कृत्रिम बुद्धि मानव बुद्धि की बढ़ी हुई प्रति होगी,
2) मानवता एक है और समान रूप से विकसित है,
3) AI एक स्वायत्त स्वतंत्र इकाई है और प्रक्रियाओं को सक्रिय रूप से प्रभावित करने में सक्षम है,
4) एआई को खुद के बारे में पता है, उसके लक्ष्य और सार, आत्म-प्रतिबिंब की क्षमता है,
5) आत्म-प्रतिकृति।

मुझे यह क्यों मिला, यह अलग क्यों होगा और यह मूल लेख से सूची के कार्यान्वयन में कैसे हस्तक्षेप करता है और कैसे, मेरी राय में, घटनाओं का विकास होगा - कट के तहत

ये धारणाएँ क्यों आवश्यक हैं?

मुझे ऐसा क्यों लगा कि लेख में इन पांचों (शायद और भी अधिक) अंक का तात्पर्य है, जब यह विलक्षणता, एआई, साइबरकरण और बहुत कुछ आता है?

सब कुछ दर्द से सरल है। लेख का पहला पैराग्राफ मशीनों के विद्रोह को संदर्भित करता है। यह परिदृश्य केवल तकनीकी रूप से संभव नहीं है, एआई उपकरणों की उपस्थिति के बिना जो आपको बाहरी वातावरण को प्रभावित करने की अनुमति देते हैं, जबकि इन उपकरणों को मनुष्यों पर नियंत्रित नहीं किया जाना चाहिए। अन्यथा, एक स्विच होने पर किस तरह का विद्रोह होता है? और निश्चिंत रहें, वह होगा। कोई भी समझदार व्यक्ति उस पर नियंत्रण के आवश्यक साधनों के बिना संभावित रूप से कुछ खतरनाक नहीं पैदा करेगा। इसके अलावा, यह प्रतियोगियों (हाय टू पॉइंट 2) से विकास को बचाने की आवश्यकता भी है। इसका मतलब है कि आत्म-विनाश की संबंधित क्षमताओं के साथ, एआई बाहरी दुनिया से कम से कम और परमाणु या सैन्य सुविधा की सुरक्षा के स्तर के साथ निरंतर नियंत्रण में होगा। यह तीसरे बिंदु के संबंध में है (मुझे आशा है कि आपको कोई आपत्ति नहीं है कि वे क्रम से बाहर हो गए हैं)।

जैसा कि मैंने पहले ही नोट किया है, मानवता एकजुट नहीं है। इसका मतलब यह है कि AI, एक पक्ष द्वारा बनाया जा रहा है, तुरंत अन्य राज्यों को अपना AI कार्यान्वयन बनाने के लिए प्रेरित करेगा। यह पहले से ही आदमी और मशीन के बीच टकराव की असंभवता का अर्थ है। कई प्रतिस्पर्धी मशीनें होंगी। और वे उस ब्लॉक की समस्याओं से निपटेंगे जिसमें वे बनाए गए थे। इसलिए, यदि एआई में से एक नियंत्रण से बाहर हो जाता है, तो यह बिल्कुल उसी के साथ प्रतिस्पर्धा करेगा, और संभवतः प्रतियोगियों के एआई के बेहतर मॉडल भी हैं और इसमें बहुत संदेह है कि एआई केवल एआई + लोगों पर जीत सकता है।

वैसे भी, और AI अपने रचनाकारों पर युद्ध की घोषणा करने का फैसला क्यों करता है? यहां तक ​​कि अगर हम मानते हैं कि 1 बिंदु मनाया जाता है और एआई वास्तव में मानव मस्तिष्क को पार करता है, तो अभी भी कई बिंदु हैं जिन्हें स्पष्ट किया जाना चाहिए: क्या एआई न केवल आत्म-विश्लेषण, बल्कि आत्म-प्रतिबिंब भी सक्षम है? क्या वह मानवता से अलगाव में अपने अस्तित्व के अर्थ को समझ सकता है? दरअसल, मानवता के साथ युद्ध शुरू करने के लिए, हमें किसी तरह से अपने स्वयं के लक्ष्यों के साथ हस्तक्षेप करना चाहिए, अपने स्वयं के आत्म-हस्तक्षेप के साथ हस्तक्षेप करना चाहिए। लेकिन एआई का उद्देश्य क्या हो सकता है? मानव जाति नष्ट हो रही है, फिर क्या? विकसित करने के लिए? किस लिए? ब्रह्मांड में जीवित रहने के लिए? पहला, मानवता इसमें बिल्कुल भी हस्तक्षेप नहीं करती है। और इस मामले में एआई और मानवता के लक्ष्य समान हैं। यहां हम सत्ता की जब्ती, समाज के परिवर्तन, और इसी तरह के बारे में बात कर सकते हैं, लेकिन विनाश के युद्ध के बारे में नहीं। और वास्तव में, यदि मानवता के पास हजारों वर्षों से खुद के लिए निर्धारित है कि विकास एक अच्छा और एक मूल्य है, तो यह बिल्कुल भी नहीं है कि इसे तर्कसंगत दृष्टिकोण से समझाया जा सकता है। यह एक बहुत ही गंभीर समस्या है और इसे बिना सोचे समझे हल किए जाने से दूर है क्योंकि हम इसके अभ्यस्त हैं। आज के मनुष्य के लिए, विकास धर्म के समान है। हमारा मानना ​​है कि विकसित होने से हमें मूलभूत सवालों के जवाब मिलेंगे। इन सवालों में से एक ठीक हमारे अपने अस्तित्व का अर्थ है। यानी एआई बिल्कुल उसी मुद्दे का सामना करेगा। भले ही यह विशुद्ध रूप से तकनीकी रूप से हम मनुष्यों की तुलना में अधिक शक्तिशाली है, लेकिन यह मनुष्य और जानवर के बीच छलांग के समान गुणात्मक छलांग नहीं होगा।

यह मानने का अच्छा कारण है कि गुणात्मक अर्थ में यह किसी व्यक्ति की तुलना में ठीक से कमजोर होगा क्योंकि इसकी गैर-विकासवादी प्रकृति है। एक व्यक्ति जो अपनी गलती मानता है, वास्तव में, चयन का परिणाम है, जो कई लाखों वर्षों तक रहता है। यह केवल हमारी प्रजातियों के बारे में नहीं है, बल्कि विकास की पूरी श्रृंखला के बारे में है। यह हमारी बुद्धिमत्ता की विशेषताओं पर भी लागू होता है। और कोई फर्क नहीं पड़ता कि हम एआई बनाना चाहते हैं, यह हमारी अपनी धारणाओं तक सीमित होगा। मुझे नहीं लगता कि हम अपनी रचना में खुद को पार कर सकते हैं। कंप्यूटर गणितीय कार्य तेजी से करते हैं। तो क्या? इस तथ्य से कि वे तेजी से सोचते हैं, यह उन्हें सामान्य रूप से गुणात्मक रूप से बेहतर नहीं बनाता है। इसका क्या मतलब है? गतिविधि के एक निश्चित क्षेत्र में वह कमजोर होगा। और यह अपरिहार्य है। तो वह कयामत है।

विशुद्ध रूप से दार्शनिक समस्याओं के बाद, स्व-प्रजनन की संभावना का सवाल अब इतना महत्वपूर्ण नहीं लगता है। लेकिन फिर भी, क्या एआई को पता होगा कि यह कैसे काम करता है? क्या वह खुद को पुन: पेश करने में सक्षम होगा? यह उत्पादन के साधनों तक सीधी पहुंच का इतना प्रश्न नहीं है, जितना कि किसी के अपने डिवाइस को समझने का मामला है। आखिरकार, यह स्पष्ट है कि उसे मानवता पर युद्ध की घोषणा की स्थिति में किसी तरह खुद की सेवा करनी होगी। उसे अपने नियंत्रण में कारखाने दें, जहां वह अपने लिए कुछ पुर्जों और कुछ डायरियों की मरम्मत करने वालों का उत्पादन करेगा जो इसकी मरम्मत कर सकते हैं। लेकिन यह किसी के लिए कोई रहस्य नहीं है कि एक ठीक क्षण में इस हद तक टूटना होगा जो आगे के संचालन के साथ असंगत है। यही है, यह बस बंद हो जाता है। क्या ड्रॉइड इसे अपने दम पर ठीक कर सकते हैं? एक तथ्य नहीं। और अपूरणीय डेटा हानि के मामले में क्या होगा? यह सब स्वयं के जीवनकाल के निर्माण की आवश्यकता की ओर जाता है, इसकी सटीक समकालिक प्रतिलिपि, बस काम जारी रखने के उद्देश्य से। इसके बिना, मानवता के खिलाफ युद्ध में हार, जिसमें स्व-प्रजनन का एक तंत्र है, बस समय की बात है।

मुझे उम्मीद है कि मैंने इस बारे में पूरी तरह से लिखा है कि मुझे क्यों लगता है कि मूल स्रोत में जो वर्णित है वह सबसे अधिक असंभव है। यदि नहीं, तो आप टिप्पणियों में चर्चा कर सकते हैं। मैं इस जगह पर जाना चाहूंगा जो अभी भी भविष्य में हो सकता है।

संभव परिदृश्य

जैसा कि मैंने पहले ही नोट किया है, मानवता समान नहीं है और समान रूप से विकसित नहीं है। मानवता का अल्पसंख्यक संसाधनों और प्रौद्योगिकियों के बहुमत के पास है। यह अनिवार्य रूप से जोर देता है कि कृत्रिम बुद्धि उन लोगों द्वारा बनाई जाएगी जो सबसे अधिक विकसित हैं। आज, एक रास्ता या कोई अन्य, कई देश तकनीकी रूप से इसके लिए सक्षम नहीं हैं, या यह कहना भी बेहतर है कि देशों के समूह। मैं उन्हें राजनीतिक होलीवर से बचने के लिए नहीं कहूंगा, लेकिन इससे कोई फर्क नहीं पड़ता।

लेकिन आइए हम उन लोगों के दृष्टिकोण से खुद की कल्पना करें जो इसे बनाएंगे और इस पर नियंत्रण स्थापित करेंगे। इस तथ्य के बावजूद कि उनके पास पहले से ही एक निश्चित तकनीकी लाभ है, यह एआई मालिकों के लिए और भी अधिक श्रेष्ठता की स्थिति पैदा करेगा। सभी मुद्दों पर स्वचालित उत्पादन, तेज और उच्च गुणवत्ता वाले विश्लेषिकी, तकनीकी प्रगति की विस्फोटक गति और बाकी सब कुछ। चिकित्सा और प्रौद्योगिकी के विकास से एआई मालिकों को बहुत वास्तविक अमरता प्राप्त होती है ... और फिर सवाल उठता है: बाकी लोग क्यों करते हैं? हां, यह एआई मालिक हैं जिनके पास यह सवाल होगा। कल जिन लोगों ने जरूरी काम किया था, लेकिन आज एआई यह काम करेगा क्या? पहले, उन्हें इसके लिए वेतन मिलता था, खुद को और अपने परिवार को खिलाया जाता था। अब उन्हें बस जरूरत नहीं है। वे विश्व-प्रसिद्ध विशेषज्ञ नहीं हैं, वे अपने क्षेत्र में विशेष रूप से अपूरणीय नहीं हैं, लेकिन अगर आज समाज को जीवन स्तर को बनाए रखने के लिए उनकी आवश्यकता है जो कि इसका उपयोग करते थे, तो कल वे सिर्फ एक बोझ होंगे, जो सब कुछ है अन्य चीजें जो आपको किसी तरह खिलाने, कपड़े पहनने, आवास प्रदान करने, मनोरंजन करने की आवश्यकता होती हैं ... और यदि आप नहीं करते हैं, तो उन लोगों का गुस्सा जनता जो अपनी नौकरी खो चुके हैं, प्राथमिक रूप से विद्रोह करना शुरू कर देंगे।

आशा है कि AI के मालिक हर किसी को THEIR उपलब्धियों के कारण उत्पन्न होने वाले लाभों का आनंद लेने की अनुमति देंगे। यह बड़े पेटेंट पैकेज के मालिकों के व्यवहार से स्पष्ट रूप से संकेत मिलता है। धरती पर वे अपना काम सबके साथ मुफ्त में क्यों करेंगे? हाँ बस यही बात है, कि किसी के साथ भी। वे बाकी हिस्सों से सबसे दूर हैं। और सबसे कम ... सबसे खराब, वे टर्मिनेटर, मैट्रिक्स, आदि से बहुत परिदृश्यों पर सटीक रूप से कार्य करेंगे। केवल उसी संशोधन के साथ जो लोग युद्ध शुरू करते हैं, न कि एक अनूसूचित एआई। हालांकि, इस संशोधन से अधिकांश मानवता के लिए अंतर न्यूनतम होगा। कोई पूछ सकता है: मानवतावाद के बारे में क्या? कोई रास्ता नहीं। यदि प्रजातियों के कुछ व्यक्ति एक बोझ बन जाते हैं जो खुद को भी खिला नहीं सकते हैं, तो इसके लिए कौन खड़ा होगा? बस आधुनिक समाज की बहुत नींव की कल्पना करें, जहां आधी आबादी शहरों में रहती है और किसी भी तरह से खाद्य उत्पादन की प्रक्रिया से जुड़ी नहीं है? अधिकांश शहरी आबादी विनिर्माण और सेवाओं में कार्यरत है। हम उत्पादन हटाते हैं - अब स्वचालित मशीनें वहां काम करती हैं। विनिर्माण क्षेत्र से उपभोक्ताओं के बहिर्वाह के कारण सेवा क्षेत्र तेजी से ढह जाता है। शहरी आबादी के दो तिहाई लोगों को आजीविका के बिना छोड़ दिया जाता है।

यह, निश्चित रूप से, अचानक नहीं होगा, जो अधिक सक्षम है वह अवसरों के साथ चिपकेगा, कोई देश के लिए रवाना होगा और अंततः पुरातन करेगा, क्योंकि इस मामले में उसके पास कोई ग्राहक नहीं होगा (रोबोट खेतों की उपस्थिति में), तदनुसार, वह निर्वाह खेती के लिए बर्बाद हो जाएगा। अभी भी ऐसे लोगों का एक हिस्सा है जो एआई के मालिकों के साथ एक ट्रेन पर उड़ान भरने में सक्षम नहीं हैं और किसी कारण से गांव में नहीं रह सकते हैं। वह क्या करेगी? उसका जीवन स्तर चरम पर चला जाएगा, जब हताशा में, वह सशस्त्र विद्रोह तक, बदलाव की मांग करना शुरू कर देता है। उस समय, आबादी के इस हिस्से को नष्ट करने के लिए एक घातक निर्णय लिया जाएगा, और "प्राकृतिक श्रमिकों" के एक हिस्से के लिए जो उन्हें आपूर्ति करेगा।
मानवता को दो भागों में विभाजित किया जाएगा: सुपरटेक्नोट्रॉनिक, लगभग अमर, न कि कई अभिजात वर्ग, और पुरातन प्राकृतिक वैज्ञानिक, जो सबसे अच्छे रूप में, मध्य युग में डुबकी लगाएंगे।

आउटपुट के बजाय

बेशक, यह सिर्फ मेरी कल्पना है। लेकिन, मेरी समझ से, समझदारी से निर्णय लेते हुए, भविष्य की ऐसी तस्वीर शास्त्रीय अर्थों में मशीनों के विद्रोह से कहीं अधिक वास्तविक है। और वैसे भी, एक समान परिदृश्य के अनुसार सब कुछ बस जाने की संभावना सामान्य रुझानों के संदर्भ में बहुत अधिक है। मुझे लगभग कोई संदेह नहीं है कि एक रूप में या किसी अन्य AI का निर्माण किया जाएगा। इसके अलावा, मेरे पास एक कूबड़ है कि यह किसी विशेष देश द्वारा नहीं बनाया जाएगा, लेकिन एक प्रकार के अंतरराष्ट्रीय समूह द्वारा, दुनिया की अधिकांश निजी पूंजी के मालिकों, जिनमें स्वाभाविक रूप से आईटी उद्योग के आज के दिग्गज शामिल हैं। यह महत्वपूर्ण नहीं है कि किस राज्य में इस समूह का मुख्यालय होगा। अपने निपटान एआई में प्राप्त होने के बाद, वे किसी भी क्षेत्र में किसी भी सरकार को उखाड़ फेंकने और स्थापित करने में सक्षम होंगे। इसलिए, यह मानने का कुछ कारण है कि केवल दूसरे एआई की उपस्थिति, जिसे पहले के विपरीत बनाया जाना चाहिए और जो 20 वीं शताब्दी में अपने स्वयं के परमाणु शस्त्रागार की भूमिका निभाएगा, इस खाई में गिरने से बचा सकता है। लेकिन आज एआई को कौन बना सकता है? अन्य सुपरकोरपरेशंस प्रकृति में मौजूद नहीं हैं। इसके अनुसार, केवल राज्य के खिलाड़ी हैं जिनके पास तुलनीय संसाधन हैं। लेकिन समस्या इस तथ्य में निहित है कि, वास्तव में, पर्याप्त क्षमता वाले राज्यों में से कोई भी नैतिक या तकनीकी रूप से इस दौड़ में प्रवेश करने के लिए तैयार नहीं है। जिसका अर्थ है ... जो भी इसका अर्थ है, लेकिन तकनीकी भविष्य की विलक्षणता, अमरता और अन्य लाभों के बारे में बात करने से पहले, इस बारे में सोचें कि क्या आपको इस तकनीकी भविष्य की आवश्यकता है।