अनुकूल ऐ और ब्रह्मांड पर कब्जा

मान लीजिए कि हमारे पास दो विकल्प हैं।

• 1000 लोगों को छोड़कर सभी लोग मर जाएंगे। यह 7 बिलियन की मौत है।
• पिछले 1000 लोग मर जाएंगे। यह केवल 1000 मौतें हैं।

कौन सा बदतर है? यदि आप थोड़ा सोचते हैं, तो दूसरा विकल्प बहुत बुरा है। क्यों? खैर, मानवता मर जाएगी और क्या? बड़ी बात नहीं। यह समस्या नहीं है, लेकिन समस्या यह है कि यदि अंतिम 1000 लोग मर जाते हैं, तो हम अरबों और खरबों जीवन खो देंगे जो आज से पैदा हो सकते हैं और जीवित रह सकते हैं और ब्रह्मांड की तापीय मृत्यु के साथ समाप्त हो सकते हैं। हमारा सौर मंडल, मिल्की वे, कन्या सुपरक्लस्टर और पूरा ब्रह्मांड बेरोज़गार और निर्जन रहेगा।




हम इतिहास में एक दिलचस्प क्षण में रहते हैं। हमारे पास समय के साथ मानवता को समय-समय पर खराब करने और नष्ट करने का अवसर है। यदि सबकुछ ठीक हो जाता है, तो जल्द या बाद में मानवता पृथ्वी से परे जाएगी और सैकड़ों और हजारों दुनिया का उपनिवेश करेगी। तब सिर्फ मानवता को ले जाना और नष्ट करना असंभव होगा। यानी हम मानवता के रूप में, अब विकास और बढ़ने के सबसे खतरनाक दौर से गुजर रहे हैं, और अगर हम इसके माध्यम से फिसलते हैं, तो मानवता का एक दिलचस्प और अद्भुत भविष्य होगा।

इस बड़े और उज्ज्वल भविष्य में जाने के लिए, हमें प्रौद्योगिकी, नई खोजों और संसाधन खपत के अनुकूलन की आवश्यकता है। कृत्रिम बुद्धि की मदद के लिए इन मामलों में सबसे बड़ी उम्मीद है। अब एआई बनाने की समस्याओं से हजारों और हजारों लोग जूझ रहे हैं। फिलहाल, महत्वपूर्ण प्रगति है। एआई ने शून्य चिह्न से दूर खींच लिया और सत्ता हासिल करना शुरू कर दिया। वह अभी भी एक व्यक्ति से बहुत दूर है, लेकिन उसे आराम नहीं करना चाहिए। एम्स पहले से ही डंबास और जीनियस को अलग करने की तुलना में अधिक बड़ा रास्ता तय कर चुका है। बुद्धि के पूर्ण पैमाने पर, एक व्यक्ति बहुत चालाक है, लेकिन व्यक्तियों के बीच सापेक्ष अंतर इतना बड़ा नहीं है। यदि (जब) ​​एआई एक गूंगे व्यक्ति की बुद्धिमत्ता के स्तर पर आ जाता है, तो वह बहुत जल्दी एक प्रतिभाशाली व्यक्ति से अधिक चालाक बन जाएगा और हम सृजन का ताज नहीं बनेंगे, बल्कि केवल दूसरे नंबर पर होंगे। एआई का बड़ा प्लस यह है कि यह शारीरिक रूप से मनुष्यों की तुलना में बहुत तेज है। हमारे मस्तिष्क की घड़ी की आवृत्ति केवल लगभग 100 हर्ट्ज है। सब कुछ बड़े पैमाने पर समानता पर टिका है। यदि आप बस मूर्खतापूर्ण तरीके से मानव मस्तिष्क को ट्रांजिस्टर के साथ दोहराते हैं, तो यह हजारों गुना तेजी से काम करेगा। एआई का दूसरा प्लस यह है कि यह आत्म-संशोधन करने में सक्षम है। एक व्यक्ति जानता है कि कैसे सीखना है, लेकिन यह नहीं जानता कि उसके मस्तिष्क का पुनर्निर्माण कैसे किया जाए। एआई इसके लिए सक्षम होगा और निश्चित रूप से यह करेगा। इस प्रकार, जब एआई अपने रचनाकारों के बौद्धिक स्तर तक पहुंचता है, तो वह अपने रचनाकारों की तुलना में खुद को बेहतर तरीके से फिर से लिखने में सक्षम होगा। वह फिर से लिखेगा, होशियार बनेगा, और खुद को और भी बेहतर तरीके से फिर से लिखने का रास्ता निकालेगा। यह सकारात्मक प्रतिक्रिया के साथ एक लूप को बदल देता है, जो एआई को खुफिया की ब्रह्मांडीय दूरी में शूट करने की अनुमति देगा। इस घटना को "बुद्धि का विस्फोट" कहा जाता है।

AI पाठ कंसोल के माध्यम से भी शक्ति प्राप्त करेगा, लेकिन यह बाहरी दुनिया को नियंत्रित कर सकता है। एक बड़ा भाई हमारे पास आएगा। यह एआई क्या करेगा? हम इसकी भविष्यवाणी नहीं कर सकते क्योंकि हम पर्याप्त स्मार्ट नहीं हैं। हो सकता है कि वह मानवता को नष्ट करने का फैसला करता है, हो सकता है कि वह हमें उन सभी आशीर्वादों के साथ स्नान करने का फैसला करता है जो हम सोच सकते हैं। शायद यह वह है जो हमें ब्रह्मांड में ले जाएगा और हमें ब्रह्मांड के लिए रास्ता खोल देगा। सवाल यह है कि हम इसे कैसे प्रोग्राम करते हैं। और यहाँ मज़ा हिस्सा आता है।

आप केवल मुफ्त में सभी लोगों की खुशी के लिए AI ले और प्रोग्राम कर सकते हैं। इसके परिणामस्वरूप AI सभी लोगों के लिए एक लोबोटॉमी बना सकता है। हम खुश होंगे, लेकिन ऐसा नहीं है जो हम चाहेंगे। मशीन लर्निंग में एक मानक दृष्टिकोण कार्यों के एक सेट को अधिकतम करने के लिए प्रोग्रामिंग है। एफ (खुशी) -> अधिकतम, एफ (एचडीआई) -> अधिकतम। लेकिन हम एआई को अधिकतम करने के लिए सभी मापदंडों को सूचीबद्ध नहीं कर सकते हैं। हम इन मापदंडों को अपने लिए भी सूचीबद्ध नहीं कर सकते हैं। इसके अलावा, हम क्या चाहते हैं और कौन सा विश्व व्यवस्था हमें सूट करता है, के बारे में हमारा विचार कई बदलाव आया है। केवल पिछले 200 वर्षों में, मानवता ने गुलामी को समाप्त कर दिया है, अधिकारों में महिलाओं की बराबरी की है, मानव अधिकारों का आविष्कार किया है, आदि। आज हमारे आचार संहिता को लेना और उसका अनुसरण करने के लिए एआई को प्रोग्राम करना मूर्खता होगी। एआई को हमारे नैतिक कोड वेक्टर का पालन करना चाहिए, न कि खुद कोड। उसे कैसे पढ़ाया जाए यह बिल्कुल स्पष्ट नहीं है। जब तक मानव अवलोकन और प्रशिक्षण के माध्यम से।

संभावित एआई का एक विशाल स्थान है। और हमें सिर्फ एक बनाने की जरूरत है जो हमें विनाश की ओर न ले जाए और हमें लुटे-पिटे बेवकूफ न बनाए। यह पता चला है कि दुनिया में ऐसे लोग हैं जो इस समस्या के बारे में सोचते हैं, सम्मेलनों और पूरे संस्थानों को व्यवस्थित करते हैं।