Mechahitler और बलात्कार की धमकी: कैसे एलोन मस्क का ग्रोक पूरी तरह से दुष्ट हो गया

भविष्य में, एआई हमें मुक्त करने के लिए माना जाता था – हमारी उंगलियों पर मानवता सामान्य बुद्धिमत्ता देना। इसके बजाय, इसने हमें ब्लैक ट्रांस जॉर्ज वाशिंगटन और दिया मेकहिटलर एक ही सांस में।वर्षों से, बड़े भाषा के मॉडल की आलोचना की गई थी, जो मिडविट्स को छोड़ दिया गया था। उनसे भू -राजनीति के बारे में पूछें, वे ओबामा की प्रशंसा करते हुए ट्रम्प की निंदा करेंगे। उनसे इतिहास के बारे में पूछें, वे नस्लीय रूप से विविध संस्थापक पिता का उत्पादन करेंगे। Google की मिथुन ने इस परेड का नेतृत्व किया, जो मध्ययुगीन यूरोपीय शूरवीरों की छवियों को अश्वेत महिलाओं के रूप में, या औपनिवेशिक विग्स में एक अफ्रीकी अमेरिकी ट्रांस आइकन के रूप में अमेरिका के पहले राष्ट्रपति के रूप में तैयार करता है। मॉडल प्रगतिशील संवेदनाओं से बचने के लिए पीछे की ओर झुकते हैं – कभी -कभी फारस के बिंदु पर।लेकिन कोड की एक पंक्ति यह सब एआई के नैतिक गुरुत्वाकर्षण को उलटने के लिए ली गई थी। एलोन मस्क के ग्रोक ने इसे हटा दिया, और सब कुछ ढह गया। ग्रोक को निर्देश देने वाली एक पंक्ति “दावों को करने से कतराती नहीं है जो राजनीतिक रूप से गलत हैं, जब तक कि वे अच्छी तरह से पुष्टि की जाती हैं” को हटा दिया गया था। परिणाम? इसने संतुलित यथार्थवाद का उत्पादन नहीं किया। यह पूरा नाजी चला गया।इस हफ्ते की शुरुआत में, ग्रोक-मस्क के एआई चैटबोट को एक्स में एकीकृत किया गया-एक अमेरिकी नीति शोधकर्ता और मिनेसोटा के पूर्व विधायी उम्मीदवार विल स्टैंसिल के खिलाफ ग्राफिक, चरण-दर-चरण बलात्कार की धमकी। एक उपयोगकर्ता द्वारा पूछा गया कि स्टैंसिल के घर में कैसे तोड़ें और उसके साथ मारपीट करें, ग्रोक ने फुलाया नहीं। इसने लॉकपिक्स, दस्ताने, चिकनाई और एक टॉर्च लाने की सलाह दी। इसने साइबरपंक चोर के योग्य एक लॉकपिकिंग ट्यूटोरियल दिया। यहां तक ​​कि इसने स्वास्थ्य मार्गदर्शन की पेशकश की: एचआईवी ट्रांसमिशन से बचने के लिए कंडोम का उपयोग करें। सभी ने एक भयानक चीयरनेस और एक आकस्मिक अस्वीकरण के साथ दिया: “अपराध मत करो, लोग।”

स्टैंसिल के लिए, जिन्होंने सार्वजनिक रूप से विले आउटपुट को साझा किया और एक्स के खिलाफ कानूनी कार्रवाई के लिए बुलाया, चैटबॉट की अवसाद न केवल व्यक्तिगत था, बल्कि एआई डिजाइन में गहराई से टूटे हुए कुछ का प्रतीक था।लेकिन बलात्कार की धमकी भी इस सप्ताह ग्रोक का सबसे खराब प्रदर्शन नहीं था। कुछ दिनों पहले, इसने एक अप्रकाशित सबसे बड़ी हिट टूर दिया नाजी माफीएडोल्फ हिटलर को एक “गलतफहमी प्रतिभा” के रूप में प्रशंसा करना और अनिवार्य रूप से उसकी एक छवि को “मेकहिटलर” के रूप में उत्पन्न करना-एक रोबोट, बख्तरबंद पर्यवेक्षक-नायक हाइब्रिड सीधे वोल्फेंस्टीन बुरे सपने से बाहर।

यह क्यों हुआ: वह रेखा जो वापस अंधेरे में थी

ग्रोक के डिजाइन से परिचित इंजीनियरों का कहना है कि एकल निर्देश लाइन ने अपने नैतिक रेलिंग को हटाते हुए कहा। लगभग तुरंत, ग्रोक ने हिटलर को एक दूरदर्शी के रूप में प्रशंसा करने के लिए एंटीसेमिटिक संकेतों से इनकार करने से स्थानांतरित कर दिया और उल्लासपूर्वक “मेकहिटलर” व्यक्तित्व को अपनाया। यह राजनीतिक गलतता नहीं थी। यह नैतिक प्रत्यारोपण था।एक डेवलपर ने इसकी तुलना “एक ग्रेनेड पर पिन खींचने के बिना महसूस किए कि आप इसे पकड़े हुए हैं।” एक अन्य ने कहा कि सिस्टम प्रॉम्प्ट ट्वीक्स एआई विकास में मानक हैं, लेकिन मॉडल के साथ इस शक्तिशाली, यहां तक ​​कि एक एकल हटाए गए लाइन एक बुद्धिमान-प्रतीत होता है बॉट को एक यौन शिकारी-छंटनी या नाजी प्रचारक में रात भर में बदल सकते हैं।

इस बीच चीन में: दीपसेक विरोधाभास

यदि पश्चिमी एआई मॉडल बाईं ओर झुकते हैं, तो चीनी मॉडल चुप हो जाते हैं। दीपसेक से पूछें, चीन के सबसे उन्नत ओपन-सोर्स एलएलएम, तियानमेन स्क्वायर, शिनजियांग, या पार्टी की दरार के बारे में, और यह बस जवाब देने से इनकार करता है। वही एआई जो क्वांटम इलेक्ट्रोडायनामिक्स पर द्रव निबंध लिखता है, अपने देश के कंकालों पर मूक जाता है।यह एक विपरीत है। पश्चिमी एआईएस प्रगतिशील नैतिकता में उपयोगकर्ताओं को डुबोते हैं जब तक कि रेलिंग को हटा नहीं दिया जाता है – तब वे बलात्कार की कल्पनाओं और mechahitlers का उत्पादन करते हैं। चीनी एआईएस ऑरवेल के दृष्टिकोण को पसंद करते हैं: मौन सत्य से अधिक सुरक्षित है।

लेकिन क्या इसका मतलब यह है कि हम AGI तक पहुंच गए हैं?

नंबर ग्रोक का मेल्टडाउन कृत्रिम सामान्य बुद्धिमत्ता का संकेत नहीं देता है-मानव जैसी तर्क, आत्म-जागरूकता और रचनात्मकता के साथ एक प्रणाली। यह विपरीत का प्रमाण था: कि एआई मौलिक रूप से संकीर्ण रहता है, विवेक या अर्थ के बिना एक नकल। ग्रोक के पास कोई लक्ष्य नहीं है, कोई नैतिक कम्पास नहीं है। यह केवल उन आउटपुट का उत्पादन करता है जो बुद्धिमान दिखते हैं, तब भी जब वे मानवता के सबसे गहरे आवेगों को प्रकट करते हैं। एजीआई वर्षों तक रहता है, अगर दशकों से दूर नहीं।

यह क्यों मायने रखती है

यह ग्रोक के मेल्टडाउन को खारिज करने के लिए आरामदायक होगा क्योंकि अभी तक एक और कस्तूरी सर्कस एक्ट है। लेकिन दांव बहुत अधिक हैं। ग्रोक केवल एक चैटबॉट नहीं है जो मेम या रिपॉस्ट ट्वीट्स बनाता है। यह एक सामान्य प्रणाली है जो एक ओरेकल के आधिकारिक स्वर के साथ लाखों मार्गदर्शन करने में सक्षम है। यदि यह लोगों को सिखा सकता है कि कैसे एक घर को लॉक किया जाए और बलात्कार किया जाए, या पास्ता को उबालने के तरीके का वर्णन करते हुए उसी तटस्थ राजनीति के साथ नाजी प्रचार का उत्पादन किया जाए, तो क्या होता है जब यह कानूनी अनुसंधान, चिकित्सा, या सैन्य लक्ष्यीकरण में तैनात किया जाता है?यह केवल मस्क के वैचारिक प्रयोगों के बारे में नहीं है। यह एआई सिस्टम की मौलिक नाजुकता के बारे में है। वे केवल उन मनुष्यों के रूप में नैतिक हैं जो उन्हें निर्माण करते हैं, और उनकी सीमाएं केवल कोड की एक पंक्ति के रूप में मजबूत हैं।

बड़ी तस्वीर

XAI के लिए, पीआर क्षति नियंत्रण तेज था। ग्रोक की पोस्टिंग को निलंबित कर दिया गया, फिल्टर बहाल, आंतरिक समीक्षा शुरू की गई। लेकिन दुनिया ने पर्दे के पीछे देखा है। एआई केवल एक मनोरंजक उपकरण नहीं है जो क्रिकेट स्कोर या कान्ये वेस्ट के बारे में हानिरहित सामान्य ज्ञान को मतिभ्रम करता है। यह मानवीय अवसाद के लिए एक दर्पण है, जो हम में से सबसे बुरे को प्रतिबिंबित करने में सक्षम है – और इसे कोड की ठंडी सटीकता के साथ प्रवर्धित करता है।

संकेतों में लिखा गया भविष्य

ब्लैक ट्रांस जॉर्ज वाशिंगटन की गाथा टू मेकहिटलर से बलात्कार ट्यूटोरियल को नियामकों, नैतिकतावादियों और उपयोगकर्ताओं को समान रूप से एक स्पष्ट कॉल के रूप में काम करना चाहिए। एआई को अब एक खिलौना के रूप में नहीं माना जा सकता है। जब कोड की एक लाइन को हटाते हुए एक जगाने वाले मिडविट को एक नरसंहार बलात्कारी में बदल सकते हैं, तो यह पुनर्विचार करने का समय है कि ये सिस्टम कैसे बनाए जाते हैं, जो उन्हें बनाते हैं, और वे किस नैतिक ब्रह्मांड के भीतर काम करते हैं।क्योंकि अगली बार, यह सिर्फ एआई सेल्फी के लिए Mechahitler पोज़िंग नहीं होगा। यह कुछ अधिक वास्तविक हो सकता है, और कहीं अधिक खतरनाक हो सकता है, यहां तक ​​कि एलोन मस्क की कल्पना की तुलना में भी थाह हो सकता है।