लंदन: चार कृत्रिम होशियारी एक में उनके काम का हवाला दिए जाने के बाद विशेषज्ञों ने चिंता व्यक्त की है खुला पत्र – एलोन द्वारा सह-हस्ताक्षरित कस्तूरी – मांग करना तत्काल विराम अनुसंधान के क्षेत्र में।
पत्र, 22 मार्च को और शुक्रवार तक 1,800 से अधिक हस्ताक्षरों के साथ, Microsoft समर्थित OpenAI के नए GPT-4 की तुलना में “अधिक शक्तिशाली” सिस्टम के विकास में छह महीने के सर्किट-ब्रेकर का आह्वान किया गया, जो मानव जैसी बातचीत कर सकता है। . , गाने लिखें और लंबे दस्तावेज़ों को सारांशित करें।
GPT-4 के पूर्ववर्ती के बाद से चैटजीपीटी पिछले साल जारी किया गया था, प्रतिद्वंद्वी कंपनियां इसी तरह के उत्पादों को लॉन्च करने के लिए दौड़ पड़ी हैं।
खुले पत्र में कहा गया है कि एआई सिस्टम “मानव-प्रतिस्पर्धी बुद्धि” के साथ मानवता के लिए गहरा जोखिम पैदा करता है, जिसमें विश्वविद्यालय के शिक्षाविदों के साथ-साथ ओपनएआई के वर्तमान और पूर्व कर्मचारियों सहित विशेषज्ञों के 12 शोधों का हवाला दिया गया है। गूगल और इसकी सहायक डीपमाइंड।
अमेरिका और यूरोपीय संघ में नागरिक समाज समूहों ने ओपनएआई के शोध पर लगाम लगाने के लिए सांसदों पर दबाव डाला है। OpenAI ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया।
आलोचकों ने फ्यूचर ऑफ लाइफ इंस्टीट्यूट (एफएलआई) पर आरोप लगाया है, पत्र के पीछे का संगठन जो मुख्य रूप से मस्क फाउंडेशन द्वारा वित्त पोषित है, एआई के बारे में अधिक तात्कालिक चिंताओं जैसे नस्लवादी या सेक्सिस्ट पूर्वाग्रहों पर काल्पनिक सर्वनाश परिदृश्यों को प्राथमिकता देने के लिए।
उद्धृत शोध में “ऑन द डेंजरस ऑफ़ स्टोचैस्टिक पैरेट्स” था, जिसके सह-लेखक थे मार्गरेट मिशेल, जो पहले Google में नैतिक AI अनुसंधान का निरीक्षण करते थे। एआई फर्म हगिंग फेस में अब मुख्य नैतिक वैज्ञानिक मिशेल ने पत्र की आलोचना करते हुए रॉयटर्स को बताया कि यह स्पष्ट नहीं था कि “जीपीटी4 से अधिक शक्तिशाली” के रूप में क्या गिना जाता है।
“बहुत सारे संदिग्ध विचारों को दिए गए के रूप में मानते हुए, पत्र प्राथमिकताओं का एक सेट और एआई पर एक कथा का दावा करता है जो एफएलआई के समर्थकों को लाभ पहुंचाता है,” उसने कहा। “अभी सक्रिय नुकसान को अनदेखा करना एक विशेषाधिकार है जो हममें से कुछ के पास नहीं है।”
मिचेल और उनके सह-लेखक – टिमनिट गेब्रू, एमिली एम. बेंडर, और एंजेलीना मैकमिलन-मेजर – ने बाद में पत्र का जवाब प्रकाशित किया, जिसमें इसके लेखकों पर “भयावह और एआई प्रचार” का आरोप लगाया गया।
उन्होंने लिखा, “एक काल्पनिक एआई-सक्षम यूटोपिया या सर्वनाश के साथ खुद को विचलित करना खतरनाक है जो या तो ‘उत्कर्ष’ या ‘संभावित विनाशकारी’ भविष्य का वादा करता है।”
“जवाबदेही ठीक से कलाकृतियों के साथ नहीं बल्कि उनके बिल्डरों के साथ है।” एफएलआई अध्यक्ष मैक्स टेगमार्क रायटर को बताया कि अभियान OpenAI के कॉर्पोरेट लाभ में बाधा डालने का प्रयास नहीं था।
“यह काफी प्रफुल्लित करने वाला है। मैंने लोगों को यह कहते देखा है, ‘एलोन मस्क प्रतियोगिता को धीमा करने की कोशिश कर रहे हैं,” उन्होंने कहा, यह कहते हुए कि पत्र का मसौदा तैयार करने में मस्क की कोई भूमिका नहीं थी। “यह एक कंपनी के बारे में नहीं है।”
अब जोखिम
शिरी डोरी-हाकोहेन, एक सहायक प्रोफेसर कनेक्टिकट विश्वविद्यालयने रॉयटर्स को बताया कि वह पत्र के कुछ बिंदुओं से सहमत हैं, लेकिन जिस तरह से उनके काम का हवाला दिया गया है, उससे उन्हें परेशानी हुई।
उसने पिछले साल एक शोध पत्र का सह-लेखन किया था जिसमें तर्क दिया गया था कि एआई के व्यापक उपयोग से पहले से ही गंभीर जोखिम हैं। उनके शोध ने तर्क दिया कि एआई सिस्टम का वर्तमान उपयोग जलवायु परिवर्तन, परमाणु युद्ध और अन्य अस्तित्व संबंधी खतरों के संबंध में निर्णय लेने को प्रभावित कर सकता है।
उसने कहा: “एआई को उन जोखिमों को कम करने के लिए मानव-स्तर की खुफिया जानकारी तक पहुंचने की आवश्यकता नहीं है।”
आलोचना पर टिप्पणी करने के लिए कहे जाने पर, FLI के टेगमार्क ने कहा कि AI के अल्पकालिक और दीर्घकालिक दोनों जोखिमों को गंभीरता से लिया जाना चाहिए। “अगर हम किसी को उद्धृत करते हैं, तो इसका मतलब है कि हम दावा करते हैं कि वे उस वाक्य का समर्थन कर रहे हैं। इसका मतलब यह नहीं है कि वे पत्र का समर्थन कर रहे हैं, या हम उनके हर विचार का समर्थन करते हैं,” उन्होंने एक समाचार एजेंसी को बताया।
कैलिफ़ोर्निया स्थित सेंटर फ़ॉर एआई सेफ्टी के निदेशक डैन हेंड्रिक्स, जिन्हें पत्र में उद्धृत भी किया गया था, अपनी सामग्री के साथ खड़े थे, उन्होंने रॉयटर्स को बताया कि ब्लैक स्वान घटनाओं पर विचार करना समझदारी थी – जो असंभाव्य दिखाई देती हैं, लेकिन विनाशकारी परिणाम होंगे।
खुले पत्र में यह भी चेतावनी दी गई थी कि इंटरनेट को “प्रचार और असत्य” से भर देने के लिए जनरेटिव एआई टूल्स का इस्तेमाल किया जा सकता है। डोरी-हाकोहेन ने कहा कि मस्क के लिए इस पर हस्ताक्षर करना “बहुत समृद्ध” था, मंच के अपने अधिग्रहण के बाद ट्विटर पर गलत सूचना में कथित वृद्धि का हवाला देते हुए, नागरिक समाज समूह कॉमन कॉज़ और अन्य द्वारा प्रलेखित। कस्तूरी और ट्विटर ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया।
.