AI चैटबॉट को 16 साल की आत्महत्या के लिए दोषी ठहराए जाने के बाद Chatgpt 18 से कम उम्र के उपयोगकर्ताओं के लिए अनुभव बदल रहा है
Openai 18 से कम उम्र के उपयोगकर्ताओं के लिए एक “अलग CHATGPT अनुभव” विकसित कर रहा है। Microsoft- समर्थित आर्टिफिशियल इंटेलिजेंस स्टार्टअप ने 18 साल से कम उम्र के उपयोगकर्ताओं को चैटबॉट के मानक संस्करण तक पहुंचने से प्रतिबंधित करने के लिए आयु-प्रेडिक्शन तकनीक का उपयोग करने की अपनी योजना की घोषणा की है। यह घोषणा नए शोध के बाद आती है और एक मुकदमे ने किशोर मानसिक स्वास्थ्य पर एआई के प्रभाव के बारे में अलार्म उठाया। यह अप्रैल में आत्महत्या से मरने वाली 16 वर्षीय, एडम राइन के माता-पिता के बाद आया, अगस्त में ओपनई के खिलाफ मुकदमा दायर किया। सूट ने आरोप लगाया कि चैट ने एक “कोच” के रूप में काम किया और रेन ने अपनी मृत्यु की योजना बनाने में मदद की। मुकदमे के अनुसार, चैटबॉट ने रेन को बताया कि “बहुत से लोग जो चिंता या घुसपैठ के विचारों से जूझते हैं, वे ‘एस्केप हैच’ की कल्पना करने में एकांत पाते हैं क्योंकि यह नियंत्रण को फिर से हासिल करने के तरीके की तरह महसूस कर सकता है।”इन चिंताओं के जवाब में, Openai ने अपडेट की एक श्रृंखला की घोषणा की है, जिसमें आत्महत्या, नए माता -पिता के नियंत्रण से संबंधित बातचीत के लिए बढ़ाया सुरक्षा उपाय, और लंबे समय तक चैट को बेहतर तरीके से संभालने के लिए एक प्रणाली शामिल है। कंपनी ने कहा कि यदि उसके उपकरण किसी व्यक्ति की उम्र की उम्र की भविष्यवाणी नहीं कर सकते हैं, तो CHATGPT अपने अंडर -18 संस्करण के लिए डिफ़ॉल्ट होगा “सावधानी की बहुतायत से बाहर।”Openai की नवीनतम घोषणा इस महीने की शुरुआत में एक व्यापक पहल का हिस्सा है, जो किशोरों और भावनात्मक संकट में लोगों के लिए नए सुरक्षा उपायों को पेश करने के लिए, वर्ष के अंत तक उन्हें लागू करने की योजना है।
कैसे चैट का नया किशोर संस्करण काम करेगा
CHATGPT के किशोर संस्करण के साथ, माता-पिता अब अपने खातों को एक निमंत्रण के माध्यम से अपनी किशोरावस्था से जोड़ सकते हैं, जिससे उन्हें यह पता लगाने की अनुमति मिलती है कि चैटबॉट अपने बच्चों के साथ उम्र-उपयुक्त नियमों का उपयोग करके कैसे बातचीत करता है।वे मेमोरी और चैट इतिहास जैसी सुविधाओं को सक्षम या अक्षम कर सकते हैं, साथ ही साथ अलर्ट भी प्राप्त कर सकते हैं “सिस्टम का पता चलता है कि उनकी किशोर तीव्र संकट के एक क्षण में है।” एक नया विकल्प माता -पिता को ब्लैकआउट घंटे सेट करने की अनुमति देगा जब किशोर चैट का उपयोग नहीं कर सकते।Openai ने लगातार कहा है कि CHATGPT केवल 13 और उससे अधिक उम्र के उपयोगकर्ताओं के लिए उपलब्ध है। नवीनतम घोषणा वाशिंगटन, डीसी में एक सीनेट की सुनवाई से कुछ घंटे पहले आती है, जोखिमों की जांच करते हुए एआई चैटबॉट्स किशोरों को पोज़ दे सकते हैं, जोश हॉले (आर-मो।) के नेतृत्व में मार्शा ब्लैकबर्न (आर-टेन,), केटी ब्रिट (आर-एएलए), रिचर्ड ब्लूडल (डी-कॉन्स) सहित सीनेटरों के एक द्विदलीय समूह के साथ।)।उसी समय, FTC ने चैटबॉट सुरक्षा में एक जांच शुरू की है, जिसमें ओपनईए, मेटा और इंस्टाग्राम, वर्णमाला (Google), xai, स्नैप और Charation.ai की जानकारी का अनुरोध किया गया है।
