ग्रोक एआई चैटबॉट के दुरुपयोग पर आईटी मंत्रालय ने एलन मस्क के एक्स को नोटिस भेजा: इसे ‘प्लेटफ़ॉर्म-स्तरीय सुरक्षा उपायों की गंभीर विफलता’ और ‘महिलाओं और बच्चों की गरिमा का उल्लंघन’ बताया

इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने एलन मस्क के स्वामित्व वाली सोशल मीडिया वेबसाइट एक्स (पूर्व में ट्विटर) को एक पत्र भेजा है, जिसमें उसके प्लेटफॉर्म पर एआई-जनरेटेड सामग्री को मॉडरेट करने में विफलताओं की ओर इशारा किया गया है। मंत्रालय ने इस चिंता पर प्रकाश डाला कि ग्रोक और एक्सएआई की अन्य सेवाओं का उपयोग अश्लील या गैर-सहमति वाली छवियों को बनाने और वितरित करने के लिए किया गया है, विशेष रूप से महिलाओं की गरिमा और गोपनीयता को लक्षित करते हुए। पत्र के माध्यम से सरकार ने कंपनी द्वारा की गई कार्रवाई पर रिपोर्ट और अवैध सामग्रियों को तत्काल हटाने की भी मांग की है. सरकार ने एक्स को आवश्यक एआई रेलिंग को लागू करने और 72 घंटे से पहले एक विस्तृत कार्रवाई रिपोर्ट जमा करने के लिए भी कहा है, अन्यथा कानूनी दायित्व से अपनी वैधानिक प्रतिरक्षा खोने का जोखिम होगा। इन निर्देशों का पालन करने में विफलता के परिणामस्वरूप “आपके प्लेटफ़ॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफ़ॉर्म पर कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ बिना किसी नोटिस के सख्त कानूनी परिणाम हो सकते हैं”।

एक्स (ट्विटर) को पूरा ‘चेतावनी’ पत्र पढ़ें

को,मुख्य अनुपालन अधिकारी, एक्स कॉर्प, (पूर्व में ट्विटर), भारत परिचालनविषय: सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 के तहत वैधानिक उचित परिश्रम दायित्वों का पालन करने में विफलता, और ‘ग्रोक’ और एक्सएएल की अन्य सेवाओं जैसी अल-आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अश्लील और यौन रूप से स्पष्ट सामग्री की मेजबानी, निर्माण, प्रकाशन, प्रसारण, साझा करने या अपलोड करने की रोकथाम के लिए तत्काल अनुपालन की दिशा में एक कार्रवाई रिपोर्ट की मांग करना।सार्वजनिक चर्चा और विभिन्न संसदीय हितधारकों के अभ्यावेदन सहित समय-समय पर यह रिपोर्ट और प्रतिनिधित्व किया गया है कि आपके मंच पर प्रसारित होने वाली सामग्री की कुछ श्रेणियां शालीनता और अश्लीलता से संबंधित लागू कानूनों के अनुपालन में नहीं हो सकती हैं। यह विशेष रूप से देखा गया है कि आपके द्वारा विकसित और एक्स प्लेटफ़ॉर्म पर एकीकृत और उपलब्ध कराई गई “ग्रोक अल” नामक सेवा का उपयोगकर्ताओं द्वारा महिलाओं की अश्लील छवियों या वीडियो को अपमानजनक या अश्लील तरीके से होस्ट करने, उत्पन्न करने, प्रकाशित करने या साझा करने के लिए नकली खाते बनाने के लिए दुरुपयोग किया जा रहा है ताकि उन्हें अशोभनीय रूप से बदनाम किया जा सके। महत्वपूर्ण बात यह है कि यह नकली खातों के निर्माण तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी लक्षित करता है जो संकेतों, छवि हेरफेर और सिंथेटिक आउटपुट के माध्यम से अपनी छवियों या वीडियो को होस्ट या प्रकाशित करती हैं। ऐसा आचरण प्लेटफ़ॉर्म-स्तरीय सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है, और लागू कानूनों के उल्लंघन में कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों का घोर दुरुपयोग है।2. इस संदर्भ में, और लागू कानूनों के तहत अधिकृत एजेंसियों द्वारा की गई या की जा रही कार्रवाई पर प्रतिकूल प्रभाव डाले बिना, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (“मंत्रालय”/ “एमईआईटीवाई”) का मानना है कि सूचना प्रौद्योगिकी अधिनियम, 2000 (“आईटी अधिनियम”) और सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 (“आईटी नियम, 2021) के तहत नियामक प्रावधानों का आपके मंच द्वारा पर्याप्त रूप से पालन नहीं किया जा रहा है। विशेष रूप से अश्लील, अशोभनीय, अश्लील, पोमोग्राफ़िक, पीडोफिलिक, या अन्यथा गैरकानूनी या हानिकारक सामग्री के संबंध में जो संभावित रूप से मौजूदा कानूनों का उल्लंघन है।3. उपरोक्त कृत्यों और चूकों को गंभीर चिंता के साथ देखा जाता है, क्योंकि वे महिलाओं और बच्चों की गरिमा, गोपनीयता और सुरक्षा का उल्लंघन करते हैं, डिजिटल स्थानों में यौन उत्पीड़न और शोषण को सामान्य बनाते हैं, और भारत में सक्रिय मध्यस्थों पर लागू वैधानिक उचित परिश्रम ढांचे को कमजोर करते हैं।4. 29.12.2025 को MeitY द्वारा जारी सलाह पर ध्यान आकर्षित किया जाता है, विशेष रूप से उसके पैराग्राफ 9 में, जिसमें सभी मध्यस्थों को अपने आंतरिक अनुपालन ढांचे, सामग्री मॉडरेशन प्रथाओं और उपयोगकर्ता प्रवर्तन तंत्र की तत्काल समीक्षा करने और आईटी अधिनियम और आईटी नियम, 2021 के प्रावधानों का सख्त और निरंतर पालन सुनिश्चित करने की सलाह दी गई है।5.• नियम 4(9): अतिरिक्त जानकारी प्रदान करने का दायित्व जिसमें मंत्रालय द्वारा मांगे गए कोई भी स्पष्टीकरण और की गई कार्रवाई रिपोर्ट शामिल हो सकती है।• नियम 4(1)(ए): एक मुख्य अनुपालन अधिकारी की नियुक्ति और प्रभावी कार्यप्रणाली, जो अधिनियम और नियमों का अनुपालन सुनिश्चित करने के लिए जिम्मेदार और उत्तरदायी होगा;• नियम 3(1केबी) और 3(1(डी): उचित प्रयास करके गैरकानूनी सामग्री की मेजबानी, प्रकाशन, प्रसारण या साझाकरण को रोकने और ऐसी किसी भी जानकारी तक पहुंच को शीघ्रता से हटाने या अक्षम करने का दायित्व जो अश्लील, अश्लील, बालप्रेमी, महिलाओं और बच्चों के लिए हानिकारक है, या अन्यथा गैरकानूनी है, और अदालत के आदेशों या उचित सरकार या इसकी अधिकृत एजेंसी से तर्कसंगत सूचना के माध्यम से वास्तविक ज्ञान प्राप्त होने पर निर्धारित समय सीमा के भीतर सख्ती से;• नियम 3(1Xi): पहचान के सत्यापन के प्रयोजनों के लिए, या वर्तमान में लागू किसी भी कानून के तहत अपराधों की रोकथाम, पता लगाने, जांच, या अभियोजन के लिए, सरकार या इसकी अधिकृत एजेंसियों द्वारा निर्दिष्ट समयसीमा के भीतर कानूनी रूप से मांगी गई जानकारी प्रदान करने और सहायता प्रदान करने का दायित्व; और• नियम 3(2), नियम 4(4): नियम 3(2) के तहत सुलभ रिपोर्टिंग और शिकायत निवारण प्रणालियों को तैनात करने का दायित्व, जबकि अतिरिक्त रूप से नियम 4(4) के तहत प्रौद्योगिकी-आधारित उपायों को तैनात करना, जिसमें स्वचालित उपकरण या अन्य तंत्र शामिल हैं, ताकि इस तरह की अश्लील, अश्लील और अश्लील सामग्री के प्रसार को सक्रिय रूप से रोका जा सके और हटाने की आवश्यकताओं का समय पर अनुपालन सुनिश्चित किया जा सके।• नियम 3(2)(बी): प्रभावित व्यक्ति या ऐसे व्यक्ति की ओर से किसी व्यक्ति से शिकायत प्राप्त होने के चौबीस घंटे के भीतर किसी भी सामग्री को हटाने या उस तक पहुंच को अक्षम करने का दायित्व, जो प्रथम दृष्टया किसी व्यक्ति को किसी यौन कार्य या आचरण, या उसके किसी प्रतिरूपण को चित्रित करने वाली सामग्री की प्रकृति में है।6. यह दोहराया गया है कि अश्लील, नग्न, अश्लील, यौन रूप से स्पष्ट, अश्लील, पीडोफिलिक सामग्री या किसी भी सामग्री की मेजबानी, उत्पादन, प्रकाशन, प्रसारण, साझा करना या अपलोड करना, जो शारीरिक गोपनीयता सहित किसी अन्य की गोपनीयता पर आक्रमण करता है या अन्यथा गैरकानूनी है, जिसमें अल-सक्षम सिस्टम और टूल शामिल हैं, कई कानूनों के तहत गंभीर दंडात्मक परिणाम आकर्षित करते हैं, जिनमें शामिल हैं: आईटी अधिनियम की धारा 66 ई, 67, 67 ए और 67 बी; भारतीय न्याय संहिता, 2023 (“बीएनएस”) के प्रासंगिक प्रावधान;• महिलाओं का अश्लील चित्रण (निषेध) अधिनियम, 1986;• यौन अपराधों से बच्चों का संरक्षण अधिनियम, 2012;• युवा व्यक्ति (हानिकारक प्रकाशन) अधिनियम, 1956;• आईटी अधिनियम की धारा 85: आईटी अधिनियम और आईटी नियम, 2021 सहित उसके तहत नियमों के उल्लंघन में कंपनियों द्वारा अपराध; और• फिलहाल लागू अन्य लागू कानून।7. इसके अलावा, विशेष रूप से भारतीय नागरिक सुरक्षा संहिता, 2023 (बीएनएसएस) की धारा 33 की ओर ध्यान आकर्षित किया जाता है, जो उचित अधिकारियों को कुछ अपराधों की रिपोर्ट करने के लिए एक अनिवार्य वैधानिक दायित्व लागू करता है। इसमें संगठित अपराध से जुड़े अपराध शामिल हैं जिनमें साइबर अपराध भी शामिल है, जैसा कि बीएनएस की धारा 111 के तहत परिभाषित किया गया है। जानकारी या उचित संदेह के बावजूद, ऐसे अपराधों की रिपोर्ट करने में विफलता पर बीएनएसएस के तहत स्वतंत्र रूप से दंडात्मक कार्रवाई की जा सकती है।8. तदनुसार, आपको सलाह दी जाती है कि आप अपने मंच पर किसी भी ऐसी सामग्री की मेजबानी, प्रदर्शन, अपलोडिंग, प्रकाशन, प्रसारण, भंडारण, साझा करने से सख्ती से बचें जो अश्लील, अश्लील, अश्लील, अशोभनीय, यौन रूप से स्पष्ट, पीडोफिलिक, या किसी भी तरह से किसी भी समय लागू किसी भी कानून के तहत निषिद्ध है। ऐसे उचित परिश्रम दायित्वों का पालन करने में विफलता के परिणामस्वरूप आईटी अधिनियम की धारा 79 के तहत देयता से छूट का नुकसान होगा, और आप आईटी अधिनियम और बीएनएस सहित किसी भी कानून के तहत प्रदान की गई परिणामी कार्रवाई के लिए भी उत्तरदायी होंगे।9. इसलिए, आईटी अधिनियम और आईटी नियम, 2021 के तहत केंद्र सरकार की शक्तियों का प्रयोग करते हुए, एक्स को इसके लिए निर्देशित किया जाता है:(ए) तुरंत अल-आधारित एप्लिकेशन “ग्रोक” की एक व्यापक तकनीकी, प्रक्रियात्मक और शासन-स्तरीय समीक्षा करेगा, जिसमें इसके त्वरित-प्रसंस्करण, आउटपुट-जनरेशन (बड़े भाषा मॉडल (एलएलएम) का उपयोग करके उत्पन्न प्रतिक्रियाएं), छवि-हैंडलिंग और सुरक्षा रेलिंग शामिल हैं, ताकि यह सुनिश्चित किया जा सके कि एप्लिकेशन ऐसी सामग्री उत्पन्न, बढ़ावा या सुविधा प्रदान नहीं करता है जिसमें किसी भी रूप में नग्नता, कामुकता, यौन रूप से स्पष्ट या अन्यथा गैरकानूनी सामग्री शामिल है;(बी) अपने उपयोगकर्ता की सेवा की शर्तों, स्वीकार्य उपयोग नीतियों और एएल उपयोग प्रतिबंधों को तुरंत लागू करेगा, जिसमें उल्लंघन करने वाले उपयोगकर्ताओं और खातों के खिलाफ निलंबन, समाप्ति और अन्य प्रवर्तन कार्रवाइयों जैसे मजबूत निवारक उपाय शामिल हैं;(सी) आईटी नियम, 2021 के तहत निर्धारित समय-सीमा के कड़ाई से अनुपालन में, किसी भी तरह से साक्ष्य को खराब किए बिना, लागू कानूनों के उल्लंघन में पहले से उत्पन्न या प्रसारित सभी सामग्री तक पहुंच को बिना देरी के हटा या अक्षम कर सकता है;(डी) इस मंत्रालय को एक विस्तृत की गई कार्रवाई रिपोर्ट (एटीआर) प्रस्तुत करें, जिसमें उपरोक्त पहलुओं को शामिल करते हुए, जल्द से जल्द और किसी भी मामले में इस पत्र के जारी होने की तारीख से बहत्तर (72) घंटे के भीतर, अन्य बातों के साथ-साथ शामिल हो:• ग्रोक एप्लिकेशन के संबंध में अपनाए गए या प्रस्तावित विशिष्ट तकनीकी और संगठनात्मक उपाय;• मुख्य अनुपालन अधिकारी द्वारा निभाई गई भूमिका और निरीक्षण;• आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के विरुद्ध की गई कार्रवाई; और बीएनएसएस की धारा 33 के तहत अनिवार्य रिपोर्टिंग आवश्यकता का अनुपालन सुनिश्चित करने के लिए तंत्र स्थापित किए गए; और(ई) आईटी अधिनियम और आईटी नियम, 2021 के तहत सभी उचित परिश्रम-दायित्वों के साथ चल रहे, प्रदर्शन योग्य और लेखापरीक्षा अनुपालन सुनिश्चित करें, ऐसा न करने पर उचित कार्रवाई शुरू की जा सकती है, जिसमें आईटी अधिनियम की धारा 79 के तहत दायित्व से छूट की हानि और आईटी अधिनियम और बीएनएस सहित किसी भी कानून के तहत प्रदान की गई परिणामी कार्रवाई शामिल है।10. यह दोहराया जाता है कि उपरोक्त आवश्यकताओं का अनुपालन न करने को गंभीरता से लिया जाएगा और इसके परिणामस्वरूप आपके प्लेटफ़ॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफ़ॉर्म पर कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ आईटी अधिनियम, आईटी नियमों, बीएनएसएस, बीएनएस और अन्य लागू कानूनों के तहत बिना किसी नोटिस के सख्त कानूनी परिणाम हो सकते हैं।11. इसे मंत्रालय में सक्षम प्राधिकारी के अनुमोदन से जारी किया जाता है, बिना किसी अन्य कार्रवाई पर प्रतिकूल प्रभाव डाले, जो सरकार या कानून प्रवर्तन एजेंसियों द्वारा किसी भी समय लागू कानून के तहत की जा सकती है।आपका विश्वासी,(अजीत कुमार)संयुक्त सचिव, साइबर कानून, एमईआईटीवाई