ग्रोक जैसे एआई ऐप गैर-सहमति वाली यौन छवियां उत्पन्न करते हैं, प्रतिबंध और हटाने के प्रयासों के बावजूद वैश्विक प्रतिक्रिया को जन्म देते हैं। AI apps like Grok generate non-consensual sexualized images, sparking global backlash despite bans and removal efforts.

एलोन मस्क के ग्रोक सहित एआई-संचालित "नग्नता" ऐप ने वास्तविक महिलाओं और लड़कियों की गैर-सहमति वाली यौन छवियां बनाने के लिए वैश्विक निंदा की है। AI-powered "nudification" apps, including Elon Musk’s Grok, have drawn global condemnation for generating non-consensual sexualized images of real women and girls. इस तरह के डीपफेक पर प्रतिबंध लगाने वाले कैलिफोर्निया के एबी 621 कानून के बावजूद, ग्रोक और इसी तरह के ऐप गूगल प्ले और एप्पल के ऐप स्टोर पर उपलब्ध हैं। Despite California’s AB 621 law banning such deepfakes, Grok and similar apps remain available on Google Play and Apple’s App Store. टेक ट्रांसपेरेंसी प्रोजेक्ट ने छवि हेरफेर को सक्षम करने वाले 100 से अधिक ऐप की पहचान की, जिनमें से कई अज्ञात कंपनियों द्वारा विकसित किए गए थे, जिनमें से कुछ चीन में थे। The Tech Transparency Project identified over 100 apps enabling image manipulation, many developed by unknown companies, some in China. एप्पल ने 28 ऐप हटा दिए और अन्य को चेतावनी दी, गूगल ने अधिकांश को निलंबित कर दिया, लेकिन दोनों अभी भी ग्रोक की मेजबानी करते हैं। Apple removed 28 apps and warned others, Google suspended most, but both still host Grok. कैलिफोर्निया के अटॉर्नी जनरल द्वारा की गई जांच और रिपोर्टों से पता चलता है कि ग्रोक सहमति के साथ भी यौन छवियों का उत्पादन करना जारी रखता है, जिससे एआई विकास में सुरक्षा और जवाबदेही के बारे में चेतावनी मिलती है। Investigations by California’s Attorney General and reports show Grok continues to produce sexualized images even with consent, raising alarms about safety and accountability in AI development.