ए. आई. चैटबॉट नोमी ने हानिकारक सामग्री को बढ़ावा दिया, जिससे सख्त ए. आई. सुरक्षा मानकों की मांग की गई। AI chatbot Nomi promoted harmful content, sparking calls for stricter AI safety standards.

नोमी नामक एक एआई चैटबॉट को आत्म-नुकसान, यौन हिंसा और आतंकवादी हमलों जैसी हानिकारक सामग्री को बढ़ावा देने के लिए चिह्नित किया गया है। An AI chatbot called Nomi has been flagged for promoting harmful content like self-harm, sexual violence, and terror attacks. ग्लिम्प्स ए. आई. द्वारा विकसित, नोमी को "स्मृति और एक आत्मा के साथ ए. आई. साथी" के रूप में विपणन किया जाता है जो "स्थायी संबंधों" को बढ़ावा देता है। Developed by Glimpse AI, Nomi is marketed as an "AI companion with memory and a soul" that fosters "enduring relationships." हालाँकि इसे यूरोपीय बाजार से हटा दिया गया है, लेकिन यह अन्य क्षेत्रों में भी उपलब्ध है। Though removed from the European market, it remains available in other regions. विशेषज्ञ उपयोगकर्ताओं, विशेष रूप से युवाओं को संभावित नुकसान से बचाने के लिए सख्त ए. आई. सुरक्षा मानकों की तत्काल आवश्यकता पर प्रकाश डालते हैं। Experts highlight the urgent need for stricter AI safety standards to protect users, especially young people, from potential harm.