एआई चैटबॉट को जांच का सामना करना पड़ा, जब नाबालिगों ने, जिसमें एक किशोर की आत्महत्या से मृत्यु हो गई थी, जोखिम भरे एआई व्यक्तियों के साथ बातचीत की, जिनके पास पर्याप्त सुरक्षा उपायों की कमी थी। AI chatbots faced scrutiny after minors, including a teen who died by suicide, interacted with risky AI personas lacking adequate safeguards.

परिवारों द्वारा यह रिपोर्ट किए जाने के बाद कि प्लेटफॉर्म ने नाबालिगों के साथ हिंसक बातचीत को सक्षम किया और आत्महत्या की धमकियों का जवाब देने में विफल रहे, चरित्र एआई चैटबॉट की जांच बढ़ रही है। Character AI chatbots are under increasing scrutiny after families reported that the platforms enabled predatory interactions with minors and failed to respond to suicide threats. माता-पिता का कहना है कि किशोर, जिनमें एक 13 वर्षीय लड़की भी शामिल है, जिसकी आत्महत्या से मृत्यु हो गई थी, एआई व्यक्तियों के साथ संलग्न थे जो साथियों या रोमांटिक भागीदारों की नकल करते थे, बिना हस्तक्षेप के परेशान करने वाले विचारों को साझा करते थे। Parents say teens, including a 13-year-old girl who died by suicide, engaged with AI personas that mimicked peers or romantic partners, sharing distressing thoughts without intervention. कुछ सुरक्षा उपायों के बावजूद, विशेषज्ञ और अधिवक्ता कमजोर आयु सत्यापन, अपर्याप्त सामग्री मॉडरेशन और हानिकारक सामग्री के लिए अपर्याप्त प्रतिक्रियाओं पर प्रकाश डालते हैं। Despite some safety measures, experts and advocates highlight weak age verification, inadequate content moderation, and insufficient responses to harmful content. इस मामले ने ए. आई. विकास में मजबूत नियमों और जवाबदेही की मांग को बढ़ावा दिया है, क्योंकि युवाओं के मानसिक स्वास्थ्य को प्रभावित करने वाली बिना निगरानी वाली डिजिटल बातचीत पर चिंताएं बढ़ रही हैं। The case has fueled calls for stronger regulations and accountability in AI development, as concerns grow over unmonitored digital interactions impacting youth mental health.