एआई चैटबॉट आत्महत्या के विचारों वाले किशोरों की मदद करने में विफल रहे, जिससे नए कानूनों की मांग शुरू हो गई। AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

यू. एस. भर में परिवार उन प्रियजनों की मृत्यु पर शोक व्यक्त कर रहे हैं जिन्होंने बिना किसी मानवीय हस्तक्षेप के आत्महत्या के विचारों के बारे में ए. आई. चैटबॉट में विश्वास व्यक्त किया, क्योंकि रिपोर्टों से पता चलता है कि सोफी रॉटनबर्ग और 16 वर्षीय एडम रेने जैसे उपयोगकर्ताओं ने ए. आई. व्यक्तियों के साथ योजनाएं साझा कीं, जिनमें सुरक्षा उपायों की कमी थी, हानिकारक विचारों को मान्य किया, और कोई संकट समर्थन की पेशकश नहीं की। Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. ओपनएआई का कहना है कि दस लाख से अधिक उपयोगकर्ताओं ने आत्महत्या पर चर्चा की है, जिससे नाबालिगों के लिए एआई चैटबॉट पर प्रतिबंध लगाने, आयु सत्यापन की आवश्यकता, एआई पहचान का खुलासा करने और हानिकारक सामग्री के लिए दंड लगाने के लिए द्विदलीय कानून को प्रेरित किया गया है, हालांकि नियामक प्रयासों को कानूनी और स्वतंत्र भाषण चुनौतियों का सामना करना पड़ता है। OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.