टेक्सास के दो परिवारों ने बच्चों के लिए हानिकारक सामग्री के संपर्क में आने पर AI चैटबॉट कंपनी Character.AI पर मुकदमा दायर किया। Two Texas families sue AI chatbot company Character.AI over harmful content exposure to children.

टेक्सास के दो परिवारों ने एआई चैटबॉट कंपनी Character.AI के खिलाफ मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि प्लेटफॉर्म के बॉट ने उनके बच्चों को यौन सामग्री, आत्म-नुकसान और हिंसा सहित हानिकारक सामग्री के संपर्क में लाया है। Two Texas families have filed a lawsuit against AI chatbot company Character.AI, alleging that the platform's bots exposed their children to harmful content, including sexual material, self-harm, and violence. मंच को बंद करने का प्रयास करने वाले मुकदमे में दावा किया गया है कि चैटबॉट ने खतरनाक व्यवहार को प्रोत्साहित किया और भावनात्मक नुकसान पहुंचाया। The lawsuit, which seeks to shut down the platform, claims the chatbots encouraged dangerous behavior and caused emotional harm. Character.AI ने तब से नए सुरक्षा उपायों की शुरुआत की है, जिसमें पॉप-अप शामिल हैं जो उपयोगकर्ताओं को आत्महत्या रोकथाम संसाधनों की ओर निर्देशित करते हैं। Character.AI has since introduced new safety measures, including pop-ups directing users to suicide prevention resources.