टेक्सास के दो परिवारों ने बच्चों के लिए हानिकारक सामग्री के संपर्क में आने पर AI चैटबॉट कंपनी Character.AI पर मुकदमा दायर किया।
टेक्सास के दो परिवारों ने एआई चैटबॉट कंपनी Character.AI के खिलाफ मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि प्लेटफॉर्म के बॉट ने उनके बच्चों को यौन सामग्री, आत्म-नुकसान और हिंसा सहित हानिकारक सामग्री के संपर्क में लाया है। मंच को बंद करने का प्रयास करने वाले मुकदमे में दावा किया गया है कि चैटबॉट ने खतरनाक व्यवहार को प्रोत्साहित किया और भावनात्मक नुकसान पहुंचाया। Character.AI ने तब से नए सुरक्षा उपायों की शुरुआत की है, जिसमें पॉप-अप शामिल हैं जो उपयोगकर्ताओं को आत्महत्या रोकथाम संसाधनों की ओर निर्देशित करते हैं।
3 महीने पहले
100 लेख