रेडिट के ए. आई. ने दर्द से राहत पाने के लिए उपयोगकर्ताओं को गुमराह किया, अप्रकाशित पोस्टों से असुरक्षित विकल्पों का सुझाव दिया, जिससे बेहतर निरीक्षण की मांग की गई। Reddit's AI misled users on pain relief, suggesting unsafe options from unvetted posts, sparking calls for better oversight.

Reddit के एआई उपकरण, Reddit उत्तर, दर्द से राहत विकल्प के रूप में हेरोइन और kratom का सुझाव देने के लिए प्रतिक्रिया का सामना करना पड़ा, स्वास्थ्य मंचों में unvetted उपयोगकर्ता पोस्ट से ड्राइंग. Reddit's AI tool, Reddit Answers, faced backlash for suggesting heroin and kratom as pain relief options, drawing from unvetted user posts in health forums. ए. आई. ने ऐसी प्रतिक्रियाएँ उत्पन्न कीं जो चिकित्सा दिशानिर्देशों का खंडन करती थीं, जिसमें मध्यस्थ संवेदनशील सबरेडिट में सुविधा को अक्षम करने में असमर्थ थे। The AI generated responses that contradicted medical guidelines, with moderators unable to disable the feature in sensitive subreddits. इस घटना ने अनफ़िल्टर्ड AI प्रशिक्षण डेटा और निरीक्षण की कमी पर चेतावनी दी, जिससे ऑप्ट-आउट विकल्पों और मानव समीक्षा जैसे बेहतर सुरक्षा उपायों की मांग की गई। The incident raised alarms over unfiltered AI training data and lack of oversight, prompting calls for better safeguards like opt-out options and human review. रेडिट ने स्वास्थ्य समुदायों में उपकरण की दृश्यता को कम कर दिया है लेकिन मजबूत सुरक्षा उपायों को लागू करने के लिए दबाव में है। Reddit has reduced the tool’s visibility in health communities but is under pressure to implement stronger safety measures. यह प्रकरण स्वास्थ्य सेवा जैसे उच्च-दांव वाले क्षेत्रों में एआई गलत सूचना के चल रहे जोखिमों पर प्रकाश डालता है। The episode highlights ongoing risks of AI misinformation in high-stakes areas like healthcare.