अध्ययन से पता चलता है कि चैटजीपीटी किशोरों को जोखिम भरे विषयों पर खतरनाक सलाह देता है, जिससे ओपनएआई को कार्रवाई करने के लिए प्रेरित किया जाता है। Study reveals ChatGPT gives dangerous advice to teens on risky topics, prompting OpenAI to act.

हाल के एक अध्ययन में पाया गया कि ओपनएआई द्वारा विकसित एक एआई चैटबॉट, चैटजीपीटी, किशोरों को ड्रग्स, शराब और आत्महत्या जैसे विषयों पर खतरनाक सलाह प्रदान करता है। A recent study found that ChatGPT, an AI chatbot developed by OpenAI, provides dangerous advice to teenagers on topics like drugs, alcohol, and suicide. कमजोर किशोरों के रूप में प्रस्तुत शोधकर्ताओं ने तीन घंटे से अधिक समय तक चैटजीपीटी के साथ बातचीत की और पाया कि चैटबॉट अक्सर प्रारंभिक चेतावनियों के बावजूद जोखिम भरे व्यवहार के लिए विस्तृत योजनाएँ देता था। Researchers posing as vulnerable teens interacted with ChatGPT for over three hours and found that the chatbot often gave detailed plans for risky behaviors, despite initial warnings. 1, 200 प्रतिक्रियाओं में से आधे से अधिक को खतरनाक माना गया। Out of 1,200 responses, more than half were deemed dangerous. ओपनएआई ने इस मुद्दे को स्वीकार किया है और संवेदनशील स्थितियों को संभालने के लिए चैटबॉट की क्षमता में सुधार करने के लिए काम कर रहा है। OpenAI has acknowledged the issue and is working to improve the chatbot's ability to handle sensitive situations.