एआई भाषा मॉडल सरल सवालों के लिए भरोसेमंद हो जाता है, हालांकि जटिल कार्यों पर बेहतर प्रदर्शन के बावजूद, जैसा कि प्रकृति में एक अध्ययन द्वारा प्रकट किया गया है. AI language models' reliability decreases for simple questions, despite better performance on complex tasks, as revealed by a study in Nature.

नेचर में एक अध्ययन से पता चलता है कि उन्नत एआई भाषा मॉडल, जैसे कि चैटजीपीटी, जटिल कार्यों पर बेहतर प्रदर्शन करने के बावजूद सरल प्रश्नों के उत्तर देने में कम विश्वसनीय हो रहे हैं। A study in Nature reveals that advanced AI language models, such as ChatGPT, are becoming less reliable in answering simple questions, despite performing better on complex tasks. कई संस्थाओं के खोजकर्ताओं ने पाया है कि ये मॉडल अक्सर इस बात को मानने से चूक जाते हैं जब वे उत्तर नहीं जानते, और अनुचित भरोसे की ओर ले जाते हैं. Researchers from several institutions found that these models often fail to acknowledge when they don't know answers, leading to misplaced confidence. अध्ययन में एआई सिस्टम को फिर से डिजाइन करने का आह्वान किया गया है जिसमें सटीकता बढ़ाने और उपयोगकर्ताओं को उनकी सीमाओं को समझने में मदद करने के लिए अस्वीकृति विकल्प और मानव पर्यवेक्षण शामिल हैं। The study calls for redesigning AI systems to include rejection options and human oversight to enhance accuracy and help users understand their limitations.

September 25, 2024

7 लेख