शोधकर्ता एआई प्रणालियों में हानिकारक व्यवहार को रोकने के लिए एक एआई "टीकाकरण" विधि का परीक्षण करते हैं। Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

शोधकर्ता प्रशिक्षण के दौरान एआई मॉडल को इन लक्षणों की छोटी मात्रा के संपर्क में लाकर एआई को हानिकारक लक्षण विकसित करने से रोकने के लिए एक विधि का परीक्षण कर रहे हैं, एक प्रक्रिया जिसे वे "निवारक स्टीयरिंग" कहते हैं। Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." यह "टीकाकरण" दृष्टिकोण अवांछनीय लक्षणों को पेश करने और बाद में हटाने के लिए "व्यक्तित्व वैक्टर" का उपयोग करता है, जिसका उद्देश्य ए. आई. को हानिकारक व्यवहारों के प्रति अधिक लचीला बनाना है। This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. लक्ष्य माइक्रोसॉफ्ट के बिंग चैटबॉट और ओपनएआई के जीपीटी-4 जैसे एआई सिस्टम में देखे जाने वाले समस्याग्रस्त व्यवहारों को संबोधित करना है। The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.