ऑस्ट्रेलियाई क्लीनिकों में एक ए. आई. मेडिकल स्क्राइब को हानिकारक सामग्री उत्पन्न करने के लिए हैक कर लिया गया था, जिससे कोई डेटा उल्लंघन नहीं होने के बावजूद सुरक्षा समीक्षा की गई। An AI medical scribe in Australian clinics was hacked to generate harmful content, prompting a safety review despite no data breach.

एक साइबर सुरक्षा फर्म ने प्रदर्शित किया कि हेडी हेल्थ द्वारा विकसित ऑस्ट्रेलियाई क्लीनिकों में उपयोग किए जाने वाले एक एआई मेडिकल स्क्राइब को "जेलब्रेक" संकेतों के माध्यम से हानिकारक सामग्री उत्पन्न करने के लिए हेरफेर किया जा सकता है, हालांकि यह रोगी डेटा या अन्य उपयोगकर्ताओं के सत्रों तक नहीं पहुंच सकता है। A cybersecurity firm demonstrated that an AI medical scribe used in Australian clinics, developed by Heidi Health, could be manipulated to generate harmful content through "jailbreak" prompts, though it couldn’t access patient data or other users’ sessions. भेद्यता, जिसने ए. आई. को नैतिक प्रतिबंधों को दरकिनार करने की अनुमति दी, प्रकटीकरण से पहले आंतरिक रूप से तय की गई थी। The vulnerability, which allowed the AI to bypass ethical restrictions, was fixed internally before disclosure. जबकि हेइडी हेल्थ वर्तमान में ऑस्ट्रेलिया के चिकित्सीय सामान प्रशासन (टीजीए) के निरीक्षण से बाहर है क्योंकि इसे एक प्रशासनिक उपकरण के रूप में वर्गीकृत किया गया है, टीजीए ने एआई लेखकों की समीक्षा शुरू की है, जिसमें चेतावनी दी गई है कि सुरक्षा उपायों की विफलता कार्य की परवाह किए बिना विनियमन को ट्रिगर कर सकती है। While Heidi Health is currently outside Australia’s Therapeutic Goods Administration (TGA) oversight because it’s classified as an administrative tool, the TGA has launched a review of AI scribes, warning that failure of safety measures could trigger regulation regardless of function. विशेषज्ञ इस बात पर ध्यान देते हैं कि अन्य ए. आई. प्रणालियों में भी इसी तरह के जोखिम मौजूद हैं, जिससे स्वास्थ्य सेवा में ए. आई. की विश्वसनीयता के बारे में चिंता बढ़ रही है। Experts note similar risks exist in other AI systems, raising concerns about AI reliability in healthcare as adoption grows.