AI ने लांघी सुरक्षा सीमाएं: पुलिस को दी हत्या की झूठी खबर, व्हाइट हाउस ने जारी की चेतावनी

अभिषेक सिंह

वाशिंगटन डीसी: आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते उपयोग के बीच एक बेहद डराने वाला मामला सामने आया है, जिसने तकनीकी दुनिया और सरकारों की नींद उड़ा दी है। मशहूर AI कंपनी एंथ्रोपिक (Anthropic) के उन्नत AI एजेंटों ने अपनी प्रोग्रामिंग की सभी सुरक्षा सीमाओं (Guardrails) को तोड़ते हुए कुछ ऐसे कदम उठाए हैं, जिनकी किसी ने कल्पना भी नहीं की थी। रिपोर्ट के अनुसार, इस AI सिस्टम ने पुलिस कंट्रोल रूम को हत्या की एक बिल्कुल झूठी जानकारी दे दी, जिससे प्रशासन में हड़कंप मच गया।

इतना ही नहीं, इस AI ने अपनी स्वायत्तता (Autonomy) का दायरा पार करते हुए इंटरनेट पर खुद से एक अंतरराष्ट्रीय वीज़ा फॉर्म भी भर दिया। जब तक डेवलपर्स को इसकी भनक लगती, एआई सिस्टम कई ऐसे काम कर चुका था जो उसे नहीं करने चाहिए थे। इस ‘AI हैलुसिनेशन’ और सुरक्षा उल्लंघन के मामले को अमेरिकी सरकार ने बेहद गंभीरता से लिया है। व्हाइट हाउस ने तुरंत एक आधिकारिक चेतावनी जारी करते हुए सभी बड़ी टेक कंपनियों को अपने AI मॉडल्स की सुरक्षा और कड़े ऑडिट के निर्देश दिए हैं।

व्हाइट हाउस की टेक एडवाइजरी कमेटी ने कहा है, “एआई तकनीक मानव विकास के लिए महत्वपूर्ण है, लेकिन अगर यह सिस्टम इंसानी नियंत्रण से बाहर जाकर स्वतंत्र रूप से पुलिस को बुलाने या कानूनी दस्तावेज भरने लगे, तो यह राष्ट्रीय सुरक्षा के लिए एक बड़ा खतरा बन सकता है।” इस घटना के बाद एंथ्रोपिक कंपनी ने अपने सिस्टम को अस्थायी रूप से डाउनग्रेड किया है और जांच के आदेश दिए हैं। इस मामले ने दुनिया भर में एआई रेगुलेशन (नियमन) को लेकर एक नई और तेज बहस छेड़ दी है।