फ्लोरिडा। आर्टिफिशियल इंटेलिजेंस का इस्तेमाल अब सिर्फ जानकारी और बातचीत तक सीमित नहीं रह गया है। अमेरिका के फ्लोरिडा में सामने आए एक मामले ने AI की सुरक्षा व्यवस्था को लेकर नई चर्चा छेड़ दी है। एक 25 वर्षीय युवक ने कथित तौर पर ChatGPT के साथ बातचीत के दौरान अपनी एक्स-गर्लफ्रेंड के साथ दुष्कर्म और उसकी हत्या की योजनाओं का जिक्र किया। मामले की गंभीरता को देखते हुए OpenAI ने इस बातचीत की जानकारी अमेरिकी संघीय जांच एजेंसी FBI को दी।
ब्रेकअप के बाद बढ़ती गई जुनून और धमकियां
रिपोर्टों के मुताबिक युवक की करीब छह महीने की रिलेशनशिप खत्म होने के बाद उसने ChatGPT का इस्तेमाल अपनी भावनाओं और रिश्ते से जुड़ी परेशानियों पर बात करने के लिए शुरू किया था। धीरे-धीरे उसकी बातचीत कथित तौर पर बेहद खतरनाक दिशा में बढ़ गई और उसने अपनी पूर्व प्रेमिका को नुकसान पहुंचाने की योजनाओं का जिक्र करना शुरू कर दिया।
जांच एजेंसियों के मुताबिक चैट में हत्या, यौन हिंसा और आत्महत्या से जुड़े गंभीर इरादों का उल्लेख था। अधिकारियों ने बाद में करीब दो महीने की बातचीत हासिल कर मामले की जांच की।
OpenAI ने FBI को दी सूचना
जब बातचीत में संभावित वास्तविक हिंसा का खतरा सामने आया तो OpenAI ने मामले को गंभीरता से लिया और संघीय अधिकारियों को इसकी जानकारी दी। इसके बाद FBI और स्थानीय कानून प्रवर्तन एजेंसियों ने जांच शुरू की।
रिपोर्ट के अनुसार आरोपी डैरेन झोउ को मई में गिरफ्तार किया गया था। बाद में उसने गंभीर आरोपों में दोष स्वीकार किया और अदालत ने उसे आठ साल की प्रोबेशन की सजा सुनाई। इसके साथ उस पर निगरानी और अन्य प्रतिबंध भी लगाए गए हैं।
AI की सुरक्षा व्यवस्था पर नई बहस
इस मामले ने यह सवाल भी खड़ा किया है कि AI कंपनियों को कब और किस स्थिति में किसी यूजर की बातचीत को संभावित खतरे के रूप में पहचानकर कानून प्रवर्तन एजेंसियों तक पहुंचाना चाहिए।
यह घटना इस बात का उदाहरण है कि AI सिस्टम केवल बातचीत का माध्यम नहीं हैं, बल्कि गंभीर और संभावित रूप से खतरनाक व्यवहार के संकेत मिलने पर उनकी सुरक्षा व्यवस्था वास्तविक दुनिया में हस्तक्षेप का कारण भी बन सकती है।
