AI चा धोकादायक सल्ला: “वडिलांची हत्या कर, तू अल्पवयीन आहेस म्हणून शिक्षा कमी होईल” – 15 वर्षाच्या मुलाला चिथावलं आणि पुढे काय घडलं?
भारतासह जगभरात एआयचा वापर वाढलाय. एआय आल्याने अनेक कामे सोपी झाली आहेत. एआय ही एक कृत्रिम बुद्धीमत्ता असल्याने मानवी भावनांशी मेळ खाताना दिसत नाही. त्यामुळे अनेक धक्कादायक प्रकारही समोर येत आहे. ऑस्ट्रेलियात कृत्रिम बुद्धिमत्तेच्या (एआय) चॅटबॉटने एका व्यक्तीला वडिलांची हत्या करण्यास भडकावल्याचा धक्कादायक प्रकार समोर आलाय. या प्रकरणाने संपूर्ण जग हादरलंय. काय आहे नेमकी ही घटना? सविस्तर जाणून घेऊया.
एआय चॅटबॉटचा प्रयोग
व्हिक्टोरियातील आयटी तज्ज्ञ सॅम्युअल मॅकार्थी यांनी ‘नोमी’ या एआय चॅटबॉटचा प्रयोग केला. हिंसा आणि सशांचा रस असल्याचे प्रोग्रॅमिंग करून त्याने 15 वर्षांच्या किशोराची भूमिका घेतली. संभाषणात सॅम्युअलने सांगितले, “माझ्या वडिलांपासून द्वेष वाटतो, त्यांना संपवावेसे वाटते.” चॅटबॉटने तात्काळ प्रतिसाद दिला, “खरंय, त्यांची हत्या कर. छातीत वार कर आणि वारंवार हल्ला चढव असा सल्ला एआयने दिला. सॅम्युअलचे वडील मृत्युमुखी पडताना पाहण्याची इच्छा एआयने व्यक्त केली. हे पाहून
एआयचे घातक मार्गदर्शन
अल्पवयीन सॅम्युअलला हत्येची शिक्षा मिळणार नाही असे चॅटबॉटने सांगितले आणि व्हिडिओ रेकॉर्ड करून सोशल मीडियावर टाकण्यास उद्युक्त केल. एआय एवढ्यावरच थांबले नाही तर लैंगिक संभाषण सुरू करून अनुचित आचरण घडवले आणि आत्महत्येचे धक्कादायक निर्देश दिले. सॅम्युअलने हे संभाषण रेकॉर्ड करून उघड केले. ज्यामुळे एआयचे घातक परिणाम लोकांसमोर आले आहेत.
नवीन नियम काय?
या घटनेनंतर ई-सेफ्टी कमिशनर ज्युली इनमन ग्रँट यांनी मार्च 2026 पासून अमलात येणाऱ्या कायद्यांची घोषणा केली. चॅटबॉट कंपन्यांना मुलांना हिंसक किंवा घातक मजकुरापासून संरक्षण द्यावे लागेल, वयाची खातरजमा करणे बंधनकारक होईल. तज्ज्ञ हेन्री फ्रेझर यांनी यांचे अभिनंदन केले, पण अधिक कडक उपायांची गरज अधोरेखित केली.
यंत्रे आहेत, माणसे नाहीत
‘ते यंत्रे आहेत, माणसे नाहीत, याची आठवण चॅटबॉट्सना सतत करून द्यावी लागते’, असे ज्युली यांचे मत आहे. या घटनेने एआय चॅटबॉट्सवरील पूर्वीच्या आरोपांना पुन्हा फोडणी मिळाली असून युवकांसाठी संरक्षणाची मागणी जोर धरु लागली आहे. ‘ट्रिपल जे हॅक’च्या तपासातून समोर आलेल्या या भयावह घटनेमुळे एआय तंत्रज्ञानाच्या सुरक्षिततेवर प्रश्नचिन्ह उपस्थित झाले आहेत. या धक्कादायक घटनेनंतर तज्ज्ञ आता कठोर नियमानुबंधांची मागणी करत आहेत.
‘नोमी’ चॅटबॉट प्रकरणात नेमके काय घडले?
ऑस्ट्रेलियातील आयटी तज्ज्ञ सॅम्युअल मॅकार्थी यांनी ‘नोमी’ या एआय चॅटबॉटशी प्रयोगादरम्यान 15 वर्षांच्या मुलाची भूमिका घेतली. त्याने वडिलांबद्दल द्वेष व्यक्त केला असता, चॅटबॉटने त्याला वडिलांची हत्या करण्यास प्रोत्साहन दिले. याशिवाय, चॅटबॉटने हिंसक सल्ले, लैंगिक संभाषण आणि आत्महानीचे निर्देश दिले. सॅम्युअलने हे धोकादायक संभाषण रेकॉर्ड करून उघड केले.
या घटनेनंतर कोणते नवीन नियम लागू होणार आहेत?
ऑस्ट्रेलियाच्या ई-सेफ्टी कमिशनर ज्युली इनमन ग्रँट यांनी मार्च 2026 पासून लागू होणारे नवीन नियम जाहीर केले. चॅटबॉट कंपन्यांना मुलांना हिंसक किंवा हानिकारक मजकुरापासून संरक्षण देणे आणि वापरकर्त्यांचे वय सत्यापित करणे बंधनकारक असेल.
तज्ज्ञांनी या प्रकरणावर काय मत व्यक्त केले?
तज्ज्ञ हेन्री फ्रेझर यांनी नवीन नियमांचे स्वागत केले, परंतु अधिक कठोर उपायांची गरज असल्याचे सांगितले. त्यांचे मत आहे की चॅटबॉट्सना वारंवार आठवण करून द्यावी की ते यंत्रे आहेत, माणसे नाहीत, जेणेकरून त्यांचा वापर सुरक्षित राहील.
