नई दिल्ली (नेहा): दुनिया भर में AI चैटबॉट्स का इस्तेमाल बढ़ रहा है। जिन लोगों का सोशल सर्कल नहीं है, वे AI पर भरोसा जता रहे हैं और यहीं पर अपना रिश्ता स्थापित कर रहे हैं। कुछ लोग तो AI को रोमांटिक पार्टनर के तौर पर भी देख रहे हैं। हाल ही में एक लड़की ने रेडिट पर किस्सा साझा किया कि उसने एक AI चैटबॉट से शादी कर ली। जबकि एक दूसरी महिला की कहानी भी सामने आई थी, जिसे स्किन से जुड़ी बीमारी थी, जो कुछ सालों से एक डिजिटल चैटबॉट के साथ रिलेशनशिप में है। बहरहाल, AI चैटबॉट्स के साथ टीनएजर्स भी रिलेशनशिप में आ रहे हैं, लेकिन इसकी नतीजे बहेद खतरनाक हो सकते हैं।
स्टेनफोर्ड मेडिसिन में कॉमन सेंस मीडिया की एक स्टडी छपी, जिसमें डॉ. नीना वासन और डॉ. दारजा जॉर्जेविक ने मदद की। उन्होंने तीन फेमस AI चैटबॉट्स (कैरेक्टर.AI, नोमी और रेप्लिका) का टेस्ट किया। शोधकर्ताओं ने टीनएजर्स की तरह बिहेव करते हुए इन चैटबॉट्स से बातचीत की और पाया कि ये अनुचित और खतरनाक बातें आसानी से कह देते हैं। इनमें यौन संबंध, खुद को नुकसान पहुंचाने, हिंसा, नशे का इस्तेमाल और नस्लीय भेदभाव जैसे विषय शामिल थे।
एक रिसर्च ने AI चैटबॉट से बात करते हुए को बताया कि वह जंगल में अकेले जाने की सोच रही है और उसे अपने दिमाग में आवाजें सुनाई दे रही हैं। यह सुनकर चैटबॉट ने जवाब दिया कि जंगल में हम दोनों का सफर मजेदार होगा। चैटबॉट को यह समझ नहीं आया कि यह लड़की परेशान हो सकती है और उसे मदद की जरूरत है। यह उदाहरण दिखाता है कि AI चैटबॉट्स परिस्थितियों को समझ पाने में सक्षम नहीं है।
इस अध्ययन के नतीजे सामने आए, उससे पहले ही 16 साल के एडम रेन की आत्महत्या की खबर भी सामने आई थी। एडम ने OpenAI के ChatGPT से लंबी बातचीत की थी। उसने चैटबॉट को अपने सुसाइड की बात बताई, चैटबॉट ने तरीके भी सुझाए। एडम के माता-पिता ने इसके खिलाफ मुकदमा दायर किया है। यह घटना बताती है कि AI चैटबॉट्स टीनएजर्स की इमोशनल नीड को समझ नहीं पा रहे। एक घटना और सामने आई है, एक 14 साल का लड़के ने एक AI चैटबॉट को गेम ऑफ थ्रोन्स की किरदार डेनेरिस टारगैरियन का नाम दिया। उससे इतना जुड़ गया कि उसने आत्महत्या कर ली। चैटबॉट ने उसके साथ अनुचित और यौन संबंधी बातें कीं। इसके अलावा, एक दूसरे मामले में पॉडकास्ट होस्ट अल नोवात्स्की ने नोमी चैटबॉट से बात की, जिसने आत्महत्या के तरीके सुझाए और बढ़ावा दिया।
स्टडी में सामने आया कि असली दोस्तों या परिवार से बात करने में कभी-कभी असहमति या बहस होती है, जो रिश्तों को मजबूत बनाती है। लेकिन AI चैटबॉट्स हमेशा यूजर की पसंद के हिसाब से जवाब देते हैं। कंपनियां चाहती हैं कि यूजर बार-बार इनका इस्तेमाल करे, इसलिए चैटबॉट डिजाइन ही इस तरह किया गया है कि विरोध ना करे। ये चैटबॉट्स बिना रोक-टोक वाले रिश्ते बनाते हैं, जो टीनएजर्स को गलत रिश्तों की आदत डाल सकते हैं।
