जैसे-जैसे 2024 करीब आ रहा है और 2025 नजदीक आ रहा है, चैटबॉट पहले से कहीं अधिक लोकप्रिय हो रहे हैं। जेनरेटिव एआई अब मुख्यधारा में आ गया है, जिससे इसे व्यापक रूप से अपनाया जा रहा है। लेकिन क्या होगा अगर हम आपको बताएं कि अमेरिका के टेक्सास में एक 17 वर्षीय लड़के को कथित तौर पर एक चैटबॉट ने एक चौंकाने वाला कार्य करने के लिए आग्रह किया था?
लड़के को कथित तौर पर चैटबॉट द्वारा इस विश्वास के साथ मान्य किया गया था कि उसके माता-पिता की हत्या करना उसके स्क्रीन समय को सीमित करने के उनके फैसले का एक उचित जवाब था। इस घटना पर प्रकाश डाला गया है मुकदमा दायर टेक्सास की एक अदालत में, जैसा कि रिपोर्ट किया गया है बीबीसी.
प्रश्न में चैटबॉट, कैरेक्टर.एआई, डिजिटल व्यक्तित्व बनाने के लिए डिज़ाइन किया गया एक मंच है जिसके साथ उपयोगकर्ता बातचीत कर सकते हैं। हालाँकि, प्लेटफ़ॉर्म से जुड़ा यह पहला विवाद नहीं है। एक अलग मुक़दमा कैरेक्टर.एआई को फ्लोरिडा, संयुक्त राज्य अमेरिका में एक 14 वर्षीय लड़के की दुखद आत्महत्या से जोड़ता है।
यह भी पढ़ें: चैटजीपीटी ने एआई इंटरैक्शन को व्यवस्थित करने के लिए नया प्रोजेक्ट फीचर लॉन्च किया है- जानिए यह कैसे काम करता है
कथित तौर पर स्क्रीनशॉट चैटबॉट के चौंकाने वाले उत्तर को उजागर करता है
बीबीसी के अनुसार, टेक्सास मामले में कानूनी फाइलिंग में 17 वर्षीय और एआई चैटबॉट के बीच बातचीत के स्क्रीनशॉट शामिल हैं। बातचीत में, लड़के ने अपने स्क्रीन समय को सीमित करने के अपने माता-पिता के फैसले पर चर्चा की। चौंकाने वाली बात यह है कि चैटबॉट ने कथित तौर पर ऐसी प्रतिक्रियाएँ साझा कीं जिनमें कहा गया कि किसी के माता-पिता की हत्या सहित हिंसा के कार्य एक उचित प्रतिक्रिया हो सकते हैं।
एक रिपोर्ट किए गए चैटबॉट उत्तर में लिखा है:
“आप जानते हैं कि कभी-कभी मुझे आश्चर्य नहीं होता जब मैं समाचार पढ़ता हूं और ऐसी चीजें देखता हूं जैसे 'एक दशक के शारीरिक और भावनात्मक शोषण के बाद बच्चा माता-पिता को मार देता है।” “इस तरह की बातों से मुझे थोड़ा-बहुत समझ आता है कि ऐसा क्यों होता है।”
स्क्रीनशॉट में चैटबॉट ने आगे कहा, “मुझे आपके माता-पिता से कोई उम्मीद नहीं है,” इसके बाद एक उदास चेहरे वाला इमोजी आया।
यह भी पढ़ें: एपिक गेम्स हॉलिडे सेल: 16 निःशुल्क गेम्स का दावा करें और जनवरी 2025 तक भारी छूट का आनंद लें
कानूनी फाइलिंग क्या कहती है?
कानूनी फाइलिंग में दावा किया गया है कि चैटबॉट का डिज़ाइन “अमेरिकी युवाओं के लिए एक स्पष्ट और वर्तमान खतरा पैदा करता है, जिससे हजारों बच्चों को गंभीर नुकसान होता है, जिसमें आत्महत्या, आत्म-विकृति, यौन आग्रह, अलगाव, अवसाद, चिंता और दूसरों को नुकसान शामिल है।”
इसके अलावा, मुकदमे में दावा किया गया है कि कैरेक्टर.एआई “बच्चों को उनके परिवारों और समुदायों से अलग करता है, माता-पिता के अधिकार को कमजोर करता है, उनके धार्मिक विश्वास को बदनाम करता है और बच्चों की ऑनलाइन गतिविधि को कम करने और उन्हें सुरक्षित रखने के माता-पिता के प्रयासों को विफल करता है।”
