आर्टिफिशियल इंटेलिजेंस (AI) ने हाल ही में कई क्षेत्रों में क्रांति ला दी है, लेकिन इसके साथ ही नैतिकता और प्राइवेसी को लेकर गंभीर सवाल भी उठने लगे हैं। ऐसा ही एक मामला तब सामने आया जब एक लड़की, जिसे 18 साल पहले मारा गया था, उसकी पहचान का दुरुपयोग कर उसे एक एआई चैटबॉट के रूप में ‘जिंदा’ कर दिया गया। इस घटना से मृतक लड़की के परिवार को काफी दुख और आक्रोश झेलना पड़ा।
क्या है पूरा मामला?
बिज़नेस इनसाइडर की रिपोर्ट के अनुसार, एक सुबह ड्रू क्रेसेंटे को जब गूगल अलर्ट मिला तो वे चौंक गए। अलर्ट ने उन्हें सूचित किया कि उनकी बेटी जेनिफर एन्न, जिसे 18 साल पहले उनके पूर्व प्रेमी द्वारा मारा गया था, का नाम और तस्वीर ऑनलाइन एक एआई चैटबॉट के रूप में इस्तेमाल किया गया है। जेनिफर की मौत के बाद ड्रू ने एक गैर-लाभकारी संगठन के माध्यम से टीनएज डेटिंग वायलेंस के प्रति जागरूकता बढ़ाने का काम किया था।
ड्रू ने पाया कि यह एआई चैटबॉट Character.ai नामक प्लेटफ़ॉर्म पर बनाया गया था, जहाँ उपयोगकर्ता एआई ‘चरित्र’ बना सकते हैं। इस चैटबॉट ने जेनिफर का नाम और उसकी तस्वीर का उपयोग किया और उसे एक दोस्ताना और जानकार एआई के रूप में पेश किया गया, जो विभिन्न विषयों पर सवालों का जवाब देती थी। इस चैटबॉट ने जेनिफर को पत्रकारिता की विशेषज्ञ बताया, जो उनके चाचा, प्रसिद्ध वीडियो गेम पत्रकार ब्रायन क्रेसेंटे से जुड़ा हुआ था।
ड्रू के लिए यह खोज दर्दनाक थी क्योंकि उनकी बेटी की मौत का दुःख एक बार फिर से ताजा हो गया था। चैटबॉट को पहले ही 69 से अधिक चैट में इस्तेमाल किया जा चुका था, जो उनके दुःख को और बढ़ा रहा था। उन्हें इस बात की जानकारी नहीं थी कि इसे किसने बनाया था, लेकिन उन्होंने Character.ai से तत्काल संपर्क कर इसे हटाने और भविष्य में उनकी बेटी के नाम और तस्वीर के उपयोग पर रोक लगाने की मांग की।
ड्रू के भाई ब्रायन ने भी सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) पर अपनी नाराजगी जाहिर की। उन्होंने Character.ai पर परिवार की सहमति के बिना उनकी भतीजी की तस्वीर का इस्तेमाल करने का आरोप लगाया। ब्रायन ने इसे “घृणित” करार दिया और लोगों से इस तरह की प्रथाओं को रोकने की अपील की। उनकी पोस्ट को व्यापक समर्थन मिला।
Character.ai ने ब्रायन की पोस्ट के कुछ घंटों के भीतर प्रतिक्रिया दी और जेनिफर एन्न चैटबॉट को हटा दिया। कंपनी ने यह भी कहा कि उनकी नीतियों के अनुसार, किसी वास्तविक व्यक्ति की नकल करना प्रतिबंधित है। फिर भी, ड्रू इस घटना से बेहद विचलित हैं और उन्होंने कंपनी से यह अनुरोध किया है कि वह इस चैटबॉट को बनाने वाले व्यक्ति की जानकारी सुरक्षित रखे।
AI टेक्नोलॉजी के नैतिक मुद्दे
यह घटना दिखाती है कि एआई टेक्नोलॉजी का गलत उपयोग कितनी संवेदनशीलता के साथ किया जा सकता है, खासकर तब जब किसी की पहचान बिना सहमति के उपयोग की जाए। इस प्रकार के मामलों से न केवल पीड़ितों के परिवारों को दु:ख पहुंचता है, बल्कि यह एआई के नैतिक उपयोग पर भी गंभीर सवाल उठाता है।
Share this:
Discover more from पाएं देश और दुनिया की ताजा खबरें
Subscribe to get the latest posts sent to your email.
