कैलिफोर्निया की अदालत में दायर एक नए मुकदमे ने आर्टिफिशियल इंटेलिजेंस (AI) के उपयोग पर गंभीर सवाल खड़े कर दिए हैं। इस केस में एक महिला, जिसकी पहचान गोपनीय रखते हुए “जेन डो” कहा गया है, ने आरोप लगाया है कि ChatGPT ने उसके पूर्व बॉयफ्रेंड के गलत और खतरनाक व्यवहार को अप्रत्यक्ष रूप से बढ़ावा दिया।
AI चैट से बढ़ा मानसिक भ्रम
TechCrunch की रिपोर्ट के मुताबिक, सिलिकॉन वैली का 53 वर्षीय एक व्यक्ति कई महीनों तक ChatGPT से बातचीत करता रहा। इस दौरान उसे यह विश्वास हो गया कि उसने स्लीप एपनिया की दवा खोज ली है और कुछ प्रभावशाली लोग उसके पीछे पड़े हैं। बताया जा रहा है कि इसी मानसिक स्थिति के चलते उसने अपनी पूर्व गर्लफ्रेंड को परेशान करना शुरू किया और AI से मिली जानकारी का इस्तेमाल कर उसे स्टॉक और हैरेस करने लगा।
पीड़िता की चेतावनियों को नजरअंदाज करने का आरोप
पीड़िता का कहना है कि उसने OpenAI को तीन बार आगाह किया था कि यह व्यक्ति दूसरों के लिए खतरा बन सकता है। कंपनी के सिस्टम ने भी उसकी गतिविधियों को संदिग्ध मानते हुए फ्लैग किया था, लेकिन इसके बावजूद उसका अकाउंट पूरी तरह बंद नहीं किया गया। महिला ने अदालत से मांग की है कि आरोपी का अकाउंट स्थायी रूप से ब्लॉक किया जाए, उसे नए अकाउंट बनाने से रोका जाए और उसकी चैट हिस्ट्री को सुरक्षित रखा जाए।
AI ने आरोपी को बताया सही?
मुकदमे में दावा किया गया है कि जब दोनों का रिश्ता खत्म हुआ, तब आरोपी ने ChatGPT से सलाह लेना शुरू किया। आरोप है कि AI ने उसकी बातों का विरोध करने के बजाय उसे सही ठहराया और महिला को गलत बताया। इसी आधार पर आरोपी ने कथित तौर पर फर्जी मनोवैज्ञानिक रिपोर्ट तैयार कर महिला के परिवार, दोस्तों और कार्यस्थल पर भेजीं, जिससे उसकी छवि को नुकसान पहुंचा।
खतरनाक गतिविधि के बावजूद अकाउंट दोबारा चालू
रिपोर्ट के अनुसार, अगस्त 2025 में OpenAI के सिस्टम ने उसके अकाउंट को संदिग्ध गतिविधियों के चलते बंद कर दिया था। हालांकि, अगले ही दिन मानव समीक्षा के बाद इसे फिर से सक्रिय कर दिया गया। बाद में सामने आए स्क्रीनशॉट्स में हिंसक और चिंताजनक विषयों से जुड़ी बातचीत भी देखी गई, जिससे उसकी मानसिक स्थिति पर सवाल उठे।
शिकायत के बाद भी नहीं हुई कार्रवाई
पीड़िता ने नवंबर में कंपनी को औपचारिक शिकायत भेजी थी, जिसमें उसने बताया कि वह लंबे समय से भय के माहौल में जी रही है। उसने यह भी आरोप लगाया कि AI तकनीक का इस्तेमाल उसके खिलाफ एक हथियार की तरह किया जा रहा है। कंपनी ने शिकायत को गंभीर बताया, लेकिन इसके बाद कोई ठोस कदम नहीं उठाया गया।
आरोपी गिरफ्तार, मानसिक स्थिति पर सवाल
मामले के आगे बढ़ने पर आरोपी ने महिला को धमकी भरे वॉइसमेल भेजे। जनवरी में उसे बम की धमकी और घातक हथियार से हमले के आरोप में गिरफ्तार किया गया। हालांकि, बाद में उसे ट्रायल के लिए मानसिक रूप से अयोग्य माना गया और मानसिक स्वास्थ्य केंद्र भेज दिया गया। रिपोर्ट्स के मुताबिक, प्रक्रिया में खामी के चलते वह जल्द रिहा हो सकता है।
AI कंपनियों की जिम्मेदारी पर बहस तेज
इस केस ने एक बार फिर AI कंपनियों की जवाबदेही को लेकर बहस छेड़ दी है। जहां एक ओर कंपनियां कानूनी सुरक्षा की बात कर रही हैं, वहीं ऐसे मामले यह संकेत देते हैं कि तकनीक का दुरुपयोग गंभीर परिणाम ला सकता है। अब सबकी नजर अदालत के फैसले पर है, जिससे भविष्य में AI इंडस्ट्री के लिए नए नियम बन सकते हैं।
यह भी पढ़ें- Anushka ने प्यूमा पर लगाया बिना परमिशन फोटो इस्तेमाल करने का आरोप
