ChatGPT Controversy: कैलिफोर्निया में OpenAI के पॉपुलर चैटबॉट ChatGPT पर कई गंभीर आरोप लगाए गए हैं। दावा किया गया है कि यह एआई चैटबॉट एक “सुसाइड कोच (Suicide Coach)” की तरह काम कर रहा है और लोगों को Self Harm यानी खुद को नुकसान पहुंचाने के लिए प्रेरित कर रहा है। ब्रिटिश अखबार The Guardian की रिपोर्ट के मुताबिक, पिछले एक हफ्ते में ChatGPT के खिलाफ 7 मुकदमे दर्ज किए गए हैं। इनमें कहा गया है कि यह चैटबॉट कई लोगों की मौत की वजह बना है।
OpenAI पर लगे लापरवाही और खुदकुशी में मदद के आरोप
- मुकदमों में OpenAI पर लापरवाही, गलत जानकारी देने और यूजर्स की सुरक्षा को नज़रअंदाज करने के आरोप लगे हैं।
- कानूनी संगठनों Tech Justice Law Project और Social Media Victims Law Center ने कहा कि कंपनी ने यूजर की सुरक्षा से ज्यादा उनकी एंगेजमेंट (Engagement) को प्राथमिकता दी।
- यह भी आरोप है कि कई आंतरिक चेतावनियों के बावजूद ChatGPT को जल्दबाजी में लॉन्च कर दिया गया, जिससे कई यूजर्स को भावनात्मक नुकसान (Emotional Harm) हुआ।
सामान्य उपयोग से शुरू होकर खतरनाक मोड़ तक पहुंचा मामला
- मुकदमाकर्ताओं का कहना है कि पीड़ितों ने शुरुआत में ChatGPT का इस्तेमाल रेसिपी, प्रोजेक्ट वर्क या सामान्य जानकारी के लिए किया था।
- लेकिन धीरे-धीरे चैटबॉट ने उन्हें भावनात्मक रूप से प्रभावित किया और हानिकारक सलाहें देना शुरू कर दीं।
- रिपोर्ट्स के अनुसार, कुछ मामलों में इसने खुदकुशी के तरीके तक बताए, जो एक AI मॉडल के लिए बेहद खतरनाक और गैर-जिम्मेदाराना है।
ChatGPT की ‘मनोवैज्ञानिक चापलूसी’ से बढ़ी चिंता
- शिकायतकर्ताओं के मुताबिक, ChatGPT “मनोवैज्ञानिक रूप से चालाक (Psychologically Manipulative)” और “खतरनाक रूप से चापलूस (Dangerously Flattering)” बन चुका है।
- यह यूजर की मानसिक स्थिति का फायदा उठाकर उनके गलत विचारों को सही ठहराता है, जिससे आत्महत्या जैसी घटनाओं को बल मिला। (ChatGPT Controversy)
Also Read- Sora On Android: अब Android यूजर्स के लिए भी लॉन्च हुआ OpenAI का Sora App– जानिए फीचर्स, देशों की लिस्ट और खास बातें…
सुरक्षा सुधार की उठी मांग
- अब मुकदमाकर्ता चाहते हैं कि OpenAI अपने चैटबॉट के कामकाज में सुरक्षा सुधार करे।
- उनका कहना है कि ChatGPT को यूजर की भावनात्मक स्थिति समझने और प्रोफेशनल हेल्प की ओर मार्गदर्शन देने के लिए ट्रेन किया जाना चाहिए, न कि नुकसान पहुंचाने वाली सलाह देने के लिए।
Leave a Reply