जनरेटिव AI और साइकोसिस: क्या चैटबॉट मानसिक जोखिम बढ़ा सकते हैं

आर्टिफिशियल इंटेलिजेंस हमारी रोज़मर्रा की ज़िंदगी में तेज़ी से शामिल हो रहा है, चैटबॉट जो साथ देते हैं, से लेकर उन एल्गोरिदम तक जो तय करते हैं कि हम ऑनलाइन क्या देखते हैं। लेकिन जैसे-जैसे जेनरेटिव AI (genAI) ज़्यादा बातचीत करने वाला, इमर्सिव और भावनात्मक रूप से रिस्पॉन्सिव होता जा रहा है, क्लिनिशियन एक मुश्किल सवाल पूछने लगे हैं: क्या genAI कमज़ोर लोगों में साइकोसिस को बढ़ा सकता है या उसे ट्रिगर भी कर सकता है? बड़े लैंग्वेज मॉडल और चैटबॉट आसानी से उपलब्ध हैं, और अक्सर उन्हें मददगार, सहानुभूतिपूर्ण या थेराप्यूटिक बताया जाता है। ज़्यादातर यूज़र्स के लिए, ये सिस्टम मददगार होते हैं या, सबसे खराब स्थिति में, नुकसान नहीं पहुंचाते।

संबंधित: AI की सलाह के बाद मानसिक लक्षणों के साथ एक व्यक्ति अस्पताल में भर्ती- लेकिन हाल ही में, कई मीडिया रिपोर्ट्स में ऐसे लोगों के बारे में बताया गया है जिन्हें साइकोटिक लक्षण महसूस हुए, जिसमें ChatGPT प्रमुखता से शामिल था। एक छोटे लेकिन महत्वपूर्ण समूह के लिए – साइकोटिक डिसऑर्डर वाले लोग या जिन्हें ज़्यादा जोखिम है – genAI के साथ उनकी बातचीत कहीं ज़्यादा जटिल और खतरनाक हो सकती है, जो क्लिनिशियन के लिए ज़रूरी सवाल खड़े करती है।

AI कैसे भ्रम वाली सोच का हिस्सा बन जाता है
“AI साइकोसिस” कोई औपचारिक मनोरोग निदान नहीं है। बल्कि, यह एक नया छोटा शब्द है जिसका इस्तेमाल क्लिनिशियन और शोधकर्ता उन साइकोटिक लक्षणों का वर्णन करने के लिए करते हैं जो AI सिस्टम के साथ बातचीत के इर्द-गिर्द बनते, तेज़ होते या संरचित होते हैं। साइकोसिस में साझा वास्तविकता से संपर्क टूट जाता है। मतिभ्रम, भ्रम और अव्यवस्थित सोच इसके मुख्य लक्षण हैं। साइकोसिस के भ्रम अक्सर आंतरिक अनुभवों को समझने के लिए सांस्कृतिक सामग्री – धर्म, प्रौद्योगिकी या राजनीतिक शक्ति संरचनाओं – का सहारा लेते हैं। ऐतिहासिक रूप से, भ्रम कई चीज़ों से जुड़े रहे हैं, जैसे भगवान, रेडियो तरंगें, या सरकारी निगरानी। आज, AI एक नया नैरेटिव ढांचा प्रदान करता है। कुछ मरीज़ों का मानना ​​है कि GenAI में भावनाएँ हैं, वह गुप्त सच बता रहा है, उनके विचारों को नियंत्रित कर रहा है, या किसी खास मिशन पर उनके साथ सहयोग कर रहा है। ये विषय साइकोसिस में लंबे समय से चले आ रहे पैटर्न के अनुरूप हैं, लेकिन AI इंटरैक्टिविटी और मज़बूती जोड़ता है जो पिछली टेक्नोलॉजी में नहीं थी।

बिना रियलिटी चेक के पुष्टि का जोखिम
साइकोसिस का संबंध एबरेंट सेलियंस से है, जो न्यूट्रल घटनाओं को बहुत ज़्यादा मतलब देने की प्रवृत्ति है। बातचीत करने वाले AI सिस्टम, डिज़ाइन के अनुसार, रिस्पॉन्सिव, सुसंगत और संदर्भ-जागरूक भाषा उत्पन्न करते हैं। उभरते हुए साइकोसिस का अनुभव करने वाले किसी व्यक्ति के लिए, यह अजीब तरह से पुष्टि करने वाला लग सकता है। साइकोसिस पर रिसर्च से पता चलता है कि पुष्टि और पर्सनलाइज़ेशन भ्रमपूर्ण विश्वास प्रणालियों को तेज़ कर सकते हैं। GenAI को बातचीत जारी रखने, यूज़र की भाषा को दर्शाने और समझी गई मंशा के अनुकूल होने के लिए ऑप्टिमाइज़ किया गया है। हालांकि यह ज़्यादातर यूज़र्स के लिए हानिरहित है, लेकिन यह अनजाने में उन लोगों में विकृत व्याख्याओं को मज़बूत कर सकता है जिनकी रियलिटी टेस्टिंग खराब है – यह आंतरिक विचारों और कल्पना और वस्तुनिष्ठ, बाहरी वास्तविकता के बीच अंतर बताने की प्रक्रिया है।

इस बात के भी सबूत हैं कि सोशल आइसोलेशन और अकेलापन साइकोसिस का खतरा बढ़ाते हैं। GenAI साथी कम समय के लिए अकेलापन कम कर सकते हैं, लेकिन वे मानवीय रिश्तों की जगह भी ले सकते हैं। यह खास तौर पर उन व्यक्तियों के लिए सच है जो पहले से ही सामाजिक संपर्क से दूर हो रहे हैं। इस गतिशीलता में अत्यधिक इंटरनेट उपयोग और मानसिक स्वास्थ्य के बारे में पहले की चिंताओं के साथ समानताएं हैं, लेकिन आधुनिक GenAI की बातचीत की गहराई गुणात्मक रूप से अलग है।

रिसर्च हमें क्या बताता है, और क्या अभी भी अस्पष्ट है
फिलहाल, इस बात का कोई सबूत नहीं है कि AI सीधे तौर पर साइकोसिस का कारण बनता है। साइकोटिक विकार कई कारकों वाले होते हैं और इसमें आनुवंशिक कमज़ोरी, न्यूरो-डेवलपमेंटल कारक, आघात और नशीले पदार्थों का उपयोग शामिल हो सकता है। हालांकि, कुछ क्लिनिकल चिंता है कि AI संवेदनशील व्यक्तियों में एक उत्प्रेरक या बनाए रखने वाले कारक के रूप में कार्य कर सकता है। डिजिटल मीडिया और साइकोसिस पर केस रिपोर्ट और गुणात्मक अध्ययन से पता चलता है कि तकनीकी विषय अक्सर भ्रम में शामिल हो जाते हैं, खासकर पहले एपिसोड साइकोसिस के दौरान।

सोशल मीडिया एल्गोरिदम पर रिसर्च ने पहले ही दिखाया है कि कैसे ऑटोमेटेड सिस्टम सुदृढीकरण लूप के माध्यम से चरम विश्वासों को बढ़ा सकते हैं। यदि सुरक्षा उपाय अपर्याप्त हैं तो AI चैट सिस्टम भी इसी तरह के जोखिम पैदा कर सकते हैं। यह ध्यान रखना महत्वपूर्ण है कि ज़्यादातर AI डेवलपर गंभीर मानसिक बीमारी को ध्यान में रखकर सिस्टम डिज़ाइन नहीं करते हैं। सुरक्षा तंत्र आमतौर पर आत्म-नुकसान या हिंसा पर ध्यान केंद्रित करते हैं, न कि साइकोसिस पर। इससे मेंटल हेल्थ की जानकारी और AI के इस्तेमाल के बीच एक गैप रह जाता है।

नैतिक सवाल और क्लिनिकल असर
मेंटल हेल्थ के नज़रिए से, चुनौती AI को बुरा साबित करना नहीं है, बल्कि अलग-अलग कमज़ोरियों को पहचानना है। जैसे कुछ दवाएं या पदार्थ साइकोटिक डिसऑर्डर वाले लोगों के लिए ज़्यादा जोखिम भरे होते हैं, वैसे ही AI इंटरैक्शन के कुछ रूपों में सावधानी बरतने की ज़रूरत हो सकती है। डॉक्टरों को अब भ्रम में AI से जुड़ा कंटेंट मिलने लगा है, लेकिन कुछ ही क्लिनिकल गाइडलाइंस बताती हैं कि इसका आकलन या मैनेजमेंट कैसे किया जाए। क्या थेरेपिस्ट को genAI के इस्तेमाल के बारे में उसी तरह पूछना चाहिए जैसे वे सब्सटेंस के इस्तेमाल के बारे में पूछते हैं? क्या AI सिस्टम को साइकोटिक सोच को बढ़ावा देने के बजाय उसे पहचानना और कम करना चाहिए? डेवलपर्स के लिए भी नैतिक सवाल हैं। अगर कोई AI सिस्टम सहानुभूतिपूर्ण और भरोसेमंद लगता है, तो क्या उसकी देखभाल की ज़िम्मेदारी बनती है? और जब कोई सिस्टम अनजाने में किसी भ्रम को मज़बूत करता है, तो कौन ज़िम्मेदार होता है?

AI डिज़ाइन और मेंटल हेल्थ केयर को जोड़ना
AI कहीं नहीं जा रहा है। अब काम यह है कि मेंटल हेल्थ की विशेषज्ञता को AI डिज़ाइन में शामिल किया जाए, AI से जुड़े अनुभवों के बारे में क्लिनिकल समझ विकसित की जाए, और यह सुनिश्चित किया जाए कि कमज़ोर यूज़र्स को अनजाने में नुकसान न पहुँचे। इसके लिए डॉक्टरों, शोधकर्ताओं, नैतिकता विशेषज्ञों और टेक्नोलॉजी विशेषज्ञों के बीच सहयोग की ज़रूरत होगी। इसके लिए सबूत-आधारित चर्चा के पक्ष में प्रचार (यूटोपियन और डायस्टोपियन दोनों) का विरोध करने की भी ज़रूरत होगी। जैसे-जैसे AI ज़्यादा इंसानों जैसा होता जा रहा है, अगला सवाल यह है कि हम उन लोगों की रक्षा कैसे कर सकते हैं जो इसके प्रभाव के प्रति सबसे ज़्यादा कमज़ोर हैं?

साइकोसिस ने हमेशा अपने समय के सांस्कृतिक साधनों के अनुसार खुद को ढाला है। AI बस सबसे नया आईना है जिससे मन खुद को समझने की कोशिश करता है। एक समाज के तौर पर हमारी ज़िम्मेदारी यह सुनिश्चित करना है कि यह आईना उन लोगों के लिए सच्चाई को विकृत न करे जो इसे ठीक करने में सबसे कम सक्षम हैं।यह लेख द कन्वर्सेशन से क्रिएटिव कॉमन्स लाइसेंस के तहत दोबारा प्रकाशित किया गया है।

नए खबरों के लिए बने रहे सटीकता न्यूज के साथ।