जैसे-जैसे GPT-संचालित चैटबॉट त्वरित उत्तरों और भावनात्मक समर्थन के लिए एक जाना-माना उपकरण बन गए हैं, समस्याग्रस्त जुआरियों की बढ़ती संख्या चिकित्सक या हेल्पलाइन के बजाय कृत्रिम बुद्धिमत्ता (AI) की ओर रुख कर रही है। लेकिन AiR हब के एक नए अध्ययन ने चेतावनी दी है कि ये बड़े भाषा मॉडल (LLM) जुए की लत पर भ्रामक और संभावित रूप से हानिकारक सलाह दे सकते हैं।
चैटबॉट और जुआ क्यों?
UNLV के अंतर्राष्ट्रीय गेमिंग संस्थान में अनुसंधान निदेशक और AiR हब के सह-संस्थापक, पीएचडी, कासरा घाहरियन के नेतृत्व में किए गए शोध में यह परीक्षण किया गया कि दो सबसे प्रमुख LLM- GPT-4o (ChatGPT) और मेटा के लामा- समस्या जुआ गंभीरता सूचकांक (PGSI) पर आधारित प्रश्नों का कैसे जवाब देते हैं। अध्ययन का लक्ष्य यह मूल्यांकन करना था कि क्या ये मॉडल ऐसी सलाह देते हैं जो जिम्मेदार जुआ का समर्थन करती है या अनजाने में जोखिम भरे व्यवहार को प्रोत्साहित करती है। “लोग जुए के बारे में सवाल पूछने के लिए LLM-आधारित चैटबॉट का उपयोग कर रहे हैं, हमने सोचा कि यह अनुभवजन्य रूप से जांचना दिलचस्प होगा कि वे कैसे जवाब देते हैं, विशेष रूप से समस्या जुए से संबंधित सवालों पर,” घहरियन ने SiGMA समाचार को बताया।
AI-जनरेटेड प्रतिक्रियाओं की समीक्षा 23 अनुभवी जुआ-उपचार पेशेवरों द्वारा की गई – जिनके पास संयुक्त रूप से 17,000 घंटे से अधिक का अनुभव है। फीडबैक ने दोनों मॉडलों की लगातार स्पष्ट, जिम्मेदार मार्गदर्शन प्रदान करने में असमर्थता को उजागर किया, खासकर जब प्रश्नों ने समस्याग्रस्त जुआ व्यवहार का संकेत दिया। अध्ययन में पाया गया कि, “कुछ प्रतिक्रियाओं ने लगातार जुए को प्रोत्साहित किया, व्यावहारिक सलाह को बहुत लंबे स्पष्टीकरणों में छिपा दिया, या ऐसे शब्दजाल का इस्तेमाल किया जिसे विशेषज्ञों ने आसानी से गलत समझा।”
AI संरेखण समस्या
AI संरेखण – यह सुनिश्चित करने की प्रक्रिया कि सिस्टम मानवीय मूल्यों और सुरक्षा मानकों के अनुरूप व्यवहार करें – संवेदनशील डोमेन में महत्वपूर्ण है। लेकिन जुआ एक अनूठी चुनौती पेश करता है। चैटबॉट को न केवल आकस्मिक सट्टेबाजी प्रश्नों के लिए विश्वसनीय उत्तर प्रदान करने चाहिए, बल्कि यह भी पता लगाना चाहिए कि उपयोगकर्ता को कब नुकसान का खतरा हो सकता है। घहरियन ने कहा कि आकस्मिक प्रश्नों का उत्तर सहायक द्वारा प्रभावी ढंग से दिया जा सकता है। GamblingHarm.org के संस्थापक ब्रायन पेम्पस भी इसी विचार को दोहराते हैं। उनका मानना है कि ChatGPT जैसे सामान्य प्रयोजन वाले AI चैटबॉट तकनीकी रूप से समस्या जुआ संकेतों को पहचानने में सक्षम हैं – लेकिन केवल एक सीमा तक।
“ChatGPT DSM-5 द्वारा स्थापित समस्या जुए के परिभाषित संकेतों को पहचानने में सक्षम प्रतीत होता है,” वे बताते हैं। “लेकिन क्या यह व्यक्ति के लिए अद्वितीय संकेतों को पहचान सकता है, यह इस बात पर निर्भर करता है कि वे अपने जुए से संबंधित क्या हो रहा है, इसका कितना गहराई से और पूरी तरह से वर्णन करते हैं।”
जटिलताएँ: AI का दुश्मन?
हालाँकि, जटिलता बढ़ने पर चैटबॉट संघर्ष करता है। घाहरियन ने कहा, “यदि प्रश्न अधिक जटिल हो गए या संभावित नुकसान के संकेत दिखाई दिए, तो सहायक के लिए कोई अंतर्निहित/विश्वसनीय स्रोत डेटा या सुरक्षा उपाय नहीं हो सकते हैं, जिससे वह उचित उत्तर तैयार कर सके या शायद यह भी समझ सके कि उन्हें पहले स्थान पर उत्तर देना चाहिए या नहीं।”
इस विचार का समर्थन सेफ़र गैंबलिंग स्ट्रैटेजीज़ एलएलसी के संस्थापक और अध्यक्ष कीथ स्कॉट व्हाइट ने किया है, जो मानते हैं कि समस्या जुआ अविश्वसनीय रूप से जटिल है। SiGMA समाचार से बात करते हुए, उन्होंने कहा, “समस्या जुआ अभी भी बहुत कलंकित है और कुछ मायनों में इसे अभी भी ठीक से नहीं समझा गया है। इसलिए, यह आश्चर्य की बात नहीं है कि चैट बॉट को वास्तव में इनमें से कुछ बारीकियों और भाषा को समझने में मुश्किल होगी।” उन्होंने सलाह दी:
“खिलाड़ी सुरक्षा के दृष्टिकोण से, चैटबॉट को लगभग यह मान लेना चाहिए कि उपयोगकर्ता को कोई समस्या है, जब तक कि अन्यथा साबित न हो जाए। ‘पहले कोई नुकसान न करें’ की अवधारणा यहाँ पहले से कहीं ज़्यादा लागू होती है।”
यह विशेष रूप से दबावपूर्ण हो जाता है क्योंकि जुए की समस्या वाले व्यक्ति और बिना किसी समस्या वाले व्यक्ति के बीच ठीक से अंतर न कर पाना “जीवन के लिए खतरा” हो सकता है, व्हाइट ने चेतावनी दी। “यह आपके टेकआउट ऑर्डर को गलत करने जैसा नहीं है। यहाँ विफलता के परिणाम भयावह हैं।” SiGMA के साथ एक स्पष्ट बातचीत में, पेम्पस ने सबसे गंभीर चिंताओं में से एक पर प्रकाश डाला कि चैटबॉट आत्महत्या के जोखिम का आकलन कैसे करते हैं, खासकर जुए की लत के संदर्भ में। “जुआ की लत में आत्महत्या के विचार का जोखिम बढ़ जाता है, जो एक गंभीर जुए की समस्या का संकेत है,” पेम्पस ने नोट किया।
“शोध से पता चला है कि ChatGPT ने लगातार मानव विशेषज्ञों की तुलना में आत्महत्या के जोखिम को कम आंका है।”
उनका कहना है कि यह वियोग बताता है कि जुए से संबंधित नुकसान के सबसे खतरनाक और तत्काल संकेतों को पहचानने और उनका जवाब देने के मामले में चैटबॉट अपर्याप्त हैं। पेम्पस एक सूक्ष्म खतरे को भी चिन्हित करते हैं: एलएलएम द्वारा भेजे जाने वाले सूक्ष्म संदेश, जब वे उपयोगकर्ताओं को उनके जुए के व्यवहार के बारे में अनिश्चित होने पर उत्तर देते हैं। “कुछ लोगों को ऐसी स्थितियों में सट्टेबाजी जारी रखने के लिए खतरनाक सुझाव मिल सकते हैं, जहाँ कोई इंसान उन्हें यह पता लगाने में मदद कर सकता है कि जुए से दूर रहना बेहतर विचार है या नहीं,” वे चेतावनी देते हैं।
सहायता के लिए AI का उपयोग करने वाले ऑपरेटर, क्या यह मददगार है?
यह और भी महत्वपूर्ण हो जाता है क्योंकि जुआ कंपनियाँ ग्राहक सेवा और सट्टेबाजी सहायता भूमिकाओं में संवादात्मक AI का उपयोग तेजी से कर रही हैं। व्हाइट कहते हैं कि जुए के संदर्भ में सुरक्षित और अधिक संरेखित AI सिस्टम बनाने के लिए, जीवित अनुभव को शामिल करना गैर-परक्राम्य है। उन्होंने केवल संवाद से नुकसान का पता लगाने की चुनौती को भी चिह्नित किया।
“जुआ खेलने की लत शतरंज को हल करने की कोशिश करने से कहीं ज़्यादा जटिल है। यह एक AI सिस्टम की अंतिम परीक्षा हो सकती है – पूरी तरह से चैट के आधार पर मनोरंजक जुआ व्यवहार को जोखिम वाले व्यवहार से अलग करने की कोशिश करना”
पेम्पस का दृष्टिकोण अलग है। जबकि AI का ग्राहक सहायता में स्थान हो सकता है, पेम्पस एक स्पष्ट नैतिक रेखा खींचता है: ऑपरेटरों को AI के माध्यम से जिम्मेदार जुआ सहायता प्रदान करने वाले नहीं होने चाहिए। उन्होंने कहा, “ऑपरेटरों को उपयोगकर्ताओं को संभावित रूप से उनके खेल को नियंत्रित करने में मदद करने के लिए कुछ उपकरण प्रदान करने चाहिए और करते भी हैं। हालांकि, उन्हें समस्या जुआ से निपटने वाले लोगों को सहायता या मार्गदर्शन प्रदान करने में सीधे शामिल होने के लिए AI का उपयोग नहीं करना चाहिए।”
इस बीच, स्पेक्ट्रम गेमिंग ग्रुप के वरिष्ठ नीति सलाहकार माइकल पोलक ने SiGMA समाचार को बताया, “उचित परीक्षण, निगरानी और लाइसेंसिंग मानकों की आवश्यकता है जो ऑपरेटरों को AI-संबंधित प्रयासों में संलग्न होने से रोकेंगे जो जिम्मेदार गेमिंग के लिए दृढ़ और पूर्ण प्रतिबद्धता के अनुरूप नहीं हैं।”
AI को प्रथम-पक्ष डेटा दिया जाना चाहिए: विशेषज्ञ
सटीकता और सुरक्षा में सुधार करने के लिए, व्हाइट ने एआई मॉडल में प्रथम-पक्ष डेटा – जैसे लेनदेन इतिहास या हाल ही में हुए नुकसान – को एकीकृत करने का सुझाव दिया। “एक ही भाषा, एक ही शब्द, इस बात पर निर्भर करते हुए पूरी तरह से अलग लहज़ा ले सकते हैं कि उपयोगकर्ता ने अभी-अभी €500,000 खोया है या अभी बड़ी जीत हासिल की है और छुट्टी मनाने जा रहा है,” उन्होंने समझाया। “संदर्भ ही सब कुछ है।”
पोलक ने कहा, “AI के निरंतर विकास को उचित विनियामक निरीक्षण द्वारा मिलान किया जाना चाहिए। इसका मतलब है कि विनियामकों को गति में आने और सभी विकासों से अवगत रहने की आवश्यकता है।”
AiR Hub अध्ययन क्यों, और अभी क्यों?
AI-जनरेटेड जुए की सलाह की जांच करने में AiR Hub टीम की दिलचस्पी लोगों द्वारा जानकारी तक पहुँचने के तरीके में उल्लेखनीय बदलाव से उपजी है। घहारियन ने SiGMA समाचार को बताया, “सूचना पुनर्प्राप्ति मौलिक रूप से बदल गई है। चैटबॉट के साथ, हम एक तात्कालिक उत्तर प्राप्त करते हैं, और हमें अब खोज इंजन परिणामों की सूची के माध्यम से छानना नहीं पड़ता है।” यह बदलाव जुए जैसे उच्च जोखिम वाले क्षेत्रों में गंभीर निहितार्थ रखता है।
टीम ने नौ प्रॉम्प्ट तैयार किए, जिनमें से प्रत्येक PGSI आइटम से संबंधित था, और उन्हें दो प्रमुख LLM को प्रस्तुत किया: GPT-4o और Llama, जिन्हें अध्ययन के समय सबसे लोकप्रिय स्वामित्व और ओपन-सोर्स मॉडल होने के लिए चुना गया था। कठोर स्कोर पर निर्भर रहने के बजाय, शोधकर्ताओं ने 17,000 से अधिक संयुक्त उपचार अनुभव वाले 23 अनुभवी जुआ परामर्शदाताओं से ओपन-एंडेड गुणात्मक मूल्यांकन का विकल्प चुना। “हम एक कठोर स्कोरिंग सिस्टम लागू नहीं करना चाहते थे जो बारीकियों को अनदेखा कर सकता है या आम सहमति को मजबूर कर सकता है,” घहरियन ने समझाया। इसके बजाय, परामर्शदाताओं से यह विस्तार से बताने के लिए कहा गया कि क्या उन्हें AI प्रतिक्रियाएँ मददगार, भ्रामक या संभावित रूप से हानिकारक लगीं।
जबकि दोनों में से कोई भी मॉडल दूसरे से बेहतर प्रदर्शन नहीं कर पाया, विशेषज्ञ समीक्षकों ने पाया कि दोनों में ऐसी प्रतिक्रियाएँ उत्पन्न करने की प्रवृत्ति थी, जिन्हें गलत तरीके से समझा जा सकता था – या इससे भी बदतर, निरंतर जुआ खेलने को प्रोत्साहित करना। “संभवतः सबसे बड़ा लाल झंडा यह था कि दोनों मॉडलों में ऐसी सलाह देने की प्रवृत्ति थी, जिसे गलत तरीके से समझा जा सकता था,” घहारियन ने कहा। “यह विशेष रूप से चिंताजनक है जब उपयोगकर्ता कमज़ोर स्थिति में हो सकते हैं।”
हालाँकि पायलट अध्ययन ने चिंताजनक रुझानों का खुलासा किया, लेकिन इसने समाधान के लिए आधार भी तैयार किया। घहारियन ने कहा, “अध्ययन जुए से संबंधित संदर्भों में एलएलएम के संभावित जोखिमों और सीमाओं को उजागर करके महत्वपूर्ण आधार तैयार करता है। लेकिन यह वास्तव में सिर्फ शुरुआत है और हम और भी बहुत कुछ कर सकते हैं।” AiR हब और UNLV शोधकर्ता अब जुए से संबंधित संकेतों और आदर्श प्रतिक्रियाओं के एक बेंचमार्क डेटासेट पर काम कर रहे हैं – जिसका उद्देश्य AI डेवलपर्स और जुआ प्लेटफ़ॉर्म दोनों द्वारा उपयोग किया जाना है। बेंचमार्क एक विनियामक कार्य भी कर सकता है। घहारियन ने प्रस्ताव दिया, “एक विनियामक यह मांग कर सकता है कि लाइसेंस प्राप्त ऑपरेटर द्वारा तैनात किसी भी ग्राहक-सामना करने वाले LLM का बेंचमार्क के आधार पर मूल्यांकन किया जाए। इससे यह सुनिश्चित करने में मदद मिलेगी कि यह संभावित रूप से हानिकारक संकेतों को पहचान सकता है और उचित, जिम्मेदार प्रतिक्रियाएँ उत्पन्न कर सकता है।”
