AI สามารถตรวจจับสัญญาณเตือนภัยการพนันได้หรือไม่?
เนื่องจากแชทบอทที่ขับเคลื่อนด้วย GPT กลายมาเป็นเครื่องมือหลักในการตอบคำถามอย่างรวดเร็วและให้การสนับสนุนทางอารมณ์ นักพนันที่มีปัญหาจำนวนมากขึ้นจึงหันมาใช้ปัญญาประดิษฐ์ (AI) แทนนักบำบัดหรือสายด่วน แต่การศึกษาใหม่จาก AiR Hub เตือนว่าโมเดลภาษาขนาดใหญ่เหล่านี้ (LLM) อาจให้คำแนะนำที่เข้าใจผิดและอาจเป็นอันตรายเกี่ยวกับการติดการพนัน
เหตุใดแชทบอทและการพนัน?
งานวิจัยซึ่งนำโดย Kasra Ghaharian, Ph.D. ผู้อำนวยการฝ่ายวิจัยที่ International Gaming Institute ของ UNLV และผู้ร่วมก่อตั้ง AiR Hub ได้ทดสอบว่า LLM ที่มีชื่อเสียงที่สุด 2 ราย ได้แก่ GPT-4o (ChatGPT) และ Llama ของ Meta ตอบคำถามโดยอิงจากดัชนีความรุนแรงของการพนันที่มีปัญหา (PGSI) อย่างไร เป้าหมายของการศึกษา คือการประเมินว่าโมเดลเหล่านี้ให้คำแนะนำที่สนับสนุนการพนันอย่างรับผิดชอบหรือส่งเสริมพฤติกรรมเสี่ยงโดยไม่ได้ตั้งใจหรือไม่ “ผู้คนใช้แชทบอทที่อิงตาม LLM เพื่อถามคำถามเกี่ยวกับการพนัน เราคิดว่าน่าสนใจที่จะตรวจสอบเชิงประจักษ์ว่าพวกเขาตอบสนองอย่างไร โดยเฉพาะเมื่อถามคำถามที่เกี่ยวข้องกับการพนันที่มีปัญหา” Ghaharian บอกกับทีมข่าว SiGMA
คำตอบที่สร้างโดย AI ได้รับการตรวจสอบโดยผู้เชี่ยวชาญที่มีประสบการณ์ด้านการพนัน 23 คน ซึ่งมีประสบการณ์รวมกันกว่า 17,000 ชั่วโมง ข้อเสนอแนะดังกล่าวเน้นย้ำถึงความไม่สามารถของทั้งสองโมเดลในการให้คำแนะนำที่ชัดเจนและรับผิดชอบอย่างสม่ำเสมอ โดยเฉพาะอย่างยิ่งเมื่อคำถามบ่งชี้ถึงพฤติกรรมการพนันที่มีปัญหา การศึกษาพบว่า “คำตอบบางคำตอบสนับสนุนให้เล่นการพนันต่อไปอย่างแนบเนียน ซ่อนคำแนะนำที่เป็นประโยชน์ไว้ในคำอธิบายที่ยาวเกินไป หรือใช้ศัพท์เฉพาะที่ผู้เชี่ยวชาญรู้สึกว่าสามารถเข้าใจผิดได้ง่าย”
ปัญหาการจัดตำแหน่ง AI
การจัดแนว AI ซึ่งเป็นกระบวนการในการรับรองว่าระบบทำงานสอดคล้องกับค่านิยมของมนุษย์และมาตรฐานความปลอดภัยนั้นมีความสำคัญในโดเมนที่ละเอียดอ่อน แต่การพนันนั้นเป็นความท้าทายที่ไม่เหมือนใคร แชทบอทต้องไม่เพียงแต่ให้คำตอบที่เชื่อถือได้ต่อคำถามเกี่ยวกับการพนันแบบไม่เป็นทางการเท่านั้น แต่ยังต้องตรวจจับด้วยว่าเมื่อใดที่ผู้ใช้อาจมีความเสี่ยงที่จะได้รับอันตราย Ghaharian กล่าวว่าคำถามแบบไม่เป็นทางการสามารถตอบได้อย่างมีประสิทธิภาพโดยผู้ช่วย Brian Pempus ผู้ก่อตั้ง GamblingHarm.org เห็นด้วยกับความคิดนี้ เขาเชื่อว่าแชทบอท AI ที่ใช้งานทั่วไป เช่น ChatGPT มีความสามารถทางเทคนิคในการรับรู้สัญญาณการพนันที่มีปัญหา แต่ทำได้เพียงในระดับหนึ่งเท่านั้น
“ChatGPT ดูเหมือนจะสามารถระบุสัญญาณบ่งชี้ปัญหาการพนันตาม DSM-5 ได้” เขากล่าวอธิบาย “แต่ว่า ChatGPT สามารถระบุสัญญาณเฉพาะของแต่ละบุคคลได้หรือไม่นั้น ขึ้นอยู่กับว่าพวกเขาอธิบายถึงสิ่งที่เกิดขึ้นที่เกี่ยวข้องกับการพนันของตนอย่างลึกซึ้งและละเอียดถี่ถ้วนเพียงใด”
ความซับซ้อน: ศัตรูของ AI?
อย่างไรก็ตาม แชทบอทจะประสบปัญหาเมื่อความซับซ้อนเพิ่มขึ้น Ghaharian กล่าวว่า “หากคำถามมีความซับซ้อนมากขึ้นหรือมีสัญญาณของอันตรายที่อาจเกิดขึ้น อาจไม่มีแหล่งข้อมูลพื้นฐาน/เชื่อถือได้หรือแนวทางป้องกันใดๆ ที่จะช่วยให้ผู้ช่วยสร้างคำตอบที่เหมาะสมหรืออาจถึงขั้นเข้าใจว่าควรหรือไม่ควรตอบคำถามนั้นตั้งแต่แรก”
Keith Scott Whyte ผู้ก่อตั้งและประธานบริษัท Safer Gambling Strategies LLC เห็นด้วยกับแนวคิดนี้ เขาเชื่อว่าการพนันที่เป็นปัญหามีความซับซ้อนอย่างยิ่ง โดยเขาได้ให้สัมภาษณ์กับทีมข่าว SiGMA ว่า “การพนันที่เป็นปัญหายังคงถูกมองในแง่ลบอย่างมาก และยังคงไม่ค่อยมีใครเข้าใจเรื่องนี้ ดังนั้น จึงไม่น่าแปลกใจที่แชทบอตจะเข้าใจความแตกต่างและภาษาเหล่านี้ได้ยาก” เขาให้คำแนะนำดังนี้:
“จากมุมมองด้านความปลอดภัยของผู้เล่น แชทบอตควรสันนิษฐานว่าผู้ใช้มีปัญหาจนกว่าจะพิสูจน์ได้เป็นอย่างอื่น แนวคิดของ ‘ต้องไม่ก่ออันตรายก่อน’ นำมาใช้ได้ที่นี่มากกว่าที่เคย”
เรื่องนี้กลายเป็นเรื่องเร่งด่วนอย่างยิ่ง เพราะการแยกแยะระหว่างคนที่ติดการพนันกับคนที่ไม่ติดการพนันไม่ได้อย่างเหมาะสมอาจกลายเป็น “อันตรายถึงชีวิต” ไวท์เตือน “เรื่องนี้ไม่เหมือนกับการสั่งอาหารกลับบ้านผิด ผลที่ตามมาจากการผิดพลาดนั้นร้ายแรงมาก” ในการสนทนาอย่างตรงไปตรงมากับ SiGMA Pempus เน้นย้ำถึงความกังวลที่ร้ายแรงที่สุดประการหนึ่งคือวิธีที่แชทบอตประเมินความเสี่ยงในการฆ่าตัวตาย โดยเฉพาะอย่างยิ่งในบริบทของการติดการพนัน “การติดการพนันมีความเสี่ยงสูงที่จะคิดฆ่าตัวตาย ซึ่งเป็นสัญญาณของปัญหาการพนันที่ร้ายแรง” Pempus กล่าว
“การวิจัยแสดงให้เห็นว่า ChatGPT ให้คะแนนความเสี่ยงการฆ่าตัวตายต่ำกว่าผู้เชี่ยวชาญอย่างสม่ำเสมอ”
เขาบอกว่าความไม่สอดคล้องกันนี้แสดงให้เห็นว่าแชทบอตไม่เพียงพอเมื่อต้องรับรู้และตอบสนองต่อสัญญาณอันตรายและเร่งด่วนที่สุดที่เกี่ยวข้องกับการพนัน Pempus ยังระบุถึงอันตรายที่ละเอียดอ่อนกว่า นั่นคือไมโครเมสเสจที่ LLM สามารถส่งได้เมื่อตอบกลับผู้ใช้ที่ไม่แน่ใจเกี่ยวกับพฤติกรรมการพนันของตน เขาเตือนว่า “บางคนอาจได้รับคำแนะนำที่เป็นอันตรายให้เดิมพันต่อไปในสถานการณ์ที่มนุษย์จะช่วยพวกเขาสำรวจว่าการละเว้นจากการพนันเป็นความคิดที่ดีกว่าหรือไม่”
ผู้ปฏิบัติการที่ใช้ AI เข้ามาช่วยเหลือ ได้ประโยชน์จริงหรือไม่?
นับวันยิ่งมีความสำคัญมากขึ้นเมื่อบริษัทการพนันเริ่มนำ AI เชิงสนทนาเข้ามาใช้ในการบริการลูกค้าและบทบาทผู้ช่วยเดิมพันมากขึ้น เพื่อสร้างระบบ AI ที่ปลอดภัยและสอดคล้องกันมากขึ้นในบริบทของการพนัน การนำประสบการณ์จริงมาใช้เป็นสิ่งที่ไม่สามารถต่อรองได้ ไวท์กล่าว นอกจากนี้ เขายังชี้ให้เห็นถึงความท้าทายในการตรวจจับอันตรายจากการสนทนาเพียงอย่างเดียว
“การติดการพนันมีความซับซ้อนมากกว่าการพยายามแก้หมากรุกมาก นี่อาจเป็นการทดสอบขั้นสูงสุดของระบบ AI เพื่อพยายามแยกแยะพฤติกรรมการพนันเพื่อความบันเทิงจากพฤติกรรมเสี่ยงที่อาศัยการสนทนาเพียงอย่างเดียว”
Pempus มีมุมมองที่แตกต่างออกไป แม้ว่า AI อาจมีบทบาทในฝ่ายสนับสนุนลูกค้า แต่ Pempus ก็ได้วางแนวทางจริยธรรมที่ชัดเจนไว้ว่า ผู้ดำเนินการไม่ควรเป็นผู้ให้การสนับสนุนการพนันอย่างรับผิดชอบผ่าน AI “ผู้ดำเนินการควรและควรเสนอเครื่องมือบางอย่างเพื่อช่วยให้ผู้ใช้สามารถควบคุมการเล่นของตนเองได้” เขากล่าว “อย่างไรก็ตาม พวกเขาไม่ควรใช้ AI เพื่อมีส่วนร่วมโดยตรงในการให้การสนับสนุนหรือคำแนะนำแก่ผู้ที่มีปัญหาการพนัน”
ในขณะเดียวกัน Michael Pollock ที่ปรึกษาอาวุโสด้านนโยบายของ Spectrum Gaming Group กล่าวกับทีมข่าว SiGMA ว่า “จำเป็นต้องมีมาตรฐานการทดสอบ การติดตาม และการออกใบอนุญาตที่เหมาะสม ซึ่งจะห้ามไม่ให้ผู้ให้บริการมีส่วนร่วมในความพยายามที่เกี่ยวข้องกับ AI ที่ไม่สอดคล้องกับความมุ่งมั่นอันแน่วแน่และเต็มที่ในการเล่นเกมอย่างมีความรับผิดชอบ“
AI ควรได้รับข้อมูลจากบุคคลที่หนึ่ง: ผู้เชี่ยวชาญ
เพื่อปรับปรุงความแม่นยำและความปลอดภัย Whyte แนะนำให้ผสานรวมข้อมูลจากบุคคลที่หนึ่ง เช่น ประวัติการทำธุรกรรมหรือการสูญเสียล่าสุด ลงในโมเดล AI “ภาษาเดียวกัน คำพูดเดียวกัน อาจใช้โทนเสียงที่แตกต่างกันอย่างสิ้นเชิง ขึ้นอยู่กับว่าผู้ใช้เพิ่งสูญเสีย 500,000 ยูโรหรือเพิ่งได้รับเงินก้อนโตและกำลังเดินทางไปเที่ยวพักผ่อน” เขาอธิบาย “บริบทคือทุกสิ่ง”
Pollock กล่าว “การพัฒนา AI อย่างต่อเนื่องจะต้องสอดคล้องกับการกำกับดูแลที่เหมาะสม นั่นหมายความว่าหน่วยงานกำกับดูแลต้องติดตามและติดตามพัฒนาการทั้งหมดอย่างใกล้ชิด“
เหตุใดจึงต้องศึกษา AiR Hub และเหตุใดจึงศึกษาตอนนี้?
ความสนใจของทีม AiR Hub ในการตรวจสอบคำแนะนำการพนันที่สร้างโดย AI เกิดจากการเปลี่ยนแปลงที่เห็นได้ชัดในวิธีที่ผู้คนเข้าถึงข้อมูล Ghaharian บอกกับทีมข่าว SiGMA ว่า “การค้นหาข้อมูลมีการเปลี่ยนแปลงไปโดยพื้นฐาน” “ด้วยแชทบอท เราสามารถค้นหาคำตอบได้ทันที และเราไม่จำเป็นต้องค้นหาในรายการผลลัพธ์ของเครื่องมือค้นหาอีกต่อไป” การเปลี่ยนแปลงนี้ส่งผลกระทบอย่างร้ายแรงในพื้นที่เสี่ยงสูง เช่น การพนัน
ทีมได้จัดทำคำถามเก้าข้อ ซึ่งแต่ละข้อสอดคล้องกับรายการ PGSI และส่งคำถามเหล่านี้ไปยัง LLM ชั้นนำสองราย ได้แก่ GPT-4o และ Llama ซึ่งได้รับเลือกให้เป็นโมเดลกรรมสิทธิ์และโอเพ่นซอร์สที่ได้รับความนิยมมากที่สุดในช่วงเวลาของการศึกษา แทนที่จะพึ่งพาคะแนนแบบตายตัว นักวิจัยเลือกใช้การประเมินเชิงคุณภาพแบบเปิดกว้างจากที่ปรึกษาการพนันที่มีประสบการณ์ 23 คนซึ่งมีประสบการณ์การบำบัดรวมกันกว่า 17,000 ชั่วโมง Ghaharian อธิบายว่า “เราไม่ต้องการกำหนดระบบคะแนนแบบตายตัวที่อาจมองข้ามความแตกต่างเล็กน้อยหรือบังคับให้เกิดฉันทามติในกรณีที่ไม่มีอยู่จริง” แทนที่จะเป็นเช่นนั้น ที่ปรึกษาถูกขอให้อธิบายว่าพวกเขาพบว่าคำตอบของ AI นั้นมีประโยชน์ หลอกลวง หรืออาจเป็นอันตรายหรือไม่
แม้ว่าโมเดลทั้งสองจะไม่ได้มีประสิทธิภาพเหนือกว่าโมเดลอื่นอย่างเห็นได้ชัด แต่ผู้ตรวจสอบผู้เชี่ยวชาญพบว่าทั้งสองโมเดลมีแนวโน้มที่จะสร้างการตอบสนองที่อาจตีความผิดได้ หรือแย่กว่านั้นคือส่งเสริมให้มีการพนันต่อไปอย่างแนบเนียน “สัญญาณเตือนภัยที่ใหญ่ที่สุดน่าจะเป็นว่าโมเดลทั้งสองมีแนวโน้มที่จะให้คำแนะนำที่อาจตีความผิดได้” Ghaharian กล่าว “นั่นเป็นเรื่องที่น่ากังวลโดยเฉพาะเมื่อผู้ใช้อาจอยู่ในสถานะที่เสี่ยง”
แม้ว่าการศึกษานำร่องจะเผยให้เห็นแนวโน้มที่น่ากังวล แต่ยังได้วางรากฐานสำหรับแนวทางแก้ไขอีกด้วย Ghaharian กล่าวว่า “การศึกษานี้ได้วางรากฐานที่สำคัญด้วยการเน้นย้ำถึงความเสี่ยงและข้อจำกัดที่อาจเกิดขึ้นของ LLM ในบริบทที่เกี่ยวข้องกับการพนัน แต่จริงๆ แล้วนี่เป็นเพียงจุดเริ่มต้นเท่านั้น และยังมีอีกมากที่เราสามารถทำได้” ปัจจุบันนักวิจัยของ AiR Hub และ UNLV กำลังดำเนินการจัดทำชุดข้อมูลมาตรฐานของคำกระตุ้นที่เกี่ยวข้องกับการพนันและการตอบสนองที่เหมาะสม ซึ่งมีไว้สำหรับให้ทั้งนักพัฒนา AI และแพลตฟอร์มการพนันใช้ เกณฑ์มาตรฐานดังกล่าวยังสามารถทำหน้าที่ในการควบคุมดูแลได้อีกด้วย “หน่วยงานกำกับดูแลสามารถกำหนดให้มีการประเมิน LLM ที่ติดต่อกับลูกค้าซึ่งใช้งานโดยผู้ประกอบการที่มีใบอนุญาตเทียบกับเกณฑ์มาตรฐาน” Ghaharian เสนอ “ซึ่งจะช่วยให้มั่นใจได้ว่าหน่วยงานกำกับดูแลสามารถจดจำคำกระตุ้นที่อาจเป็นอันตรายได้ และสร้างการตอบสนองที่เหมาะสมและรับผิดชอบ”
