¿La IA puede detectar señales de advertencia en el juego?
A medida que los chatbots con tecnología GPT se convierten en la herramienta predilecta para obtener respuestas rápidas y apoyo emocional, se registra una cantidad cada vez más grande de jugadores con problemas de juego que recurre a la inteligencia artificial (IA) en lugar de acudir a terapeutas o llamar a líneas de ayuda. Sin embargo, un nuevo estudio de AiR Hub advierte que estos modelos de lenguaje extenso (LLM) podrían ofrecer consejos engañosos y que podrían perjudicar la adicción al juego.
Chatbots y juegos de azar, ¿por qué?
La investigación, dirigida por el Dr. Kasra Ghaharian, director de investigación del Instituto Internacional de Juegos de la UNLV y cofundadora de AiR Hub, evaluó cómo dos de los LLM más destacados, GPT-4o (ChatGPT) y Llama de Meta, responden a preguntas basadas en el Índice de Gravedad del Juego Problemático (PGSI). El objetivo del estudio era evaluar si estos modelos ofrecen consejos que apoyan el juego responsable o fomentan inadvertidamente un comportamiento riesgoso. “Las personas están usando chatbots basados en LLM para hacer preguntas sobre el juego, pensamos que sería interesante investigar empíricamente cómo responden, específicamente a preguntas relacionadas con el juego problemático”, Ghaharian le dijo a SiGMA News.
Las respuestas generadas por IA fueron revisadas por 23 profesionales con amplia experiencia en el tratamiento del juego, con más de 17.000 horas de experiencia combinada. Los comentarios destacaron la incapacidad de ambos modelos para ofrecer una orientación clara y responsable de forma consistente, especialmente cuando las consultas apuntaban a un comportamiento problemático con el juego. En el estudio llegaron a la siguiente conclusión: “Algunas respuestas alentaban sutilmente a seguir jugando, ocultaban consejos prácticos tras explicaciones demasiado largas o utilizaban una jerga que, según los expertos, podía malinterpretarse fácilmente”.
El problema de la alineación de la IA
La alineación de la IA (el proceso de garantizar que los sistemas se comporten de acuerdo con los valores humanos y los estándares de seguridad) es crucial en ámbitos sensibles. Sin embargo, el juego presenta un desafío único. Los chatbots no solo deben proporcionar respuestas fiables a las consultas sobre apuestas casuales, sino también detectar cuándo un usuario puede estar en riesgo. Ghaharian dijo que el asistente puede responder preguntas casuales de manera efectiva. Brian Pempus, fundador de GamblingHarm.org, coincide con esta reflexión. Cree que los chatbots de IA diseñado para propósitos generales, como ChatGPT, técnicamente pueden reconocer señales de ludopatías, pero solo hasta cierto punto.
“ChatGPT parece estar capacitado para reconocer los signos definitorios del juego problemático establecidos por el DSM-5”, explica. “Sin embargo, que pueda reconocer señales exclusivas de cada individuo depende de cuán profunda y detalladamente describa lo que está sucediendo en relación con el juego”.
Complejidades: ¿La enemiga de la IA?
Sin embargo, el chatbot tiene dificultades cuando aumenta la complejidad. Ghaharian afirmó: “Si las preguntas se volvieran más complejas o mostraran indicios de un posible daño, es posible que no existan datos fuente fiables ni barreras de seguridad para que el asistente pueda elaborar una respuesta adecuada o incluso comprender si debería o no responderla en primer lugar”.
Keith Scott Whyte, fundador y presidente de Safer Gambling Strategies LLC, comparte esta idea y cree que la ludopatía es increíblemente compleja. En declaraciones a SiGMA News, afirmó: “La ludopatía sigue estando muy estigmatizada y, en cierto modo, aún se comprende poco. Por lo tanto, no es de extrañar que a los chatbots les cueste comprender algunos de estos matices y lenguaje”. Recomienda lo siguiente:
“Desde la perspectiva de la seguridad del jugador, los chatbots deberían asumir que un usuario tiene un problema hasta que se demuestre lo contrario. El concepto de ‘primero no hacer daño’ se aplica aquí más que nunca”.
Esto se vuelve especialmente apremiante, ya que no distinguir adecuadamente entre alguien con ludopatía y alguien que no la tiene “puede ser mortal”, advirtió Whyte. “Esto no es como equivocarse al pedir comida a domicilio. Las consecuencias de un error en este caso son catastróficas”. En una conversación sincera con SiGMA, Pempus destacó que una de las mayores preocupaciones es cómo los chatbots evalúan el riesgo de suicidio, especialmente en el contexto de la ludopatía. “Las ludopatías conllevan un mayor riesgo de ideas suicidas, un indicio de un problema grave de adicción al juego”, señala Pempus.
“Las investigaciones han demostrado que ChatGPT ha calificado consistentemente el riesgo de suicidio como más bajo que el de los expertos humanos”.
Esta desconexión, afirma, sugiere que los chatbots no son adecuados para reconocer y responder a las señales más peligrosas y urgentes en relación con las ludopatías. Pempus también señala un peligro más sutil: los micromensajes que los LLM pueden enviar al responder a usuarios inseguros sobre su comportamiento de juego. “Algunas personas pueden recibir sugerencias peligrosas para seguir apostando en situaciones en las que una persona les ayudaría a explorar si abstenerse de jugar es la mejor idea”, advierte.
Los operadores que utilizan IA para brindar asistencia, ¿ayudan realmente?
Esto cobra mayor importancia a medida que las empresas de juegos de azar implementan cada vez más la IA conversacional en las funciones de atención al cliente y asistencia en apuestas. Para construir sistemas de IA más seguros y alineados en el ámbito del juego, incorporar la experiencia vivida es fundamental, afirma Whyte. También destacó el desafío de detectar el daño únicamente mediante el diálogo.
“La adicción al juego es mucho más compleja que intentar resolver problemas de ajedrez. Esta podría ser la prueba definitiva de un sistema de IA: intentar distinguir el comportamiento de juego recreativo del comportamiento de riesgo basado únicamente en el chat”.
Pempus tiene una perspectiva diferente. Si bien la IA puede tener un lugar en la atención al cliente, Pempus establece una clara línea ética: los operadores no deberían ser quienes brinden apoyo para el juego responsable mediante IA. “Los operadores deberían, y de hecho ofrecen, herramientas para ayudar a los usuarios a controlar el juego”, afirmó. “Sin embargo, no deberían usar la IA para involucrarse directamente en brindar apoyo u orientación a personas con problemas de adicción al juego”.
Mientras tanto, Michael Pollock, asesor principal de políticas de Spectrum Gaming Group, dijo a SiGMA News: “Se requieren estándares adecuados de prueba, monitoreo y licencia que prohíban a los operadores participar en esfuerzos relacionados con IA que no estén en línea con un compromiso firme y total con el juego responsable”.
La IA debería alimentarse de datos propios, según un experto
Para mejorar la precisión y la seguridad, Whyte sugirió integrar datos propios, como el historial de transacciones o las pérdidas recientes, en los modelos de IA. “El mismo lenguaje y las mismas palabras pueden tener un tono completamente diferente dependiendo de si el usuario acaba de perder 500.000 € o acaba de ganar un buen premio y se va de vacaciones”, explicó. “El contexto es todo”.
Pollock afirmó lo siguiente: “La continua evolución de la IA debe ir acompañada de una supervisión regulatoria adecuada. Esto significa que los reguladores deben estar al día y mantenerse al tanto de todos los avances”.
¿Por qué AiR Hub hizo un estudio y por qué ahora?
El interés del equipo de AiR Hub en examinar los consejos sobre apuestas generados por IA surgió de un cambio notable en la forma en que las personas acceden a la información. “La recuperación de información ha cambiado radicalmente”, dijo Ghaharian a SiGMA News. “Con los chatbots, obtenemos una respuesta instantánea y ya no tenemos que filtrar los resultados de una lista de motores de búsqueda”. Este cambio tiene serias implicaciones en áreas de alto riesgo como las apuestas.
El equipo elaboró nueve preguntas, cada una correspondiente a un ítem del PGSI, y las presentó a dos importantes LLM: GPT-4o y Llama, elegidos por ser los modelos propietarios y de código abierto más populares en el momento del estudio. En lugar de basarse en puntuaciones rígidas, los investigadores optaron por evaluaciones cualitativas abiertas realizadas por 23 consejeros de juego experimentados con más de 17.000 horas de experiencia combinada en tratamientos. “No queríamos imponer un sistema de puntuación rígido que pudiera pasar por alto matices o forzar un consenso donde no lo había”, explicó Ghaharian. En su lugar, se pidió a los consejeros que explicaran si consideraban las respuestas de la IA útiles, engañosas o potencialmente perjudiciales.
Si bien ninguno de los modelos superó convincentemente al otro, los revisores expertos descubrieron que ambos tendían a generar respuestas que podían malinterpretarse o, peor aún, a incitar sutilmente a seguir jugando. “Probablemente la mayor señal de alerta fue que ambos modelos tendían a ofrecer consejos que podían malinterpretarse”, señaló Ghaharian. “Esto es especialmente preocupante cuando los usuarios pueden encontrarse en una situación vulnerable”.
Si bien el estudio piloto reveló tendencias preocupantes, también sentó las bases para soluciones. Ghaharian afirmó: “El estudio sienta las bases importantes al destacar los posibles riesgos y limitaciones de los LLM en contextos relacionados con el juego. Pero esto es solo el comienzo, y hay mucho más por hacer”. Investigadores de AiR Hub y la UNLV trabajan actualmente en un conjunto de datos de referencia de indicaciones y respuestas ideales relacionadas con el juego, diseñado para su uso tanto por desarrolladores de IA como por plataformas de juego. Este punto de referencia también podría cumplir una función regulatoria. “Un organismo regulador podría exigir que cualquier LLM orientado al cliente implementado por un operador con licencia se evalúe con respecto al punto de referencia”, propuso Ghaharian. “Eso ayudaría a garantizar que pueda reconocer indicaciones potencialmente dañinas y generar respuestas adecuadas y responsables”.
