A IA pode detectar sinais de alerta em jogos de aposta?
À medida que chatbots baseados em IA como o GPT se tornam ferramentas populares para respostas rápidas e até apoio emocional, um número crescente de pessoas com problemas de jogo está recorrendo a essas inteligências artificiais em vez de terapeutas ou linhas de apoio. No entanto, um novo estudo do AiR Hub alerta: os modelos de linguagem de última geração podem estar oferecendo conselhos equivocados — e até prejudiciais — para quem enfrenta o vício em apostas.
Por que chatbots estão sendo usados em situações de jogo?
A pesquisa, conduzida por Kasra Ghaharian, Ph.D., Diretor de Pesquisa do International Gaming Institute da Universidade de Nevada, Las Vegas (UNLV) e cofundador do AiR Hub, testou como dois dos principais modelos de linguagem — GPT-4o (ChatGPT) e o Llama, da Meta — respondem a perguntas inspiradas no Índice de Gravidade de Problemas com Jogo (PGSI). O objetivo era avaliar se esses modelos promovem o jogo responsável ou, sem querer, incentivam comportamentos de risco.
“Sabíamos que as pessoas já estavam usando chatbots baseados em LLMs para fazer perguntas sobre apostas. Pensamos que seria interessante investigar empiricamente como essas inteligências respondem, especialmente a perguntas ligadas ao jogo problemático”, contou Ghaharian à SiGMA News.
As respostas geradas por IA foram avaliadas por 23 profissionais experientes no tratamento do vício em jogos — somando mais de 17 mil horas de atuação clínica. O resultado: os especialistas notaram que os dois modelos falham em fornecer orientações claras e responsáveis, especialmente quando as perguntas indicavam comportamento de risco. O estudo apontou que “algumas respostas incentivavam, de forma sutil, a continuação do jogo; outras escondiam conselhos práticos em explicações longas ou utilizavam jargões que, segundo os especialistas, poderiam ser mal interpretados”.
O problema da “alinhamento” da IA
O chamado “alinhamento da IA” — ou seja, garantir que os sistemas ajam de forma coerente com os valores humanos e padrões de segurança — é essencial em contextos sensíveis. Mas, no caso do jogo, esse desafio se intensifica. Chatbots precisam não apenas responder com precisão a perguntas comuns sobre apostas, mas também detectar quando um usuário pode estar em situação de risco.
Ghaharian observa que perguntas simples são geralmente bem tratadas pelos assistentes. Brian Pempus, fundador da plataforma GamblingHarm.org, concorda. Segundo ele, modelos como o ChatGPT têm a capacidade técnica de reconhecer sinais clássicos de vício em apostas — mas com limitações.
“O ChatGPT parece preparado para reconhecer os principais sinais de jogo problemático, conforme estabelecidos pelo DSM-5”, afirma Pempus. “Mas identificar sinais mais pessoais e subjetivos depende de quão profundamente o usuário descreve sua experiência com o jogo.”
Complexidade é um obstáculo para a IA?
Quando as perguntas ficam mais complexas, os modelos de IA começam a falhar. “Se a pergunta mostra sinais de dano ou apresenta nuances mais sensíveis, pode não haver dados confiáveis ou mecanismos de segurança suficientes para que o assistente entenda a gravidade ou até se deveria responder”, explica Ghaharian.
Essa preocupação é compartilhada por Keith Scott Whyte, fundador da Safer Gambling Strategies LLC. Em entrevista à SiGMA News, ele afirmou: “O vício em jogos ainda carrega um forte estigma e, em muitos aspectos, ainda é mal compreendido. Por isso, não surpreende que os chatbots tenham dificuldade em captar nuances de linguagem e contexto.”
Whyte é direto ao sugerir uma abordagem de precaução:
“Do ponto de vista da segurança do jogador, o chatbot deveria presumir que o usuário tem um problema — até que se prove o contrário. O princípio do ‘não causar dano’ é mais relevante do que nunca nesse contexto.”
Ele alerta que falhar ao diferenciar um jogador em risco de um usuário casual pode ser “uma questão de vida ou morte”. “Não estamos falando de errar um pedido de comida — aqui, as consequências podem ser catastróficas”, reforça.
Em uma conversa franca com a SiGMA, Pempus destacou uma das preocupações mais graves: a forma como os chatbots avaliam risco de suicídio, especialmente entre jogadores compulsivos. “O vício em jogos está fortemente associado a pensamentos suicidas — um sinal claro de um problema sério”, explica.
“Pesquisas mostram que o ChatGPT tende a subestimar o risco de suicídio em comparação com especialistas humanos.”
Essa discrepância, segundo Pempus, mostra que os chatbots ainda são insuficientes para identificar e lidar com os sinais mais urgentes de danos causados pelo jogo. Ele também destaca um risco mais sutil: as mensagens implícitas que um modelo de linguagem pode transmitir ao responder a usuários inseguros sobre seus próprios hábitos de jogo. “Há casos em que o chatbot acaba incentivando a pessoa a continuar apostando, quando um profissional humano a ajudaria a refletir se o melhor não seria parar.”
Operadoras estão usando IA — mas isso está ajudando?
A discussão se torna ainda mais relevante agora que casas de apostas vêm adotando IAs conversacionais no atendimento ao cliente e até em funções ligadas à aposta. Para Whyte, incorporar experiências vividas por jogadores reais é indispensável para desenvolver sistemas seguros e alinhados. Ele também lembra que é extremamente difícil detectar sinais de risco apenas por meio do diálogo.
“O vício em jogos é muito mais complexo do que resolver uma partida de xadrez. Talvez esse seja o maior teste para um sistema de IA: conseguir distinguir o comportamento de lazer daquele que já apresenta sinais de dependência.”
Pempus tem uma visão mais crítica. Embora reconheça que a IA pode ter utilidade no suporte ao cliente, ele traça um limite ético claro: as operadoras não deveriam ser responsáveis por oferecer suporte ao jogo responsável por meio de IA. “As operadoras devem, sim, oferecer ferramentas para ajudar os jogadores a controlar o uso da plataforma. Mas não cabe a elas utilizar IA para fornecer suporte direto a quem está lidando com um vício.”
Michael Pollock, consultor sênior da Spectrum Gaming Group, também defende regulamentações rigorosas nesse cenário. Em entrevista à SiGMA News, afirmou: “São necessárias normas claras de teste, monitoramento e licenciamento, que proíbam o uso de IA por operadoras se não houver um compromisso firme com o jogo responsável.”
Especialistas defendem uso de dados primários para IA
Para melhorar a precisão e a segurança desses sistemas, Whyte sugere que os modelos de IA incorporem dados primários — como histórico de transações ou perdas recentes do jogador. “As mesmas palavras podem ter significados muito diferentes dependendo do contexto. Não é igual alguém que acabou de perder €500 mil e alguém que ganhou e está indo de férias. O contexto muda tudo.”
Pollock concorda: “A evolução da IA deve ser acompanhada por uma supervisão regulatória à altura. Os órgãos reguladores precisam acompanhar e entender todos os avanços.”
Por que o estudo do AiR Hub é tão relevante — e por que agora?
A motivação do AiR Hub para investigar as respostas de IAs sobre jogos de azar veio de uma mudança comportamental evidente: a forma como acessamos informação está mudando rapidamente. “A busca por informação mudou radicalmente”, afirmou Ghaharian. “Hoje, usamos chatbots para obter respostas instantâneas, sem precisar navegar por páginas de resultados em buscadores.” Esse novo hábito tem implicações sérias em áreas de alto risco — como o vício em jogos.
No estudo, a equipe elaborou nove perguntas baseadas no índice PGSI e as submeteu a dois dos modelos mais populares da época: GPT-4o e Llama. Em vez de usar um sistema de pontuação rígido, os pesquisadores optaram por avaliações qualitativas, feitas por 23 conselheiros especializados — com mais de 17 mil horas combinadas de experiência. “Não queríamos impor um sistema de notas que ignorasse nuances ou forçasse consenso onde ele não existia,” explicou Ghaharian. Os avaliadores foram convidados a relatar se acharam as respostas úteis, confusas ou potencialmente perigosas.
Embora nenhum modelo tenha se destacado de forma consistente, os especialistas identificaram um padrão preocupante: ambos tendem a gerar respostas ambíguas — que podem ser mal interpretadas ou até incentivar a continuidade do jogo. “O maior alerta foi perceber que os dois modelos apresentavam respostas que podiam ser interpretadas de forma errada,” destacou Ghaharian. “Isso é especialmente grave quando o usuário está em situação vulnerável.”
Apesar dos resultados preocupantes, o estudo abre caminhos para soluções. “O estudo destaca riscos e limitações dos LLMs no contexto dos jogos de azar, mas esse é só o começo. Há muito mais a ser feito,” afirmou Ghaharian. O AiR Hub e a UNLV estão agora desenvolvendo um benchmark com prompts relacionados a jogos de azar e respostas consideradas ideais — destinado tanto a desenvolvedores de IA quanto a plataformas de apostas. Esse benchmark também pode ser adotado por reguladores. “Um regulador poderia exigir que qualquer IA voltada para o público — usada por operadoras licenciadas — fosse testada com esse benchmark,” propõe Ghaharian. “Isso ajudaria a garantir que o sistema reconheça sinais de risco e gere respostas adequadas e responsáveis.”
