Conheça e diminua os riscos que os chats de IA trazem para a epidemia de solidão infantil

Serviços de inteligência artificial (IA) interativos são uma realidade cada vez mais presente no Brasil e no mundo, e tendem a ficar cada vez mais avançados. No entanto, como fazer para tornar segura a exposição de crianças e jovens a tecnologias como ChatGPT?

O tempo de uso de celulares e de presença diante de telas pode ser controlado, mas as IAs oferecem riscos adicionais à formação psicossocial das gerações nativas digitais: a tendência ao vínculo emocional e a tratar esses “robôs” como fonte confiável de informações.

Exposição prolongada e riscos emocionais

Em um levantamento recente, a organização sem fins lucrativos Internet Matters esclareceu a rápida e profunda dimensão do contato de jovens com IAs no Reino Unido: 64% das crianças sondadas usam chatbots de IA para ajuda com todo tipo de tarefa, o que engloba lição de casa, companhia e aconselhamento emocional.

A estatística preocupa porque, apesar da utilidade prática para consultas pontuais, as IAs ainda têm limitações técnicas relevantes. Um estudo recente da Universidade de Stanford (EUA) apresentou perigos de usar sistemas desse tipo para fins terapêuticos – uma tendência especialmente comum entre jovens e pessoas que não querem ou não podem pagar por serviços de terapia real.

Uma preocupação relevante nessa tendência é a limitação técnica de IAs, que tendem a alucinar em certas situações, dando respostas estapafúrdias a pessoas que podem estar em situação vulnerável. Já existem registros médicos de indução de pessoas com condições, como esquizofrenia, a quadros delirantes mediante exposição prolongada a IAs.

Além disso, os modelos de IA carregam vieses, preconceitos e pré concepções em suas respostas que não são sinalizadas explicitamente no uso diário. Isso pode induzir comportamentos perigosos e informar mal públicos tão fragilizados emocionalmente quanto jovens em formação.

Solidão e suicídio em ascensão

A solidão é um conhecido fator potencializador de doenças variadas e quadros de transtornos mentais. A Organização Mundial da Saúde (OMS) qualificou-a em 2023 como uma epidemia silenciosa, devido a seus efeitos na saúde pública. Sua influência é particularmente reconhecida para o desenvolvimento de depressão.

Um estudo de 2022 da Fundação Oswaldo Cruz (Fiocruz) indicou um aumento na proporção de suicídios entre jovens comparado a entre adultos no Brasil. Essa tendência foi observada mais agudamente na faixa etária entre 10 e 19 anos e entre 2020 e 2022, coincidindo com o momento da pandemia global. O período ficou marcado pela solidão e muitas outras privações, que ainda mostram seus efeitos prolongados.

O suicídio do jovem norte-americano Adam Raine, de 16 anos, em abril deste ano é um caso real recente que provavelmente ajudará a balizar futuras discussões sobre os perigos para jovens apresentados pela combinação de que solidão, transtorno mental e uso de IA.

Abatido por problemas emocionais, ele manteve conversas com o ChatGPT em seu último mês de vida. Nesse breve período, extraiu informações sobre métodos de suicídio, obteve auxílio para planejar o ato e foi dissuadido de procurar ajuda pelo “robô”.

Embora a ferramenta tenha mostrado empatia em muitas outras interações, obedecendo a sua programação pela empresa OpenAI, em outras ela gerou respostas originais sem a real capacidade humana de pensar e fazer julgamentos éticos. Nenhum terapeuta ou adulto responsável poderia agir assim sem consequências graves, para efeito de comparação.

Novas estratégias de proteção

Por mais desafiadora que seja a gestão de celulares e tempo de tela com os filhos, o avanço das IAs impõe a responsabilidade redobrada dos pais em criar condições seguras para seu uso.

Neste contexto, práticas como configurar uma VPN, usar um antivírus de qualidade e ensinar boas práticas de segurança básicas para os filhos são passos fundamentais. A VPN estabelece uma camada de privacidade e segurança importante na navegação online; o antivírus detecta ameaças externas e intrusões; e práticas de segurança similares às da vida material (como não revelar informações íntimas a estranhos, transposto às IAs) darão um alicerce importante para um uso menos nocivo de chats de IA.

Idealmente, o acesso a essas tecnologias deve ser bastante limitado, em especial entre crianças mais jovens. Havendo a necessidade de uso escolar e afins, é crucial estabelecer regras claras de uso dessas tecnologias e monitorar esse uso regularmente. Manter um login conjunto único de algum serviço de chatbot de IA entre pais e filhos pode ser um caminho para facilitar esse controle.

Por fim, ignorar o dinamismo dessas novas tecnologias seria um delírio. Infelizmente, seria impossível recomendar algo definitivo hoje e que seja válido daqui um ano. Portanto, o esforço de aprender, se informar sobre riscos e oportunidades e adaptar os hábitos deve ser mantido ativamente para proteger jovens e crianças em tempos de rápidas mudanças como os atuais.