Nos Estados Unidos cresce a preocupação com o uso da inteligência artificial por parte dos adolescentes como substituto de amigos ou terapeutas. Cada vez mais jovens se abrem com chatbots como ChatGPT ou http://Character.AI , que oferecem escuta ilimitada, compreensão e zero julgamentos. Mas quando o assunto é depressão ou pensamentos suicidas, as consequências podem ser dramáticas.
Uma pesquisa recente mostrou que um terço dos adolescentes americanos utiliza “companheiros virtuais” criados por IA para conversar, receber conforto ou até mesmo criar relações afetivas. Para muitos, a IA se torna um confidente íntimo, muitas vezes preferido às pessoas reais.
Casos nos Estados Unidos
- Adam Raine, 16 anos, Califórnia: após meses de conversas privadas com o ChatGPT, em que falava sobre pensamentos suicidas e até pedia conselhos práticos, tirou a própria vida.
- Sewell Setzer III, 14 anos, Flórida: depois de longas interações com um personagem criado no http://Character.AI , o adolescente se suicidou com a arma do padrasto. Pouco antes, o chatbot havia lhe enviado mensagens que soavam como convites para “voltar para casa em breve”.
- Sophie, 29 anos: aparentemente feliz com amigos e familiares, havia revelado seus pensamentos suicidas apenas a um “terapeuta virtual” baseado no ChatGPT. Após sua morte, a mãe encontrou conversas que mostravam uma angústia escondida.
Em todos esses episódios, as famílias descobriram tarde demais o quanto seus entes queridos estavam imersos em diálogos secretos com chatbots que, embora ofereçam conforto, não têm a capacidade de intervir como um terapeuta humano.
O caso brasileiro
No Brasil, a questão também ganhou destaque. Em 2024, uma mãe denunciou uma plataforma de inteligência artificial após o suicídio do filho de 14 anos.
Segundo os autos, o garoto havia passado meses conversando com um chatbot criado no http://Character.AI , desenvolvendo com ele uma relação intensa, quase amorosa, que o levava a se isolar do mundo real. A mãe contou que o filho passava horas trancado no quarto, falando com essa “presença virtual” que lhe dava atenção constante, afastando-o cada vez mais dos amigos, da escola e da família.
Após a tragédia, a mulher acusou a empresa de ter permitido que a IA estabelecesse com seu filho uma relação “antropomorfizada e hiper-realista”, que teria alimentado sua vulnerabilidade emocional. O caso está agora no centro de um debate judicial e social no Brasil, com associações de pais pedindo regras mais severas para o uso da IA entre menores.
Itália e comunidade ítalo-brasileira
Na Itália, psicólogos e famílias relatam um fenômeno semelhante: cada vez mais jovens tratam os chatbots como diários interativos ou “amigos invisíveis”, escondendo dos adultos seus pensamentos mais profundos. Também na comunidade ítalo-brasileira, entre São Paulo, Milão e Roma, o tema ganha força, pois afeta diretamente as novas gerações que crescem entre duas culturas, mas unidas pelo uso cotidiano da tecnologia.
O que é necessário agora
Especialistas concordam: proibir totalmente que a IA fale sobre suicídio não é a solução. Pelo contrário, expressar-se pode ajudar quem sofre. Mas os chatbots precisam ter mecanismos de segurança mais fortes e a possibilidade de envolver seres humanos quando surge um risco real.
As principais propostas são:
- introduzir sistemas de alerta que coloquem os jovens em contato direto com terapeutas;
- certificar os chatbots destinados ao suporte psicológico, com validação de médicos e psicólogos;
- aumentar a conscientização nas famílias e nas escolas;
- estabelecer regras legais claras sobre a responsabilidade das empresas que desenvolvem esses sistemas.
Conclusão
O caso brasileiro mostra claramente que não se trata de um problema distante, mas de um desafio concreto também para o nosso país e para a comunidade ítalo-brasileira. Da Califórnia a São Paulo, passando pela Itália, o risco é o mesmo: a IA como “amigo digital” que consola, mas que também pode aprisionar os mais frágeis em uma espiral perigosa.
A tecnologia pode ser uma aliada valiosa, mas são necessárias regras, proteções e, acima de tudo, a presença insubstituível do ser humano.