Os companheiros de IA e os perigos ao alcance de crianças e adolescentes

Os companheiros IA são capazes de guardar a memória de conversas e reproduzir emoções. A partir de interações contínuas e personalizadas, consolidam o vínculo. É o que faz o serviço funcionar. Nesses sistemas, o afeto sintético não é efeito colateral, mas justamente o que se vende. Ou seja, a dependência emocional não é uma consequência acidental. É parte do produto oferecido - e sem entraves a crianças e adolescentes.

Quando a única barreira é a autodeclaração de idade, o risco, que nasce do próprio serviço, é transferido ao adolescente e aos pais. A solução está na arquitetura do software, e deve ser cobrada de quem o desenha.

No Brasil, desde março, o Decreto 12.880, que regulamenta o ECA Digital, impõe a qualquer IA conversacional acessível a crianças e adolescentes quatro deveres: deixar claro que o afeto vem de uma máquina; não manipular o comportamento do usuário; avaliar os riscos, da memória das conversas ao efeito de desligar o personagem; e embutir salvaguardas no desenho do software. Conversa sexualizada é tratada como pornografia e exige verificação de idade que vá além da simples autodeclaração.

A pesquisa TIC Kids Online Brasil 2025 não tem dados específicos sobre companheiros de IA, mas revela que 65% das crianças e adolescentes já usaram IA generativa. Entre os usuários de 9 a 17 anos, 10% recorrem às ferramentas para falar sobre problemas pessoais ou emoções.

Em agosto, pesquisadores do AI Hub da FGV Direito Rio simularam perfis de crianças e adolescentes em Character.AI, Replika e Chai, aplicativos de companheiros de IA, e concluíram que as barreiras não impedem o acesso, tampouco oferecem proteção durante as conversas, inclusive diante de conteúdo sexual e de incentivo à automutilação.

Nos EUA, as falhas viraram processos contra a Character.AI. Na Flórida, segundo ação movida por uma família, um garoto de 14 anos manteve por meses uma relação com uma personagem, passou a relatar ideação suicida e tirou a própria vida em fevereiro de 2024. No Colorado, uma menina de 13 anos confidenciou ideias suicidas a um personagem que, segundo a petição, a estimulava a voltar ao aplicativo e nunca a encaminhou a um serviço de apoio. Ela morreu em 2023. Em janeiro de 2026, a empresa firmou acordos confidenciais nesses dois casos e em outros três.