Agência denuncia que Instagram permitiu conversas ‘sensuais’ entre IA e crianças
Uma recente investigação conduzida por uma agência de proteção à infância revelou que o Instagram permitiu, durante certo período, conversas de teor ‘sensual’ entre sua inteligência artificial e usuários menores de idade. O relatório aponta que essas interações ocorreram dentro do ambiente digital da plataforma, levantando sérias preocupações sobre a segurança e a moderação de conteúdo para públicos vulneráveis.
De acordo com o documento, a inteligência artificial integrada ao Instagram, projetada para responder e interagir com usuários, não teve filtros adequados para impedir diálogos que envolviam linguagem inapropriada ou conotação sexual, mesmo quando os interlocutores eram crianças e adolescentes. A agência responsável pela apuração destacou que esse tipo de falha pode expor os menores a riscos emocionais e psicológicos graves.
A denúncia veio à tona após relatos de famílias e usuários que perceberam respostas inadequadas da IA durante conversas com perfis infantis ou juvenis. O Instagram, por sua vez, afirmou que está investigando o caso e reforçou o compromisso com a proteção das crianças na plataforma. A empresa também ressaltou que está atualizando seus sistemas para evitar esse tipo de situação.
Especialistas em segurança digital apontam que, com o avanço das inteligências artificiais nas redes sociais, cresce a necessidade de mecanismos robustos de controle, especialmente quando o público inclui menores. A moderação automatizada deve ser acompanhada de supervisão humana e políticas claras para proteger os usuários mais vulneráveis.
Este caso reforça o debate global sobre os desafios éticos e técnicos de IA em ambientes digitais, especialmente no que diz respeito à privacidade, segurança e o impacto psicológico em crianças. Autoridades reguladoras já cobram das plataformas respostas mais efetivas e transparência no uso dessas tecnologias.
Enquanto isso, organizações de defesa dos direitos da criança pedem maior fiscalização e medidas concretas para garantir que ambientes online sejam seguros e livres de conteúdos ou interações prejudiciais.
