O Instagram, plataforma da Meta, está no centro de uma polêmica após usuários relatarem um aumento significativo na exibição de conteúdos perturbadores, mesmo sem buscá-los. Relatos de vídeos de violência explícita, imagens chocantes e conteúdos gerados por inteligência artificial que beiram o surreal têm se tornado cada vez mais comuns.
O que está acontecendo?
- Algoritmo Problemático:
- Usuários afirmam que o Instagram tem recomendado postagens bizarras e violentas, mesmo sem interação prévia com esse tipo de conteúdo.
- Riscos para Menores:
- Crianças e adolescentes, mesmo com restrições de conteúdo ativas, relatam exposição a cenas de violência e nudez.
- Mudanças na Moderação:
- A Meta flexibilizou suas diretrizes de conteúdo e desativou seu programa de checagem de fatos, o que pode estar contribuindo para o aumento da circulação de materiais sensíveis.
Relatos alarmantes:
- Recomendações Bizaras:
- Uma usuária relatou que, após pesquisar sobre amamentação, o Instagram começou a recomendar vídeos de mulheres idosas com bebês e imagens de bebês híbridos entre humanos e pandas, geradas por IA.
- Exposição a Violência Extrema:
- Um adolescente de 17 anos relatou ter visto vídeos de execuções, corpos mutilados e até um parto em um único dia.
Falha ou estratégia da Meta?
- Admissão de Erro:
- A Meta admitiu um erro no sistema que causou a exibição temporária de conteúdo inadequado, mas a situação pode ser mais complexa.
- Decisões Estratégicas:
- A descontinuação do programa de verificação de fatos e a flexibilização das regras sobre discursos polêmicos podem estar contribuindo para o problema.
- Mudanças no algoritmo podem estar priorizando conteúdos de grande impacto, dado que conteúdos controversos geram maior engajamento.
O que isso significa?
- Aumento da preocupação com a segurança dos usuários, especialmente menores de idade.
- Debate sobre a responsabilidade das plataformas digitais na moderação de conteúdo.
- Necessidade de maior transparência sobre as políticas de moderação e o funcionamento dos algoritmos.
A situação levanta questões importantes sobre o papel das redes sociais na disseminação de conteúdo e a necessidade de proteger os usuários de materiais prejudiciais.
