TikTok remove vídeos de IA com mulheres negras sexualizadas após denúncia da BBC

O TikTok anunciou a remoção de vídeos gerados por inteligência artificial que retratavam mulheres negras de forma sexualizada, em resposta a uma reportagem investigativa da BBC. A apuração da BBC revelou a existência de dezenas de contas tanto no Instagram quanto no TikTok que utilizavam avatares de IA para disseminar conteúdo de natureza sexual. Esta ação ressalta a crescente preocupação com o uso indevido de tecnologias de IA para criar e propagar material prejudicial nas redes sociais.

A investigação detalhada da BBC expôs como esses avatares, muitas vezes criados para parecerem mulheres negras, eram usados para simular atos sexuais ou apresentá-las em poses explícitas. A reportagem destacou a facilidade com que tais imagens podem ser geradas e compartilhadas, levantando questões sobre a moderação de conteúdo e a responsabilidade das plataformas digitais. A BBC entrou em contato com ambas as empresas para obter um posicionamento sobre as descobertas.

Em resposta à reportagem, o TikTok afirmou que a segurança de seus usuários é uma prioridade e que a plataforma não tolera conteúdo explícito ou que viole suas diretrizes. A empresa indicou que as contas e os vídeos identificados pela BBC foram removidos e que continuará a investir em tecnologias e equipes para combater a disseminação de conteúdo impróprio. Este incidente sublinha a necessidade de vigilância contínua e aprimoramento das políticas de moderação por parte das plataformas para proteger os usuários de abusos tecnológicos.

O caso também reacende o debate sobre os vieses algorítmicos e a representação de minorias em conteúdos gerados por IA, especialmente quando envolvem sexualização e exploração. A rápida resposta do TikTok, após a reportagem da BBC, demonstra a importância do jornalismo investigativo na fiscalização das práticas das grandes empresas de tecnologia e na defesa da segurança e integridade dos usuários online. A fonte original desta notícia é a BBC News Brasil.