A Apple retirou da App Store quatro aplicativos que utilizavam inteligência artificial para criar imagens falsas de pessoas nuas sem consentimento, após investigação da BBC.
Esses apps, promovidos no TikTok como ferramentas para "apimentar selfies", eram, na prática, usados para gerar deepfakes sexualizados, afetando principalmente mulheres.
Os anúncios, que violavam as políticas do TikTok, utilizavam imagens de atrizes como Lena Headey e Maisie Williams, de "Game of Thrones", sem autorização. Apesar da remoção dos anúncios pagos, vídeos semelhantes ainda circulam na plataforma.
O professor Arvind Narayanan, da Universidade de Princeton, alerta para o perigo desses aplicativos, destacando a necessidade de barreiras mais rígidas e ações regulatórias para impedir sua disseminação.
Casos semelhantes já ocorreram em países como Espanha, Coreia do Sul e Estados Unidos, com vítimas sendo chantageadas com imagens manipuladas por IA.
A Apple afirmou que três dos aplicativos foram removidos temporariamente até que os desenvolvedores corrijam os problemas, enquanto o quarto teve sua conta encerrada. O Google informou que está investigando os aplicativos em sua loja.
Uma das empresas está usando atrizes de Game of Thrones para demonstrar seu recurso de "nudificação" por inteligência artificial.