A plataforma de mídia social X mudou para bloquear pesquisas de Taylor Swift depois que imagens explícitas da estrela pop geradas por IA se tornaram virais na semana passada.
Imagens falsas do cantor em cenários sexualmente explícitos ao lado de fãs do time da NFL, Kansas City Chiefs, circularam em várias plataformas de mídia social, levando Swift a considerar uma ação legal. X inicialmente lutou para remover as imagens da plataforma, mas teve dificuldades devido ao fato de novas contas as republicarem regularmente.
Mas hoje (29 de janeiro), ao pesquisar por Swift no X, aparece uma mensagem que diz: “Algo deu errado. Tente recarregar.”
Em comunicado divulgado à BBC, o chefe de operações comerciais de X, Joe Benarroch, disse que foi uma “ação temporária” para priorizar a segurança.
Na sexta-feira, X emitiu uma declaração separada, segundo a BBC, em resposta às fotos para lembrar seus usuários que postar nudez não consensual na plataforma é “estritamente proibido”.
A declaração dizia: “Temos uma política de tolerância zero em relação a esse tipo de conteúdo.
“Nossas equipes estão removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis por publicá-las.”
Além disso, as imagens de Taylor Swift chamaram a atenção da Casa Branca, que na semana passada chamou de “alarmante” a disseminação de fotos falsas geradas por IA, conforme relatado pelo The Verge. A secretária de imprensa da Casa Branca, Karine Jean-Pierre, pediu legislação para combater o uso indevido da tecnologia de IA nas redes sociais e também disse às plataformas neste espaço que têm a responsabilidade de implementar processos para proibir tal conteúdo.
O que é conteúdo deepfake de IA?
A palavra ‘deepfake’ originou-se da combinação dos termos ‘aprendizado profundo’ e ‘falso’. Um conteúdo deepfake é um vídeo ou imagem que usa tecnologia de IA para substituir a imagem de uma pessoa por outra.
Esse tipo de tecnologia não é exatamente nova, com Hollywood frequentemente usando métodos deepfake para sobrepor as características dos atores nos filmes. No entanto, agora que a tecnologia se tornou mais amplamente disponível ao público e à medida que a tecnologia de IA continua a tornar-se mais avançada, existem preocupações crescentes sobre a ética por detrás deste tipo de criação de conteúdos. Isso nunca é mais evidente do que agora, já que Taylor Swift descobriu isso da maneira mais intrusiva.
À medida que a tecnologia evolui, torna-se cada vez mais difícil detectar deepfakes, ao passo que nas fases iniciais era relativamente fácil diferenciar entre conteúdo gerado por IA e imagens ou vídeos genuínos.
