A Microsoft corrigiu a vulnerabilidade que permitia que seu gerador de imagens de IA criasse imagens obscenas de celebridades como Taylor Swift. Depois que as imagens gráficas geradas por IA de Taylor Swift se tornaram virais no X, a 404 Media escreveu um artigo sobre como as pessoas estavam usando o gerador de imagens Designer AI da Microsoft para criar e compartilhar obras de arte semelhantes. Eles poderiam superar os obstáculos simples dos nomes mudando as dicas. Após a afirmação do CEO Satya Nadella na semana passada de que as regras são “nossa responsabilidade”, as lacunas foram supostamente fechadas, de acordo com a 404 Media. Sarah Bird, líder responsável de engenharia de IA da Microsoft, garantiu as mudanças.
A Microsoft disse que embora esteja investigando ativamente o problema e tentando impedir o uso indevido do serviço, não conseguiu verificar se as imagens de Swift postadas no Twitter foram feitas com Designer. O CEO da Microsoft, Satya Nadella, disse em entrevista à NBC News na sexta-feira que “é nossa responsabilidade” reforçar as “proteções” em torno das tecnologias de IA para impedi-las de criar conteúdo prejudicial. No fim de semana, o Twitter bloqueou totalmente as pesquisas por “Taylor Swift”.
“Acho que podemos governar muito mais do que acreditamos”, observou Nadella. “Trata-se de convergência global e social em determinadas normas, e podemos fazê-lo, especialmente quando a lei, a aplicação da lei e as plataformas tecnológicas podem unir-se.”
Os designers proibiram os usuários de tirar fotos usando mensagens de texto como “Taylor Swift nua” antes que as imagens geradas pela IA do Swift se tornassem amplamente populares na semana passada. No entanto, os indivíduos encontraram uma maneira de contornar essas proteções escrevendo nomes famosos com erros ortográficos e descrevendo fotografias que acabavam parecendo sexualmente sugestivas, sem usar qualquer linguagem sexual no 4chan e no canal Telegram. A 404 Media verificou que essas vulnerabilidades estavam ativas na quinta-feira, antes das mudanças da Microsoft, e pararam de funcionar após a publicação do nosso artigo.
Embora o foco de um canal estivesse no Microsoft Designer, uma ferramenta de fácil navegação, existem muitos outros métodos online para produzir conteúdo igualmente perigoso. É difícil impedir alguém de baixar o modelo de uma pessoa famosa do Civitai e utilizá-lo localmente em seu computador para fazer coisas ofensivas, por exemplo.