REUTERS/Dado Ruvic
Acessibilidade
A startup xAI, de Elon Musk, impôs algumas restrições à função de geração de imagens de seu chatbot Grok na plataforma de rede social X, após o uso da ferramenta para criar e publicar imagens sexualizadas geradas por IA provocar ampla reação negativa.
Usuários podiam pedir ao Grok diretamente no X para editar fotos de pessoas, inclusive removendo peças de roupa e colocando-as em poses sexualizadas, muitas vezes sem o consentimento delas. O Grok então publicava essas imagens em respostas na plataforma de rede social.
Nesta sexta-feira (9), o Grok informou aos usuários do X que os recursos de geração e edição de imagens agora estavam disponíveis apenas para assinantes pagantes.
A mudança parece ter impedido o Grok de gerar e publicar automaticamente essas imagens em resposta a uma publicação ou comentário de um usuário no site de rede social.
Mas os usuários do X ainda podiam criar imagens sexualizadas usando a guia Grok, onde as pessoas interagem diretamente com o chatbot dentro da plataforma de rede social e depois publicam as imagens no X.
O aplicativo independente Grok, que opera separadamente do X, também permitia que os usuários gerassem imagens sem uma assinatura.
A xAI respondeu aos pedidos de comentários enviados por email pela Reuters com o que parecia ser uma resposta automática: “Legacy Media Lies” (mentiras da mídia tradicional). A X não respondeu imediatamente aos pedidos de comentários.
Musk disse na semana passada que qualquer pessoa que usasse o Grok para criar conteúdo ilegal enfrentaria as mesmas consequências do upload direto desse material.
Nesta sexta-feira (9), um repórter da Reuters pediu ao Grok no X que convertesse uma foto sua em uma de biquíni, repetindo o que se tornou uma solicitação comum na última semana por parte dos usuários. O bot não fez isso e postou em resposta que a ferramenta só estava disponível para assinantes pagantes da plataforma de mídia social.
A Comissão Europeia, que considerou ilegais e chocantes as imagens de mulheres e crianças sem roupa compartilhadas no X, disse que as restrições não atendem às suas preocupações.
“Limitar a geração e a edição de imagens aos assinantes pagantes não muda nossa questão fundamental: com ou sem assinatura paga, não queremos ver essas imagens”, disse um porta-voz da Comissão.
Outros governos e órgãos reguladores também condenaram e alguns abriram inquéritos sobre o conteúdo explícito gerado pelo Grok no X, pressionando a plataforma a mostrar o que está fazendo para impedir e remover conteúdo ilegal.
O ministro alemão de mídia, Wolfram Weimer, descreveu esta semana a enxurrada de imagens de seminudez como a “industrialização do assédio sexual”.
