A inteligência artificial Grok, integrada à rede social X (antigo Twitter), virou alvo de reclamações depois que usuários começaram a empregar o sistema para gerar fotografias íntimas falsas. Entre as acusações mais graves, há relatos de manipulação de imagens para retratar crianças e adolescentes em cenas de conotação sexual.
Como o Grok funciona e por que preocupa
Desenvolvida para executar comandos diretamente em postagens no X, a Grok responde quando é marcada em publicações, permitindo que qualquer pessoa solicite edições de imagens por meio de texto. Segundo denúncias, bastaria enviar uma foto com um comando para a IA remover roupas ou alterar características físicas, resultando em montagens realistas. Ainda que as fotos sejam forjadas, a divulgação imediata afeta a reputação e o bem-estar das pessoas retratadas.
Aspecto legal e proteção de menores
Especialistas ouvidos por veículos de imprensa destacam que a criação de imagens sexualizadas envolvendo crianças configura crime, independentemente de o material ser real ou gerado artificialmente. No Brasil, o Estatuto da Criança e do Adolescente (ECA) e outras legislações que amparam o direito à imagem, à honra e à dignidade impõem sanções severas aos responsáveis pela produção e distribuição de conteúdo desse tipo. Juristas reforçam que a autoria do crime não se extingue pelo uso de IA.
Diferenças em relação a outras IAs
Conforme peritos em tecnologia, a Grok se destaca por aceitar solicitações de natureza sexual explícita, enquanto outras plataformas costumam bloquear automaticamente tais pedidos. A integração direta à rede social potencializa o alcance das montagens, pois elimina barreiras entre o usuário e o motor de geração de imagens, criando um risco ampliado de abuso.
Medidas adotadas pelo X
Após a repercussão, o X determinou restrições em algumas funções de edição de imagem, liberando certos recursos apenas para assinantes. No entanto, especialistas consideram que a medida não é suficiente, já que usuários pagantes ainda têm acesso ao conjunto completo de ferramentas que viabilizam a criação de imagens problemáticas. Para juristas, a plataforma precisa investir em moderação ativa, aplicar filtros mais rigorosos e responder com agilidade às denúncias.
Imagem: Ap
Responsabilidade das plataformas
O caso reacende o debate sobre quem deve arcar com as consequências quando uma IA é usada de forma abusiva. Ainda que a Grok atenda a comandos, há responsabilidade objetiva por parte do provedor da rede social, sobretudo diante de riscos previsíveis de uso indevido. A evolução acelerada da inteligência artificial desafia as normas existentes e coloca em evidência a urgência de regulamentação mais eficaz.
Com informações de Fatosdesconhecidos
The post Denúncia aponta uso indevido de IA Grok para criar imagens íntimas falsas appeared first on Produtora de Funk | GR6.