Grok e X poderão ser responsabilizados pelos crimes cometidos por usuários na IA, diz especialista

Isabel Butcher

Imagem: Reprodução

Grok (Android, iOS), a inteligência artificial generativa da xAI, e integrado à rede social X, mudou sua política e limitou o uso de edição de imagens apenas para usuários pagantes. A decisão ocorre após a empresa enfrentar críticas globais devido à possibilidade de usuários criarem deepfakes de cunho sexual, inclusive com menores de idade. Com a mudança, nomes e informações de pagamento devem constar nos registros para que o recurso seja acessado. A especialista Patricia Punder, CEO do Punder Advogados, especialista em LGPD, proteção de dados e gestão de riscos regulatórios, ouvida por Mobile Time, acredita que, por conta do ocorrido, a ferramenta de IA e o X serão acionados judicialmente para responderem sobre os crimes de sexualização e nudez de mulheres e menores de idade no Brasil e na Europa, onde há um rigor maior nas leis.

“São crimes contra a dignidade sexual para mulheres adultas; nudez simulada, sem consentimento e configuração de violação de intimidade, violência psicológica digital e dano grave, além de crimes contra crianças e adolescentes. A IA não afasta a responsabilidade nem civil nem penal. A base legal é o Código Penal e também o Marco Civil da Internet. Toda a jurisprudência que temos no Brasil abrange revenge porn e deepfake section”, explica Punder.

Segundo reportagem da Bloomberg, a ferramenta teria produzido 6,7 mil imagens por hora entre segunda, 5, e terça, 6, desta semana, de cunho sexual ou de nudez – número encontrado pela pesquisadora Genevieve Oh.

Nos últimos dias, o Grok passou a ser alvo de críticas e investigações em várias partes do mundo por gerar imagens eróticas de pessoas reais, inclusive de menores de idade, e sem consentimento. No Brasil, a deputada federal Erika Hilton (PSOL-SP) denunciou a ferramenta ao Ministério Público. Para este noticiário, o MPF-SP confirmou o recebimento da representação e o caso está em processamento interno preliminar para distribuição. Em seguida, o caso será analisado por um procurador da República, que definirá os próximos passos da tramitação. “Não há prazo preestabelecido para a finalização dos andamentos”, explicou a Mobile Time a assessoria de imprensa do órgão.

O caso repercutiu em outros países como Inglaterra, França e Estados Unidos. Por conta dá má repercussão, Grok recuou, mas não por completo, e permitiu que edição de imagens e criação de imagens fossem feitas somente por assinantes da ferramenta.

MCI e a ditadura das plataformas

Além de haver a possibilidade de responder criminalmente, as ferramentas tecnológicas poderão também responder de acordo com o artigo 21 do Marco Civil da Internet (MCI) que estabelece responsabilidade de provedores de aplicação, provedores de conexão e usuários, determinando a remoção imediata do conteúdo sem a necessidade de ordem judicial prévia para conteúdo de nudez, atos sexuais de caráter privado divulgado sem autorização.

A advogada explica que a inteligência artificial generativa responde a questionamentos do usuário, cria conteúdos a partir de prompts, e o Grok controla o resultado. A pessoa indica o que quer e a IA cria o conteúdo.

“Existe uma falha estrutural de governança. Quando a gente fala em dados, ferramentas com IA, a governança é importante. Mas isso custa caro, significa ter um comitê de ética, desenvolvimento de ferramentas de proteção, ter moderadores e filtros. Mas as empresas não querem, gostam de polemizar. Então, se perguntam, para que vou fazer algo controlado se o mercado pode, entre aspas, se autorregular?”, comenta.

Pedro Sanches, sócio do escritório Prado Vidigal Advogados e especialista em direito digital, privacidade e proteção de dados. Crédito: divulgação

Para Punder, a ferramenta ou deve ser tirada do ar ou deve ser corrigida. “Mas eles não querem corrigir a ferramenta. Hoje, estamos numa ditadura das plataformas. São seis, sete players no mercado e eles inserem ferramentas, como o Grok, que é uma linguagem. Eles teriam que controlar, mas eles não querem. Ficamos na mão desse cartel de empresas que se acham, inclusive, superiores aos governos. Eles mandam muito mais do que os governos”, completa.

Grok e a tentativa de redimir os danos

Por outro lado, Pedro Sanches, sócio do escritório Prado Vidigal Advogados e especialista em direito digital, privacidade e proteção de dados, acredita que a atitude do X ao fechar a ferramenta somente para assinantes, pode ser vista como uma medida protetora e de rastreabilidade. “É criado um rastro financeiro que, querendo ou não, inibe o anonimato e facilita a identificação do usuário em eventuais casos de abuso. Pode ser até uma questão de fricção necessária que tenta desestimular o uso massivo da ferramenta para um fim ilícito, mas ainda assim, sem inviabilizar a inovação e a ferramenta em si”, afirma.

O especialista pondera sobre a neutralidade da tecnologia e a distinção de quem disponibiliza a tecnologia e de quem faz uso dela. “No final do dia, o dolo, a intenção de prejudicar é do utilizador, de quem de fato utiliza ali a tecnologia com um fim próprio”, diz.

Como se proteger

Para quem foi atingida pela manipulação de imagens por inteligência artificial, Fernando Moreira, advogado, especialista em Direito Empresarial e doutor em Engenharia de Produção com ênfase em Governança e Compliance, alerta para que as vítimas preservem as provas — por meio de capturas de tela completas e Ata Notarial —, evitando-se repostar o conteúdo para denúncia. Uma forma de remover o conteúdo seria acionando X e Grok, para pedir a remoção alegando que o caso está inserido no artigo 21 do MCI.

“No âmbito judicial, a defesa da vítima se estende às esferas criminal e cível. A divulgação não consentida pode ser enquadrada no artigo 218-C do Código Penal, sendo tratada com gravidade extrema quando envolve crianças ou adolescentes. Já na esfera cível, é possível pleitear indenizações, multas diárias e, fundamentalmente, a quebra de sigilo de dados para identificar os autores das postagens, garantindo a responsabilização de quem produziu ou compartilhou a fraude”, explica Moreira.

https://www.mobiletime.com.br/noticias/09/01/2026/grok-x-responsabilidade/