GROK está sendo utilizado para violar a integridade de meninas e mulheres e um mangá-ka se meteu em encrenca por utilizar a ferramenta.

Um dos escândalos da última semana para cá é o uso do GROK, a inteligência artificial do Elon Musk para criar fotos eróticas e violentas de mulheres e meninas menores de 14 anos.  Estamos falando aqui de se apossar de fotos que estão online e adulterá-las ou de deepfake mesmo.  E eu vou escrever aqui o que vi em um perfil norte-americano: há pornografia de sobra na internet, material que pode ser apropriado gratuitamente, no entanto, a gaça está em não ter o consentimento, em violar a integridade de uma mulher ou menina, porque se trata de violação mesmo.  É uma forma nova de abuso sexual e de intimidação, porque pode prejudicar a vida profissional e pessoal da vítima, desde a sua saúde mental até a sua empregabilidade.  E a culpa não é de quem colocou a foto na internet ou não colocou seu perfil no privado; esses sujeitos podem se apropriar de fotos de pessoas utilizando várias ferramentas; eles são os criminosos.

Isso cresceu tanto nos últimos dias que virou uma trend no Twitter (*Onde mais?*), inclusive já colocaram fotos adulteradas de biquíni de Renee Nicole Good, cidadã  norte-americana assassinada pelo ICE anteontem.  Para se ter uma ideia, segundo uma matéria da Folha de São Paulo: "Durante uma análise de 24 horas das imagens que a conta @Grok publicou no X, o chatbot gerou cerca de 6.700 por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com Genevieve Oh, pesquisadora de mídias sociais e deepfakes. Os outros cinco principais sites para esse tipo de conteúdo tiveram uma média de 79 novas imagens de nudez por IA por hora no período de 24 horas, de 5 a 6 de janeiro, segundo Oh.".  

Como no Brasil existe legislação a respeito, não especificamente para IA, mas para a divulgação de fotos não autorizadas e de material erótico-pornográfico com menores, a deputada Erika Hilton acionou o Ministério Público, e mesmo com deboche do Elon Musk, aparentemente (*vejam bem, APARENTEMENTE*) o GROK terá alguma limitação no Brasil.  Veremos isso.

Enfim, um mangá-ka utilizou o GROK para desnudar uma idol do grupo STU48.  O mangá-ka Yoichiro Tanabe, que faz mangás sobre idols, usou o GROK para  criar uma foto sexualizada de Riko Kudo, do grupo STU48, usando um biquíni.  A moça viu, a coisa chegou aos empresários do grupo e o mangá-ka pode enfrentar alguma ação judicial.  Correu a internet brasileira a história de que ele havia sido demitido.  Não encontrei nada disso, o que eu achei foi o pedido de desculpa do sujeito e cito o Oricon News:  "Em resposta, Tanabe divulgou uma declaração escrita intitulada "Sobre minha recente publicação inadequada", na qual pediu desculpas. Ele escreveu que lamentava profundamente ter causado desconforto e reconheceu diversas falhas, incluindo a falta de conhecimento sobre direitos de imagem, compreensão insuficiente do uso de IA generativa e um julgamento equivocado e arrogante sobre os limites apropriados com os ídolos com quem trabalhou profissionalmente."

Balela essa historinha de falta de conhecimento da lei e do uso de IA.  Espero que ele tenha que indenizar a moça.  Aliás, a tentativa é de enquadrá-lo por assédio sexual. Não se trata de "cancelar" como aparece em várias páginas em português e espanhol do Facebook e Instagram, é crime mesmo, tem que punir.  E, repito, não achei fonte segura alguma sobre demissão, se alguém tiver fonte em japonês, por favor, me passe.  E, como pontuei lá em cima, isso é uma nova forma de violação, de estupro mesmo.

Atualização (10/01): a Indonésia bloqueou o GROk temporariamente por causa dessa sujeira toda.  A GrÃ-Bretanha pode fazer o mesmo, mas há políticos republicanos que estão ameaçando o país na internet. O post da deputada republicana ameaçando o primeiro-ministro da Inglaterra e o país inteiro está abaixo:  

"Se Starmer conseguir banir o @X na Grã-Bretanha, darei prosseguimento à legislação que está sendo elaborada para sancionar não apenas Starmer, mas a Grã-Bretanha como um todo. Isso espelharia ações tomadas anteriormente pelos Estados Unidos em resposta a governos estrangeiros que restringiram a plataforma, incluindo a disputa com o Brasil em 2024-2025, que resultou em tarifas, revogações de vistos e sanções e consequências relacionadas a preocupações com a liberdade de expressão contra autoridades brasileiras devido a preocupações com censura e violações da liberdade de expressão. Starmer deveria reconsiderar essa linha de ação, ou haverá consequências. Sempre há falhas técnicas durante as fases iniciais de novas tecnologias, especialmente de IA, e esses problemas geralmente são resolvidos rapidamente. O X trata essas questões com seriedade e age prontamente. Para que fique claro: isso não se trata de conformidade técnica. Esta é uma guerra política contra @elonmusk e a liberdade de expressão — nada mais."

Se  Trump é o imperador do mundo, esse pessoal se acha no direito de fazer o que quiser.  Mas, repito, quem ganhou a queda de braço com o Musk foi o Alexandre de Moraes, ou melhor dizendo, os representantes do Estado brasileiro na figura do STF.  E Elon Musk diz que a reação é desculpa para censura, está em vários lugares.  Oh, estou muito surpresa com a reação dele... Aliás, apesar de supostamente ele ter restringido as funções do GROK, essa postura de acusar censura denuncia o quanto ele está preocupado.