As grandes empresas de tecnologia buscam se apresentar como o futuro da humanidade. Propagandeiam ideias de inovação e de liberdade de expressão, mas são o símbolo do retrocesso ao permitirem que suas suas tecnologias sejam espaço de livre circulação de discursos de ódio e violação de direitos básicos, sobretudo de mulheres, crianças e minorias. Nossa dignidade, humanidade e, sim, nossas vidas viram moeda de troca nas mãos de bilionários sedentos por poder e dinheiro.

O caso recente do Grok, inteligência artificial integrada à rede social X, propriedade do bilionário Elon Musk, é um exemplo brutal disso. Uma ferramenta que permite a geração de imagens sexualizadas de mulheres reais sem consentimento e, de forma ainda mais grave, a produção de pornografia infantil é, na verdade, um mecanismo de violência. Qualquer um é livre para dar comandos ao Grok, inclusive aqueles que as Big Techs insistem em não controlar: red pills, pedófilos, nazistas, racistas. O que houve com o Grok não foi um “erro”. Pelo contrário, foi o resultado direto de uma tecnologia lançada sem limites, sem salvaguardas e sem qualquer pretensão de ser regulamentada.

 

 

Quando uma plataforma cria uma inteligência artificial que é autorizada a “despir” mulheres e meninas a partir de fotos comuns usadas sem consentimento, o problema não é apenas técnico. É ético e estrutural. Essas ferramentas não são imparciais: elas reproduzem violências e desigualdades de cunho misógino, transfóbico e racista. Não podemos nos enganar. Os bilionários e as Big Techs tem um lado. E não é o nosso.

O que acontece com o X é consequência do alinhamento ideológico dos bilionários das Big Techs com a extrema direita global. Símbolo disso é a proximidade explícita desses empresários com Donald Trump, nos Estados Unidos. Elon Musk, do X, chegou a ocupar um cargo de alto escalão no governo Trump, grande amigo de conhecidos abusadores como Jeffrey Epstein. Coincidência?!

A escolha feita pelo X é clara: priorizar engajamento e lucro às custas dos corpos e imagens de mulheres e crianças, que viram matéria prima nas mãos de criminosos e pedófilos que se sentem livres para violentar digitalmente de forma cruel. 

Não podemos descartar as infinitas possibilidades que as novas tecnologias de inteligência artificial trazem para a sociedade. Por isso questionar a permissão para o uso do Grok não se trata de censura, como alguns tentam fazer crer. Trata-se, na realidade, de responsabilidade com o direito personalíssimo de imagem. Nenhuma liberdade tecnológica pode se sobrepor ao direito à dignidade, à segurança e à proteção integral de crianças e adolescentes, que é prioridade absoluta.. 

As Big Techs sabem exatamente quem são as principais vítimas da ausência de limites em suas tecnologias. São as mulheres, as pessoas negras, a população LGBTQIA+, as crianças e adolescentes. E isso é o reflexo de um modelo que trata a violência a esses grupos como danos colaterais aceitáveis de um mercado bilionário que se recusa a aceitar qualquer limite. Vale tudo pelo lucro. 

No Brasil nós não toleraremos esse absurdo. Por isso recorri ao Ministério Público Federal e à Autoridade Nacional de Proteção de Dados para forçar uma alteração nas possibilidades de uso criminoso do Grok. Quando empresas globais se recusam a agir por conta própria, o Estado precisa cumprir seu papel. Não podemos normalizar que ferramentas de inteligência artificial operem como máquinas de produção de violência sexual.

O futuro não pode ser construído às custas da dignidade de quem sempre pagou um preço mais alto pelo direito de existir. Inovação sem responsabilidade não é progresso e as redes sociais não devem operar sem qualquer vínculo com as regras internas do nosso país. Seja no Brasil ou  em qualquer lugar, a imagem de mulheres, adolescentes e crianças não devem fomentar o lucro de bilionários ou o desejo doentio de criminosos sexuais.

Erika Hilton

Primeira Deputada Federal negra e trans eleita na história do Brasil. ‌Foi vereadora da cidade de São Paulo, tendo sido a mais votada das eleições municipais de 2020. Na cidade, foi autora da Lei que criou o Fundo Municipal de Combate à fome e presidiu a primeira CPI que investigou origens e causas das violências contra pessoas trans e travestis. Presidenta da Frente Parlamentar Mista por Cidadania e Direitos LGBTI+ do Congresso Nacional e vice presidente da Comissão de Direitos Humanos, Minorias e Igualdade Racial. Erika foi nomeada 2 vezes pela Revista TIME como uma das 100 lideranças da nova geração, em 2021 e em 2023, entrou para a lista das 100 pessoas afrodescendentes mais influentes do mundo, e uma das cinco ativistas globais premiadas pela luta na defesa da comunidade LGBTQIA+ pelo MTV European Music Awards.