A plataforma de inteligência artificial (IA) para criação de imagens Midjourney encerrou sua fase de testes gratuitos em razão de uma “demanda extraordinária” e “abuso”, segundo anunciou David Holz, seu criador e CEO. As imagens falsas de Donald Trump sendo preso (uma referência à acusação criminal por um Grande Júri de Manhattan, Nova York) foram vistas por milhões de pessoas ao redor do mundo. Elas foram criadas pelo americano Elliot Higgins, fundador do site Bellingcat, que desde então foi banido do Midjourney.

O Midjourney,  em resposta às imagens de Trump, proibiu o termo “preso” em prompts de texto usados ​​para gerar as imagens sintéticas. No entanto, essas proibições podem ser facilmente superadas simplesmente alterando o texto.

O segundo caso de repercussão mundial foi uma imagem de IA criada em Midjourney v5 do Papa Francisco vestindo uma moderna jaqueta branca – também milhões de pessoas acreditaram ser genuína em um primeiro momento. O americano Pablo Xavier, autor da imagem, fez o post em um grupo do Facebook chamado AI Art Universe e depois no Reddit. Não passou muito tempo até se tornarem virais. “Fiquei simplesmente pasmo, não queria que explodisse assim”, disse Xavier ao disse ao Buzzfeed News.

Xi Jinping não

Se por lado Donald Trump e o Papa Francisco (entre outros políticos, religiosos e celebridades) podem ser vítimas de criações polêmicas via IA, o presidente chinês Xi Jinping não passa por isso, pelo menos no Midjourney: a plataforma não permite que os usuários gerem imagens dele  – Jinping, aliás, é o único líder mundial cuja imagem é proibida nesse gerador de imagens AI. As regras, promulgadas em 2022, vieram à tona recentemente depois que o CEO David Holz fez comentários sobre o assunto, relatados pelo The Washington Post. “Só queremos minimizar o drama. A sátira política na China é ilegal, um tabu por lá, e, em algum momento, colocaria em risco as pessoas na China de usar o serviço”, alegou. Ele também acha que pessoas nos Estados Unidos fazendo sátira da política chinesa “pouco acrescentam a qualquer coisa”.

Alguns usuários do Midjourney ficaram irritados com a censura e questionam por que apenas Xi Jinping – que governa a China autoritária com mão de ferro – escapa da sátira. “É uma pena que os criadores do Midjourney estejam se curvando ao ditador Jinping”, disse um usuário. “Me deixa desconfortável ver tantas sátiras por IA de Joe Biden e Trump e nada é feito. Só o chinês é bloqueado”, alegou outro.

Depois de encerrar os testes gratuitos, o Midjourney está aparentemente criando regras em tempo real, sem nenhum padrão. É semelhante aos primeiros dias das redes sociais, quando as regras de moderação eram negligentes, mas amadureceram muito desde então.