Batizado de “AI or Not”, um novo aplicativo gratuito baseado na web informa que é capaz de identificar imagens geradas por inteligência artificial (IA) simplesmente carregando-as ou analisando dados de URL. A empresa Powered by Optic, responsável pela tecnologia, divulgou que seu software pode identificar imagens feitas quando forem usados programas como Stable Diffusion, Midjourney, Dall-E ou GAN.

O funcionamento do aplicativo é simples e direta: basta arrastar a foto, fazer upload dela ou informar o URL

Plataforma de uso fácil e rápido, o Optic AI or Not analisa a imagem carregada e em segundos informa se ela imagem foi gerada por inteligência artificial (IA) ou criada por um humano. “Se a imagem for gerada por IA, nosso serviço identifica o modelo de IA usado. Nossa missão é trazer transparência para a mídia em blockchains para que todas as comunidades possam realizar seu potencial criativo e econômico” diz a empresa em um comunicado à imprensa.

Foto 2

Retrato criado com a plataforma MidJourney foi rapidamente identificado como sendo fruto de IA

Ao acessar o aplicativo (www.aiornot.com), qualquer pessoa pode fazer upload de uma imagem ou fornecer um link para o local hospedado para que o AI or Not avalie se a imagem criada por humanos ou gerada por IA. A empresa diz que o aplicativo usa “algoritmos avançados e técnicas de aprendizado de máquina” para analisar imagens e detectar sinais de geração de IA. O objetivo, segundo a Optic, é fornecer um serviço confiável, especialmente em casos desafiadores, para evitar os muitos problemas que podem surgir com seu uso, como fraude ou desinformação.

Imagem falsa do ex-presidente americano Donadl Trump criada via IA

Fizemos o teste

Fotografe decidiu testar o AI or Not com imagens geradas por fotógrafos (inclusive analógicas) e em 90% dos casos o programa acertou. Falhou em dois casos e ficou sem definição em mais dois. A primeira falha foi em uma imagem na série “Iridescência”, que o fotógrafo paulista Bruno Militelli produz com câmera digital e lente macro para coleções de NFT (tokens não fungíveis).

Imagem feita pela fotógrafa Claudia Andujar nos anos 1970 com filme e identificada corretamente

Uma segunda foto da série “Iridescência” também foi avaliada pelo AI or Not como sendo fruto de IA, o que é falso. Os dados EXIF das duas imagens informam que elas foram criadas em março de 2022 (quando os softwares de IA ainda não estavam disponíveis ao público) com uma câmera Fuji X-T3 com lente macro XF 80 mm f/2.8. Quando o AI or Not erra, o usuário tem a opção de apontar o erro e a razão. Depois de dois informes de avaliação equivocada, na terceira imagem da mesma série o aplicativo informava que não poderia afirmar se ela era ou não feita por IA…

Imagem em macro da série “Iridescência”, do fotógrafo Bruno Militelli, foi identificada erroneamente

Em uma imagem de moda do fotógrafo italiano Emanuele Boffa, que ele mesmo admitiu ter sido gerada por IA depois de uma polêmica em seu Instagram, mais uma vez o Optic AI or Not falhou ao informar que não sabia se ela tinha sido feita por humano ou por IA. O erro, neste caso, por ter ocorrido por que Boffa mescla IA com imagens reais em algumas produções e isso pode ter confundido aplicativo.

Outra imagem em macro da série “Iridescência”, desta não identificada nem como IA nem como de ser humano

Outro erro aconteceu com uma imagem de publicidade dos anos 1960, feita com filme (cromo ou slide), que o aplicativo cravou como feita por IA. Aqui também há uma explicação: a foto em questão passou por um software de restauração de imagens antigas que usa IA para corrigir imperfeições. Presume-se que essa “leitura” do AI or Not foi a que prevaleceu, levando ao erro.

Imagem criada por IA pela italiana Emanuele Boffa, mas que o aplicativo AI ou NOT não soube avaliar corretamente

Deve-se ressaltar que a empresa Optic apenas promete que pode detectar imagens criadas inteiramente pelos softwares Stable Diffusion, Midjourney, Dall-E ou GAN. Mesmo com o alto índice de acerto, o teste de Fotografe mostra que a plataforma ainda tem margem para evoluir muito, o que deve ocorrer com o passar do tempo.

Foto de publicidade dos anos 1960 avaliada como sendo de IA provavelmente por ela ter sido restaurada