Muita gente ficou se perguntando se o Papa criado com o Midjourney é pop, mas por trás dessa pergunta há muitas outras que merecem nossa atenção. A imagem desenvolvida por meio de Inteligência Artificial (IA) generativa enganou 10 entre 10 internautas, situação que nos traz indícios dos impactos que a ferramenta pode causar no combate à desinformação.
Se há pouco tempo a preocupação eram as deep fakes e o potencial da tecnologia enganar com facilidade o olhar de pessoas menos atentas às finalizações por vezes grosseiras da inovação, agora o buraco é mais embaixo. O Midjourney é capaz de fazer reproduções hiper-realistas de personagens reais.
Nesse cenário, se você, assim como nós, achou o look fake do Papa Francisco “bafônico”, mas ainda nem sabe como foi possível, vem que a gente te explica!
IA, IA generativa e a relação com o Midjourney
Para entendermos o poder da ferramenta é impossível não passarmos por duas definições: a da Inteligência Artificial e a da Inteligência Artificial generativa.
A Inteligência Artificial é uma área da Ciência da Computação cujo objetivo é criar sistemas capazes de fazer coisas que só poderiam ser executadas por seres humanos. Ela já faz parte de muitos serviços que utilizamos e, muitas vezes, não fazemos nem ideia. Por aqui, inclusive, já mostramos 7 lugares onde ela está presente em nosso dia a dia.
A tecnologia trabalha na recomendação de filmes em sites de streaming, classificadores de fotos em redes sociais e até na classificação de spams – todas aplicações superúteis, já que colaboram para que profissionais não percam tempo realizando atividades mecânicas.
Um exemplo prático da própria Vivo é a Aura, Inteligência Artificial que, com breves comandos, te ajuda a resolver tarefas simples como o pagamento de faturas e outra série de ações, de forma descomplicada.
Já a IA generativa é uma tecnologia que permite a criação de conteúdos originais como os textos do ChatGPT, imagens, música ou até mesmo vídeos. Ou seja, ao contrário da IA convencional, que é programada para executar tarefas específicas, a IA generativa é capaz de criar algo novo e inesperado. Daí as recentes polêmicas e preocupações de especialistas com ferramentas como o Midjourney no combate à desinformação.
O que é e como funciona o Midjourney
A plataforma foi desenvolvida e fundada há um ano em São Francisco (EUA), por David Holz. Teve seu primeiro beta público em 12 de julho de 2022, ou seja, a partir dessa data, qualquer usuário pode experimentar a ferramenta. Antes era preciso ter um convite especial para acessá-la.
Recentemente, a empresa lançou a quinta geração do algoritmo: para que o Midjourney produza uma imagem, basta inserir um conjunto de palavras-chave. Também é possível incluir comandos para configurar alguns parâmetros da imagem, como a qualidade, proporção e o nível de detalhamento.
Para criar suas imagens, você deve entrar no servidor oficial da ferramenta no Discord, já que não existe um site específico, nem mesmo um aplicativo para computador ou celular.
Vale lembrar que a plataforma era freemium (com direito a testes gratuitos e acessos pagos), mas recentemente a empresa encerrou a versão free por entender que uma série de imagens de deepfake causaram muita confusão na web ao serem criadas por lá.
Ao criar a sua conta no Discord e acessar o Midjourney, o serviço passa a ser pago: seus usuários investirão, no mínimo, U$ 10 por mês (ou R$ 52, aproximadamente).
Um diferencial é que todas as imagens geradas nela são públicas e aparecem no feed geral.
Os perigos do Midjourney na manutenção da democracia e no combate à discriminação
As fotos do ex-presidente Donald Trump preso e tentando resistir à prisão, foram criadas no Midjourney e também viralizaram nas redes.
O hiper-realismo promovido pela ferramenta – especialmente ao envolver personalidades públicas e políticas – vem levantando debates, em todos os níveis, de seus perigos para a manutenção da democracia.
E não por menos, afinal, se na era da desinformação o mundo já viu os impactos das fake news em períodos eleitorais, já não sabemos mais a quais riscos estamos expostos com a disseminação de imagens que colocam à prova nossa capacidade de identificar o que é real e o que é falso na internet, tarefa que promete ser cada vez mais complexa daqui para frente.
Plataformas de IA generativa, de cara, ainda representam riscos altíssimos no combate à discriminação. Em janeiro, uma série de áudios apareceram nas redes sociais na voz de celebridades fazendo comentários racistas e homofóbicos. Todos criados com a tecnologia.
As preocupações aumentam bastante após descobertas de que os próprios algoritmos discriminam, por excelência, e repetem os mesmos comportamentos preconceituosos da sociedade, como foi provado por cientistas da Universidade Johns Hopkins, do Instituto de Tecnologia da Geórgia e da Universidade de Washington.
Para investigar supostas tendências algorítmicas, eles conduziram um experimento com Clip – um robô convidado a inserir um grande volume de dados com fotos de rostos de diferentes pessoas, sob comandos diferentes. O resultado foi perturbador: Clip colocou as mulheres como donas de casa, identificou homens negros como criminosos, entre outros.
Daí a necessidade de a engenharia cibernética cuidar dos sistemas para que eles se abstenham de agir sobre informações ausentes para que não repitam velhos estereótipos que os Direitos Humanos vêm, há anos, tentando derrubar.
Mas os debates de ordem ética à despeito dessas tecnologias não param por aí. As empresas responsáveis por inovações como o Midjourney são acusadas de treinar os algoritmos a partir de obras de arte sem a permissão de seus criadores, gerando novos impasses nas discussões sobre direitos autorais. Por isso, estuda-se agora caminhos para proteger o mundo artístico das imitações e das IAs como inventoras em pedidos de patente.
Mas como identificar desinformação criada por meio dessas plataformas?
Alguns softwares já prometem a usuários identificar de forma automática conteúdos criados por IA, como o AI Detecto, o GPTZero e o Originality.ai, só que eles não são 100% confiáveis.
Vale lembrar que quem cria e compartilha fake news ou faz uso de imagens pessoais de terceiros, sem autorização, pode responder criminalmente, a depender do contexto da desinformação disseminada. As tipificações variam entre crimes contra a honra, calúnia, difamação, e outros delitos.
Não seja você a pessoa responsável por compartilhar conteúdo falso pelas redes. O combate à desinformação pretende pôr a prova todo nosso poder de resiliência em prol da manutenção da democracia, e não pode perder um soldado sequer!
