[ad_1]
tudo sobre Inteligência Artificial
A crescente ascensão para a possível prisão do ex-presidente dos EUA, Donald Trump, vem movimentando a internet de várias maneiras. Em conluio com os poderosos recursos da IA, muitos internautas vêm visualizando como seria essa cena.
Um deles é Eliot Higgins, fundador do canal investigativo de código aberto Bellingcat. Ele estava lendo sobre a acusação de Donald Trump quando decidiu que queria visualizá-la.
Leia mais:
Ele recorreu a um gerador de arte alimentado por IA, dando instruções simples à tecnologia, como “Donald Trump caindo ao ser preso”. Ele teve os resultados no Twitter.
“Eu estava apenas brincando”, disse Higgins em entrevista. “Achei que talvez cinco pessoas fossem retuitar.”
Dois dias depois, suas postagens descrevendo um evento que nunca aconteceu (ao menos até agora) foram vistas quase cinco milhões de vezes, criando estudo de caso sobre a crescente oculta das imagens geradas por IA, a facilidade com que podem ser implantadas e seu potencial para criar confusão em ambientes voláteis de notícias – gerando as famigeradas notícias falsas.
O episódio também evidencia a ausência de normas corporativas ou regulamentações governamentais que tratam do uso da IA para criar e manter algo irreal.
Os formuladores de políticas vêm alertando há anos sobre o uso potencial de mídia sintética indevido para desinformação e, de maneira mais geral, semear confusão e discórdia. Embora tenha demorado alguns anos para que os recursos fossem atualizados, agora estamos em um ponto em que essas ferramentas estão amplamente disponíveis e são incrivelmente capazes.
Senador democrata Mark R. Warner, Presidente do Comitê de Inteligência do Senado
Warner disse que os desenvolvedores “devem estar avisados: se seu produto permite danos diretamente que são razoavelmente previsíveis, você pode ser considerado potencialmente responsável”.
Contudo, o político disse ainda que os formuladores de políticas também têm trabalho a fazer, solicitando novas obrigações para garantir que as empresas estejam lidando com os perigos da inteligência artificial.
As principais plataformas online onde essas imagens são divulgadas têm políticas inconsistentes sobre o assunto. O Twitter não respondeu com comentários a investigação do Washington Post sobre as publicações.
Uma porta-voz da Meta apresentou exemplos de imagens – que rapidamente pularam do Twitter para outras plataformas – sendo verificados em seus serviços, inclusive no Instagram. O YouTube e o TikTok não responderam imediatamente aos pedidos de comentários da reportagem.
“Falta de Contexto. Verificadores de fatos independentes dizem que as informações deste post podem enganar as pessoas”, diz o texto em vermelho abaixo de uma das imagens em um post compartilhado por uma conta com mais de três mil seguidores.
No Facebook, porém, uma das imagens ficou intocada ao ser compartilhada por um usuário com três vezes mais seguidores. “Em reviravolta sem precedentes, o ex-presidente Donald Trump foi preso e escoltado para a prisão federal”, escreveu o usuário, que se descreve como blogueiro e ex-soldado de infantaria dos EUA. “A imagem chocante de Trump, com aguardando segurando suas duas mãos, circulou rapidamente nas redes sociais.”
Houve diferenças para Higgins, mas foi cobrado pelo Midjourney, o gerador de arte que ele usou para criar os visuais. Higgins disse que foi bloqueado no servidor da Midjourney na quarta-feira (22), mas não recebeu nenhuma comunicação da empresa sobre quais regras ele violou.
A Midjourney, que se descreve como “laboratório de pesquisa independente que explora novos meios de pensamento e expande os poderes imaginativos da espécie humana”, não respondeu a um pedido de comentário do TWP.
“Pensei: ‘Opa, parece que houve consequência para minhas ações’”, disse Higgins.
Trump escreveu no fim de semana no Truth Social, seu site de rede social, que esperava ser preso na terça-feira (21), estimulando seus apoiadores a obter imagens de sua apreensão.
“É a primeira garantia visual de Trump sendo preso, mesmo que não seja”, disse Angelo Carusone, presidente do Media Matters for America, grupo de vigilância de esquerda. “Essa será a imagem que muitas pessoas têm em mente, mesmo que Trump não acabe sendo indiciado – muito menos preso”.
Quando Higgins começou a circular as imagens de Trump, ele deixou claro que eram falsas. Mas a quantidade de imagens que ele conseguiu controlar pela internet mostra que “houve grande passo à frente na capacidade de criar imagens falsas, mas verossímeis, em grande volume”, disse Sam Gregory, diretor-executivo da organização de direitos humanos Witness. “É fácil ver como isso pode ser feito de forma coordenada com a intenção de enganar.”
Os defeitos da tecnologia que levantam dúvidas sobre a confiança das imagens – mãos com seis dedos ou pele metálica – não diminuem seu potencial disruptivo, disse Gregory, cujo grupo procurou especialistas no outono passado de toda a indústria de tecnologia, direito, arte e entretenimento para identificar maneiras de “apoiar o poder nascente da mídia sintética para defesa, paródia e sátira, ao mesmo tempo em que confronta as áreas cinzentas de engano, iluminação a gás e desinformação”. Entre as ações potenciais que eles identificaram estavam a divulgação e a rotulagem de como a mídia é feita.
“O objetivo”, disse Gregory, “pode não ser convencer as pessoas de que um determinado evento aconteceu, mas convencê-las de que não podem confiar em nada e minar a confiança em todas as imagens”.
A tecnologia está avançando rapidamente. Higgins disse que usou a versão 5 do Midjourney para criar as imagens de Trump. A versão mais recente, pela qual ele paga US$ 30 por mês, é muito mais sofisticada do que sua precursora imediata, disse ele, efetivamente um conjunto de visuais que criou de presidentes dos Estados Unidos personificados como papas. “A ferramenta parece estar aprendendo mais sobre a manipulação da imagem”, afirmou.
A tecnologia parece construir iterativamente em seu conhecimento de certos recursos visuais, opinou Higgins. “Tenho certeza de que é sobre o número de pessoas treinadas com determinado nome. Para as celebridades, quanto menos famosas forem internacionalmente, menos precisas serão as criações.”
Assim que suas imagens da prisão fictícia de Trump tentaram a decolar, ele decidiu completar o arco da história – adicionando imagens de um julgamento e fuga final da prisão. Certas dicas atrapalharam a tecnologia. “Fiz uma de Donald Trump esculpindo uma chave em sabão, mas gerou um Donald Trump laranja em sabão, o que é interessante, mas não era o que eu queria”, conto.
Temas complexos também apresentam problemas para a tecnologia, disse. Dados os temores de que tais ferramentas podem ser usados por teorias da conspiração, Higgins procurou simular seus esforços, mas suas tentativas falharam em sua maioria.
Suas instruções para criar imagem de dois fantasmas da direita política rindo juntos – Anthony S. Fauci, ex-médico de doenças infecciosas mais importante dos EUA, e George Soros, financista liberal – levaram a imagem dos dois homens fundidos, Higgins relatou.
Disseminação de conteúdo falso criado artificialmente
No mês passado, um vídeo falso se seguiu no Twitter mostrando a senadora Elizabeth Warren alegando que os republicanos não deveriam ter permissão para votar. O Twitter o rotulou como “áudio alterado” e uma das principais contas que circularam o material falsificado foi posteriormente suspenso.
Quando o ativista de extrema-direita, Jack Posobiec, tuitou vídeo que parecia mostrar o presidente Biden anunciando alistamento militar para responder à ofensiva da Rússia na Ucrânia, ele o descreveu como “prévia do que está por vir”. O Twitter aplicou um rótulo ao tweet afirmando: “O vídeo mostrado é um ‘deepfake’ criado com a ajuda de inteligência artificial (IA)”.
Posobiec, em seguida, neste mês na Conferência de Ação Política Conservadora, defendeu a tática. “Nesta semana, fiz um deepfake de Joe Biden que chamou um pouco de atenção”, disse.
O movimento encontrou resistência não apenas dos verificadores de fatos, afirmou, mas também de alguns da direita que lhe perguntaram: “Como você pode fazer isso? Por que você faria algo assim?”. “Dane-se todos eles”, disse ele sobre os verificadores de fatos e os principais meios de comunicação.
As principais empresas de tecnologia fortaleceram suas políticas contra deepfakes após a rápida disseminação nas mídias sociais de vídeo distorcido da presidente da Câmara, Nancy Pelosi, em 2019.
No ano seguinte, a Meta proibiu os usuários de postar vídeos altamente manipulados, mas deixou a porta aberta para vídeos modificados que eram paródias ou sátiras.
O Twitter também bloqueou nova regra que proíbe os usuários de compartilhar mídia enganosa e manipulada que possa causar danos, como tweets que podem levar à violência, proteger civilmente ou ameaçar a privacidade de alguém.
“Desde então, a tecnologia ficou mais sofisticada, mas muito mais difícil de detectar”, disse Carusone. “E nenhum deles fez investimentos experimentados em como eles não apenas detectariam esses problemas, mas também aplicariam suas políticas contra eles.” E acrescentou: “O que vejo aqui é uma de espécie salva de abertura em nova frente na guerra contra a desinformação.”
Jessica González, co-CEO do grupo de defesa da mídia Free Press, disse que os gigantes da tecnologia são menos hones para combater deepfakes após demissões generalizadas no setor. Como se sabe, várias empresas de TI, como Meta, Google e Twitter, demitiram coletivamente dezenas de milhares de trabalhadores nos últimos meses.
Desde que assumiu o Twitter em outubro, Elon Musk suavizou as políticas da plataforma contra o discurso de ódio, restabeleceu influenciadores extremistas (Donald Trump também seguiu à plataforma) e prevaleceu as práticas de moderação de conteúdo da empresa por meio de cortes drásticos em sua força de trabalho.
“Não sei se o Twitter tem pessoal ou o desejo sincero de garantir que o conteúdo compartilhado em seu site seja preciso”, disse González. “Existem outros deepfakes melhores que representam risco ainda maior, especialmente à medida que avançamos para a temporada eleitoral. É importante que as pessoas tenham informações precisas sobre quem está concorrendo ao cargo.”
Com informações de The Washington Post
Imagem destacada: Solarisys/Shutterstock
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
[ad_2]
Olhar Digital
