Introdução ao Novo Ferramenta da Midjourney

A Midjourney está prestes a lançar uma ferramenta web aprimorada que permitirá aos usuários editar qualquer imagem enviada da web utilizando a inteligência artificial generativa da empresa. Segundo David Holtz, CEO da Midjourney, essa atualização será disponibilizada “no início da próxima semana”.

Funcionalidades da Nova Ferramenta

A nova ferramenta não somente permitirá a edição de imagens existentes, mas também oferecerá aos usuários a capacidade de retexturizar objetos, modificando suas cores e detalhes com base em legendas fornecidas. Essa abordagem representa um avanço significativo nas capacidades de edição de imagem com o auxílio da inteligência artificial.

Contexto e Repercussões da Edição de Imagens com IA

A edição de imagens com inteligência artificial tornou-se um tópico controverso recentemente. Plataformas como a Meta têm lidado com a dificuldade de rotular imagens editadas com ferramentas de IA em comparação com aquelas geradas a partir do zero por um modelo de IA. Outros, como o Google, têm lançado recursos de IA poderosos que não oferecem indicação visual de que as imagens foram modificadas por IA.

Normas e Diretrizes sobre Imagens AI

No ano passado, a Midjourney comprometeu-se a utilizar a propriedade Digital Source Type da IPTC, um padrão técnico que incorpora metadados em imagens indicando que elas foram geradas por IA. No entanto, a empresa é uma das poucas grandes plataformas de IA que não adotou a C2PA, uma tecnologia de metadados que rastreia a proveniência completa de uma imagem, incluindo o equipamento e o software utilizados para sua criação.

Moderação e Segurança na Nova Ferramenta

Em uma postagem no servidor oficial do Discord da Midjourney, Holtz mencionou que a nova ferramenta de imagem será inicialmente restrita a um “subconjunto da comunidade atual”, implementando uma moderação humana intensificada, além de “novos e mais avançados moderadores de IA” para tentar prevenir abusos. Ele enfatizou:

“Honestamente, não estamos certos de como restringir precisamente o uso desse recurso.”

A Midjourney está buscando feedback da comunidade através de uma enquete que ajudará a determinar quais usuários terão acesso primeiro.

Riscos Associados à Liberação de Ferramentas de Edição

Existem riscos significativos na liberação de ferramentas de edição desse tipo sem salvaguardas adequadas. Esses instrumentos podem facilitar infringências de direitos autorais em larga escala ou promover a disseminação de deepfakes enganosos.

Deepfakes e Desinformação

Os deepfakes estão se espalhando como fogo nas redes sociais, dificultando a distinção entre verdade e desinformação. Recentemente, imagens geradas por IA de destruição e sofrimento humano inundaram a web após o furacão Helene, como relatado por várias fontes.

Segundo dados da Clarity, uma empresa de detecção de deepfakes, 900% mais deepfakes foram criados e publicados este ano em comparação com o mesmo período do ano anterior. Isso gera alarmes compreensíveis, com uma recente enquete da YouGov mostrando que 85% dos americanos estão preocupados com a disseminação de deepfakes enganadores online.

Legislação e Regulação sobre Deepfakes

Na ausência de uma lei criminalizando deepfakes em nível federal nos EUA, mais de 10 estados aprovaram estatutos contra a impersonação assistida por IA. A lei da Califórnia — atualmente paralisada — seria a primeira a empoderar juízes a ordenar que os responsáveis pela publicação de deepfakes removam o conteúdo ou enfrentem potenciais penalidades monetárias.

Responsabilidade da Midjourney na Implantação de IA

A Midjourney não tem sido exatamente um exemplo brilhante de implantação responsável de IA. A empresa enfrenta um processo por sua suposta utilização de conteúdo protegido por direitos autorais para treinar seus modelos de IA generativa. Contudo, nos últimos meses, a plataforma tem adotado medidas para limitar a disseminação de deepfakes, incluindo filtros para figuras políticas conforme se aproxima a eleição presidencial nos Estados Unidos.

#Midjourney, #InteligênciaArtificial, #EdiçãoDeImagens, #Deepfakes, #Tecnologia

Fonte