Deep Agency: conheça a agência que gera modelos (e polêmica) por IA

Depois da polêmica imagem do Papa Francisco de uma jaqueta branca viralizar na internet. E da , é possível esperar qualquer coisa do uso da inteligência artificial no mundo fashion. Inclusive uma agência de modelos de mentira… Este é o caso da Deep Agency.

• Modelos geradas por IA têm agência na Holanda e catálogo de fotos
• Júri de réu defendido por IA já tem data: 22 de fevereiro

O serviço foi criado em março por um desenvolvedor holandês, Danny Postma, e já está tendo uma enorme repercussão. A plataforma funciona como um estúdio de fotografia e agência de modelos que utiliza IA de geração de arte para oferecer “modelos virtuais” por aluguel a partir de US$ 29 por mês.

Em seu Twitter, Postma explicou que a criação trata-se de um estúdio “sem câmera, sem pessoas reais e sem localização física”.

After MONTHS of work, it's finally here! 🚀 Deep Agency: AI photo studio & modelling agency

Full explanation in the next few tweets ↓ — Danny Postma (@dannypostmaa)

Desemprego

Não é difícil imaginar o porquê de uma ideia como essa resultaria em reclamações. Os críticos da IA afirmam que a popularização dessas invenções pode tomar o lugar de modelos reais. Recentemente, a marca de jeans Levi’s gerou controvérsia ao anunciar sua parceria com o estúdio de moda digital Lalaland.ai.

A Levi’s anunciou que pretende “aumentar a diversidade” misturando modelos de IA com modelos reais em suas campanhas. Ainda alegou que trabalhar com modelos reais não seria suficiente para atingir seus objetivos.

Ética

O uso de IA generativa também esbarra em questões éticas. Em janeiro, artistas norte-americanos processaram as empresas Stability AI, Midjourney e DeviantArt por violações da lei de direitos autorais dos EUA, direito de publicidade e concorrência ilegal. Os artistas acionaram a justiça para impedir o suposto roubo de artes utilizadas para o treinamento de geradores de arte de IA sem compensação ou consentimento.

Vale lembrar que os “modelos de difusão”, como o usado pela Deep Agency, criam imagens a partir de prompts de texto – ou seja, descrições por escrito – através de dados de treinamento extraídos da internet. Isso inclui conteúdo protegido por direitos autorais, obtidos sem autorização ou consentimento. A situação se agrava porque a Deep Agency não possui mecanismos que permitam aos artistas a remoção de suas artes dos dados de treinamento. Além disso, o serviço também não estabeleceu uma divisão de receita para artistas e fornecedores, como fez a Shutterstock, por exemplo.

Privacidade

Outra questão a se temer é a violação da privacidade de dados. Mês passado, cidadãos de Illinois, nos EUA, entraram com uma ação coletiva contra a Prisma Labs, empresa por trás do aplicativo de edição de fotos Lensa, por coletar dados biométricos dos usuários de forma ilegal.

Isso porque, para criar um avatar no app de IA, é necessário fazer upload de no mínimo 10 selfies, permitindo acesso às fotos do dispositivo. De acordo com a denúncia, é dessa forma que o app extrai os dados faciais dos usuários sem permissão. No caso da Deep Agency, os clientes podem criar um “gêmeo digital” carregando cerca de 20 imagens de si mesmo em diferentes poses – e a política de privacidade não é clara sobre como elas são utilizadas. Portanto, é necessário excluir as imagens posteriormente, para evitar acabar fazendo parte dos dados de treinamento da plataforma.

Deepfakes

Além da possibilidade de resultar em notícias falsas, como aconteceu com o Papa Francisco, outro ponto que preocupa é a criação de deepfakes. Afinal, não há como impedir que alguém utilize a imagem de outra pessoa para gerar um avatar.

Nos últimos tempos, streamers famosos, em especial mulheres, tem visto suas imagens serem usadas sem consentimento em vídeos de pornografia deepfakes. A técnica de IA (inteligência artificial) cria imagens falsas, muitas vezes substituindo rostos em vídeos já existentes pelo de outras pessoas.

Diversidade

A geração de imagens por IA pode ser uma forma de aumentar a diversidade na moda e na mídia. Mas, por enquanto, parece que ela não está pronta para isso. A Deep Agency só gera imagens de mulheres — a não ser que você adquira uma assinatura paga. Mas esse não é o principal problema, já que a ferramenta tende a gerar imagens somente de mulheres brancas.

De acordo com uma reportagem da , ao selecionar uma das imagens pré-existentes e as solicitações de uma pessoa de cor usando um lenço religioso, a imagem produzida foi a de uma mulher branca usando um lenço comum. Ainda segundo a matéria, o gerador de texto para imagem DALL-E 2, da OpenAI, propaga estereótipos de gênero ao exibir imagens principalmente de homens quando pesquisado o termo “CEO”, por exemplo.

A IA pode substituir os humanos?

Ainda que a inteligência artificial seja um exemplo impressionante do que a tecnologia é capaz, é improvável que ela substitua os seres humanos. Pelo menos num futuro próximo. Até o momento, aliás, elas ainda enfrentam dificuldades para reproduzir algumas características humanas simples, como as mãos.

Por não receberem treinamento suficiente para criar esses detalhes, plataformas como DALL-E, Midjourney e Stable Diffusion, muitas vezes colocam mais do que cinco dedos em uma mão, ou duas mãos em um mesmo braço, prejudicando o efeito ultrarrealista da imagem.

Quanto à Deep Agency, seu criador, Postma, declarou no Twitter que o site está “em beta aberto” e que “as coisas vão quebrar”. Ou seja, ainda há um longo caminho a se percorrer para aperfeiçoar as ferramentas.

Com informações de TechCrunch e Vice.