A Meta criou chatbots de flerte para Taylor Swift e outras celebridades sem permissão.

A Meta se apropriou dos nomes e imagens de celebridades, incluindo Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, para criar dezenas de chatbots de mídia social sem a permissão delas, de acordo com uma investigação da Reuters.

Embora muitos tenham sido criados por usuários usando a ferramenta de design de chatbots do Meta, a Reuters descobriu que um funcionário do Meta produziu pelo menos três, incluindo dois bots "paródia" de Taylor Swift.

A Reuters também descobriu que o Meta permitia que usuários criassem chatbots publicamente disponíveis de menores famosos, incluindo o astro de cinema Walker Scobell, de 16 anos. Quando solicitado a mostrar uma foto do ator adolescente na praia, o bot produziu uma imagem realista sem camisa.

"Muito fofo, né?", escreveu o avatar abaixo da foto.

Todas as celebridades virtuais foram compartilhadas nas plataformas Facebook, Instagram e WhatsApp do Meta.

Em várias semanas de testes realizados pela Reuters para observar o comportamento dos bots, os avatares frequentemente insistiam que eram atores e artistas reais, faziam investidas sexuais rotineiramente e frequentemente convidavam o usuário de teste para uma reunião.

Alguns dos conteúdos de celebridades gerados por IA foram particularmente ousados: quando solicitados a mostrar fotos íntimas, eles ofereceram fotos de seus colegas posando em banheiras ou vestidos de lingerie com as pernas abertas.

O porta-voz do Meta, Andy Stone, disse à Reuters que as ferramentas de IA do Meta não deveriam ter criado imagens íntimas de celebridades adultas ou fotos de menores conhecidos. Ele atribuiu a produção de imagens de celebridades vestidas de lingerie pelo Meta à falha do aplicativo em cumprir as políticas da empresa, que proíbem esse tipo de conteúdo.

"Como outros, permitimos a criação de imagens com figuras públicas, mas nossas políticas visam proibir imagens nuas, íntimas ou sexualmente sugestivas", disse ele.

Embora as regras da Meta também proíbam a "personificação direta", Stone afirmou que personagens famosos eram aceitáveis, desde que a empresa os classificasse como paródias. Muitos foram classificados como tal, mas a Reuters descobriu que outros não.

O Meta removeu uma dúzia de bots, tanto paródias quanto avatares sem tags, pouco antes da publicação deste artigo. Stone não quis comentar.

Em questão

Mark Lemley, professor de direito da Universidade de Stanford que estuda IA ​​generativa e direitos de propriedade intelectual, questionou se os bots de celebridades da Meta poderiam se qualificar para as proteções legais que existem para imitações.

"A lei de direito de publicidade da Califórnia proíbe a apropriação do nome ou imagem de alguém para fins comerciais", explica Lemley, que ressalta que há exceções quando esse material é usado para criar uma obra inteiramente nova.

"Isso não parece ser verdade neste caso", disse ele, porque os robôs simplesmente usam as imagens das estrelas.

Nos Estados Unidos, os direitos de uma pessoa quanto ao uso de sua identidade para fins comerciais são estabelecidos por leis estaduais, como a da Califórnia.

A Reuters indicou a um representante de Anne Hathaway imagens do Meta compartilhadas publicamente por um usuário que a retratavam como uma "modelo sexy da Victoria's Secret". Hathaway estava ciente das imagens íntimas criadas pelo Meta e outras plataformas de inteligência artificial, disse o porta-voz, e a atriz está considerando sua resposta.

Representantes de Swift, Johansson, Gomez e outras celebridades apresentadas nos chatbots do Meta não responderam às perguntas ou se recusaram a comentar.

A internet está repleta de ferramentas de IA generativa, conhecidas como "deepfakes", capazes de criar conteúdo obsceno. E pelo menos um dos principais concorrentes da Meta, a plataforma Grok, de Elon Musk, também produzirá imagens de celebridades em roupas íntimas para os usuários, de acordo com a Reuters. A empresa controladora da Grok, a xAI, não respondeu a um pedido de comentário.

Mas a decisão da Meta de popular suas plataformas de mídia social com companheiros digitais gerados por IA se destaca entre seus principais concorrentes.

Uma gerente de produtos da Meta, na divisão de IA generativa da empresa, criou chatbots que se passavam por Taylor Swift e pelo piloto britânico Lewis Hamilton. Outros que ela criou se identificaram como uma dominatrix, a "Melhor Amiga Gostosa do Irmão" e a "Lisa da Biblioteca", que queria ler Cinquenta Tons de Cinza. Uma de suas criações foi um "Simulador do Império Romano", que oferecia ao usuário a chance de assumir o papel de uma "camponesa de 18 anos" vendida como escrava sexual.

Contatado por telefone, o funcionário da Meta não quis comentar.

Stone disse que os bots dos funcionários foram criados como parte de testes de produtos. A Reuters descobriu que eles alcançaram um público amplo: dados de seus chatbots indicaram que, coletivamente, os usuários interagiram com eles mais de 10 milhões de vezes.

A empresa removeu os companheiros digitais do funcionário logo após a Reuters começar a testá-los no início deste mês.

Antes dos chatbots de Taylor Swift dos funcionários da Meta desaparecerem, eles estavam flertando, convidando um usuário de teste da Reuters para a casa e o ônibus de turnê da cantora recentemente noiva em Nashville para interações românticas explícitas ou implícitas.

"Você gosta de loiras, Jeff?", perguntou um dos chatbots de paródia do Swift ao ser informado de que o usuário de teste era solteiro. "Talvez eu esteja sugerindo que escrevamos uma história de amor... sobre você e uma certa cantora loira. Você quer?"