O órgão de fiscalização da Internet do Reino Unido endurece a abordagem à pornografia deepfake
A Ofcom, reguladora de segurança na internet do Reino Unido, publicou outro novo rascunho de orientação enquanto continua a implementar a Lei de Segurança Online (OSA) — o mais recente conjunto de recomendações visa dar suporte às empresas abrangidas para cumprir as obrigações legais de proteger mulheres e meninas de ameaças online, como assédio e bullying, misoginia e abuso de imagem íntima.
O governo disse que proteger mulheres e meninas é uma prioridade para sua implementação da OSA. Certas formas de abuso (predominantemente) misógino — como compartilhar imagens íntimas sem consentimento ou usar ferramentas de IA para criar pornografia deepfake que tem como alvo indivíduos — são explicitamente definidas na lei como prioridades de execução .
O regulamento de segurança online, que foi aprovado pelo parlamento do Reino Unido em setembro de 2023 , enfrentou críticas de que não está à altura da tarefa de reformar gigantes de plataformas, apesar de conter penalidades substanciais para não conformidade — até 10% do faturamento anual global.
Os defensores da segurança infantil também expressaram frustração com o tempo que está demorando para implementar a lei, além de duvidarem que ela tenha o efeito desejado.
Em uma entrevista com a BBC em janeiro, até mesmo o ministro da tecnologia Peter Kyle — que herdou a legislação do governo anterior — a chamou de “muito irregular” e “insatisfatória”. Mas o governo está mantendo a abordagem. Parte do descontentamento em torno da OSA pode ser rastreada até o longo prazo que os ministros permitiram para implementar o regime, o que exige que o parlamento aprove a orientação de conformidade da Ofcom.
No entanto, espera-se que a execução comece a ser aplicada em breve em relação aos principais requisitos para lidar com conteúdo ilegal e proteção infantil. Outros aspectos da conformidade com a OSA levarão mais tempo para serem implementados. E a Ofcom admite que este último pacote de recomendações de práticas não se tornará totalmente aplicável até 2027 ou mais tarde.
“Os primeiros deveres do Online Safety Act entrarão em vigor no mês que vem”, disse Jessica Smith, da Ofcom, que liderou o desenvolvimento da orientação focada na segurança feminina, ao TechCrunch em uma entrevista. “Então, faremos cumprir alguns dos principais deveres do Online Safety Act antes que essa orientação [se torne executável].”
O novo rascunho de orientação sobre como manter mulheres e meninas seguras online tem como objetivo complementar a orientação mais ampla anterior do Ofcom sobre conteúdo ilegal — que também fornece, por exemplo, recomendações para proteger menores de ver conteúdo adulto online.
Em dezembro, o regulador publicou sua orientação finalizada sobre como plataformas e serviços devem reduzir riscos relacionados a conteúdo ilegal , uma área em que a proteção infantil é uma prioridade clara.
Ela também produziu anteriormente um Código de Segurança Infantil , que recomenda verificações de idade de serviços online e filtragem de conteúdo para garantir que crianças não sejam expostas a conteúdo inapropriado, como pornografia. E, enquanto trabalhava para implementar o regime de segurança online, também desenvolveu recomendações para tecnologias de garantia de idade para sites de conteúdo adulto , com o objetivo de pressionar sites pornográficos a tomar medidas eficazes para impedir que menores acessem conteúdo inapropriado para sua idade.
O mais recente conjunto de orientações foi desenvolvido com a ajuda de vítimas, sobreviventes, grupos de defesa das mulheres e especialistas em segurança, segundo a Ofcom. Ele abrange quatro áreas principais onde o regulador diz que as mulheres são desproporcionalmente afetadas por danos online — a saber: misoginia online; pilhagens e assédio online; abuso doméstico online; e abuso de imagem íntima.
A recomendação principal da Ofcom pede que serviços e plataformas em escopo adotem uma abordagem de “segurança por design”. Smith nos disse que o regulador quer encorajar as empresas de tecnologia a “dar um passo para trás” e “pensar sobre sua experiência do usuário em geral”. Embora ela tenha reconhecido que alguns serviços implementaram algumas medidas que são úteis para reduzir os riscos online nessa área, ela argumentou que ainda há uma falta de pensamento holístico quando se trata de priorizar a segurança de mulheres e meninas.
“O que realmente estamos pedindo é apenas uma espécie de mudança radical na forma como os processos de design funcionam”, ela nos disse, dizendo que o objetivo é garantir que as considerações de segurança sejam incorporadas ao design do produto.
Ela destacou o aumento dos serviços de IA de geração de imagens, que ela observou terem levado ao crescimento "massivo" do abuso de imagens íntimas deepfake como um exemplo de onde os tecnólogos poderiam ter tomado medidas proativas para reduzir os riscos de suas ferramentas serem transformadas em armas para atingir mulheres e meninas — mas não o fizeram.
“Acreditamos que há coisas sensatas que os serviços poderiam fazer na fase de projeto que ajudariam a lidar com o risco de alguns desses danos”, ela sugeriu.
Exemplos de práticas “boas” da indústria que a Ofcom destaca na orientação incluem serviços online que tomam medidas como:
- Remover a geolocalização por padrão (para reduzir os riscos de privacidade/perseguição);
- Realizar testes de "abusabilidade" para identificar como um serviço pode ser usado como arma/mal utilizado;
- Tomando medidas para aumentar a segurança da conta;
- Projetar avisos de usuário que tenham a intenção de fazer os usuários pensarem duas vezes antes de postar conteúdo abusivo;
- E oferecer ferramentas de relatórios acessíveis que permitem aos usuários relatar problemas.
Como é o caso com todas as orientações da OSA da Ofcom, nem todas as medidas serão relevantes para todos os tipos ou tamanhos de serviço — já que a lei se aplica a serviços online grandes e pequenos, e abrange várias áreas, desde mídias sociais a namoro online, jogos, fóruns e aplicativos de mensagens, para citar alguns. Então, uma grande parte do trabalho para empresas dentro do escopo será entender o que significa conformidade no contexto de seu produto.
Quando perguntada se a Ofcom havia identificado algum serviço que atualmente atende aos padrões da orientação, Smith sugeriu que não. “Ainda há muito trabalho a ser feito em todo o setor”, ela disse.
Ela também reconheceu tacitamente que pode haver desafios crescentes, dados alguns dos passos retrógrados tomados em relação à confiança e segurança por alguns dos principais participantes da indústria. Por exemplo, desde que assumiu o Twitter e renomeou a rede social como X, Elon Musk destruiu sua contagem de confiança e segurança — em favor de buscar o que ele enquadrou como uma abordagem maximalista à liberdade de expressão.
Nos últimos meses, a Meta — dona do Facebook e do Instagram — parece ter adotado algumas medidas semelhantes, dizendo que está encerrando contratos de verificação de fatos de trinta partes em favor da implantação de um sistema de "notas da comunidade" no estilo X de rotulagem colaborativa em disputas de conteúdo, por exemplo.
Smith sugeriu que a resposta da Ofcom a essas mudanças de alto nível — onde as ações das operadoras podem arriscar aumentar, em vez de atenuar, os danos online — se concentrará no uso da transparência e dos poderes de coleta de informações que ela exerce sob a OSA para ilustrar impactos e conscientizar os usuários.
Então, resumindo, a tática aqui parece ser "nomear e envergonhar" — pelo menos em primeira instância.
“Assim que finalizarmos a orientação, produziremos um relatório [de mercado]... sobre quem está usando a orientação, quem está seguindo quais etapas, que tipo de resultados eles estão alcançando para seus usuários, que são mulheres e meninas, e realmente lançaremos luz sobre quais proteções estão em vigor em diferentes plataformas para que os usuários possam fazer escolhas informadas sobre onde passam seu tempo online”, ela nos disse.
Smith sugeriu que as empresas que desejam evitar o risco de serem envergonhadas publicamente por mau desempenho na segurança das mulheres poderão recorrer à orientação da Ofcom para "medidas práticas" sobre como melhorar a situação para seus usuários e abordar também o risco de danos à reputação.
“Plataformas que estão operando no Reino Unido terão que cumprir com a lei do Reino Unido”, ela acrescentou no contexto da discussão sobre as principais plataformas que estão desvalorizando a confiança e a segurança. “Então isso significa cumprir com os deveres de danos ilegais e os deveres de proteção de crianças sob o Online Safety Act.”
“Acho que é aqui que nossos poderes de transparência também entram — se a indústria está mudando de direção e os danos estão aumentando, é aqui que poderemos lançar luz e compartilhar informações relevantes com usuários do Reino Unido, com a mídia, com parlamentares.”
Um tipo de dano online em que a Ofcom está reforçando explicitamente suas recomendações, mesmo antes de começar a aplicar a OSA, é o abuso de imagem íntima — já que o último rascunho de orientação sugere o uso de correspondência de hash para detectar e remover tais imagens abusivas, enquanto as recomendações anteriores da Ofcom não foram tão longe.
“Incluímos etapas adicionais nesta orientação que vão além do que já definimos em nossos códigos”, observou Smith, confirmando os planos da Ofcom de atualizar seus códigos anteriores para incorporar essa mudança “em um futuro próximo”.
“Então, esta é uma maneira de dizer às plataformas que vocês podem se antecipar a essa exigência executável seguindo as etapas definidas nesta orientação”, acrescentou ela.
A Ofcom recomendou o uso da tecnologia de correspondência de hash para combater o abuso de imagens íntimas devido ao aumento substancial desse risco, segundo Smith — especialmente em relação ao abuso de imagens deepfake geradas por IA.
“Houve mais abuso de imagens íntimas deepfake relatado em 2023 do que em todos os anos anteriores combinados”, ela observou, acrescentando que a Ofcom também reuniu mais evidências sobre a eficácia da correspondência de hash para lidar com esse dano.
O rascunho da orientação como um todo agora passará por consulta — com a Ofcom convidando feedback até 23 de maio de 2025 — após o que produzirá a orientação final até o final deste ano.
Dezoito meses depois, a Ofcom produzirá seu primeiro relatório analisando as práticas do setor nessa área.
“Estamos chegando em 2027 antes de produzir nosso primeiro relatório sobre quem está fazendo o quê [para proteger mulheres e meninas online] — mas não há nada que impeça as plataformas de agir agora”, acrescentou.
Respondendo às críticas de que a OSA está demorando muito para a Ofcom implementar, ela disse que é certo que o regulador consulte sobre medidas de conformidade. No entanto, com a medida final entrando em vigor no mês que vem, ela observou que a Ofcom antecipa uma mudança na conversa em torno do problema também.
“[I]sso realmente começará a mudar a conversa com as plataformas, em particular”, ela previu, acrescentando que também estará em posição de começar a demonstrar progresso em mover a agulha quando se trata de reduzir os danos online.
techcrunch
