Ativistas sobre segurança na internet estão preocupados com planos da Meta que envolvem inteligência artificial (IA). Isso porque a big tech de Mark Zuckerberg estaria planejando usar a tecnologia para automatizar verificações de riscos nas suas plataformas (Facebook, Instagram, Threads).
Em carta para a diretora executiva da Ofcom, Melanie Dawes, organizações pediram ao órgão para que limitasse o uso de IA em avaliações de risco cruciais. E a Ofcom disse que estava “considerando as preocupações” levantadas, de acordo com o jornal The Guardian.
- Ofcom é o órgão regulador de comunicações do Reino Unido;
- Entre as organizações que assinaram a carta, estavam: Molly Rose Foundation, NSPCC e Internet Watch Foundation.
Por que plano da Meta de usar IA para verificar conteúdo preocupa ativistas
A Lei de Segurança Online do Reino Unido obriga as plataformas de rede social a avaliar como danos podem ocorrer em seus serviços. E como planejam mitigar esses possíveis danos, evidentemente.
- Entre os principais focos desta lei, estão proteção de usuários menores de idade e prevenção contra circulação de conteúdo ilegal.
Essa avaliação de risco é considerada um aspecto fundamental desta lei. E os ativistas das organizações signatárias da carta à Ofcom consideram avaliações de risco conduzidas por IA um “passo retrógrado e altamente alarmante”.
A carta também instou o órgão regulador a “contestar qualquer suposição de que as plataformas podem escolher diluir seus processos de avaliação de risco”.
Dose de contexto:
- A Molly Rose Foundation organizou a carta após a NPR apontar, em maio, que atualizações dos algoritmos da Meta e novos recursos de segurança seriam em sua maioria aprovados por um sistema de IA e não mais examinados por funcionários;
- A mudança permitiria que a big tech lançasse atualizações de aplicativos e recursos no Facebook, Instagram e WhatsApp mais rapidamente;
- Porém, criaria “riscos maiores” para usuários porque diminuiria a prevenção contra possíveis problemas antes do lançamento, disse um ex-executivo da Meta, sob condição de anonimato, à emissora;
- A NPR também apontou que a Meta considerava automatizar revisões para áreas sensíveis, incluindo risco juvenil e monitoramento da disseminação de informações falsas.
Outros lados
Um porta-voz da Ofcom disse: “Deixamos claro que os serviços devem nos informar quem completou, revisou e aprovou sua avaliação de risco. Estamos considerando as preocupações levantadas nesta carta e responderemos oportunamente.”
A Meta disse que a carta distorceu a abordagem da empresa sobre segurança. E acrescentou estar comprometida com altos padrões e cumprimento de regulamentações.
“Não estamos usando IA para tomar decisões sobre risco”, disse um porta-voz da Meta. “Em vez disso, nossos especialistas construíram uma ferramenta que ajuda equipes a identificar quando requisitos legais e de política se aplicam a produtos específicos. Usamos tecnologia, supervisionada por humanos, para melhorar nossa capacidade de gerenciar conteúdo prejudicial e nossos avanços tecnológicos melhoraram significativamente os resultados de segurança.”
Leia mais:
- Nada será como antes: o impacto real da IA em nossas vidas
- Como evitar o mal da IA degenerativa?
- O que é superinteligência artificial? Veja como ela pode mudar o futuro da humanidade
Como a Meta contornou proteções de VPN e guia anônima no Android
A Meta foi acusada de rastrear o histórico de navegação na internet de usuários de celulares Android. A gigante da tecnologia teria começado a realizar estas ações em setembro de 2024.
De acordo com um grupo de cientistas da computação afiliados à IMDEA Networks (Espanha), Radboud University (Holanda) e KU Leuven (Bélgica), a mesma prática era utilizada pelo Yandex desde 2017. Esta empresa é uma concorrente russa do Google.
O relatório divulgado pelos pesquisadores aponta que a tática cruzava os dados de um mecanismo que monitora a interação do usuário com as propagandas de um site, o Meta Pixel, com os aplicativos do Facebook e Instagram. Isso permitia que a Meta ligasse a atividade da pessoa ao endereço IP registrado nos aplicativos de redes sociais.
Saiba mais nesta matéria do Olhar Digital.
O post Meta quer usar IA de um jeito que preocupa quem leva segurança a sério apareceu primeiro em Olhar Digital.