O Facebook anunciou nesta terça-feira, 2, que planeja encerrar em novembro seu sistema de reconhecimento facial, criado há uma década — a empresa disse que vai deletar os dados de escaneamento facial de mais de 1 bilhão de usuários, eliminando da plataforma um recurso que alimentou preocupações com privacidade, investigações governamentais e problemas regulatórios. A ferramenta era usada principalmente na sugestão de marcação de fotos na rede social.
Jerome Pesenti, vice-presidente de inteligência artificial da Meta, a recém-nomeada empresa controladora do Facebook, disse em uma postagem de blog na terça-feira que a rede social estava fazendo a mudança por causa "das muitas preocupações sobre o papel da tecnologia de reconhecimento facial na sociedade". Ele acrescentou que a empresa ainda vê o software como uma poderosa ferramenta, mas “cada nova tecnologia traz consigo potencial tanto para benefício quanto para preocupações, e queremos encontrar o equilíbrio”.
A decisão encerra um recurso que foi introduzido em dezembro de 2010 para que os usuários do Facebook pudessem economizar tempo. O software de reconhecimento facial identificava automaticamente as pessoas que apareciam nos álbuns de fotos digitais dos usuários e sugeria que as pessoas "marcassem" todas elas com um clique, vinculando suas contas às imagens. O Facebook, então, construiu um dos maiores repositórios de fotos digitais do mundo, em parte graças ao software.
A tecnologia de reconhecimento facial, que avançou em precisão e força nos últimos anos, tem sido cada vez mais foco de debate por que pode ser mal utilizada por governos, autoridades policiais e empresas. Na China, as autoridades usam esses recursos para rastrear e controlar os uigures, uma minoria predominantemente muçulmana. Nos Estados Unidos, a implementação da lei se voltou para o software para ajudar no policiamento, levando a temores de exageros e prisões equivocadas. Algumas cidades e estados baniram ou limitaram a tecnologia para prevenir potenciais abusos.
Pressão
O Facebook só usou seus recursos de reconhecimento facial em seu próprio site e não vendeu o software a terceiros. Mesmo assim, o recurso se tornou uma dor de cabeça para a empresa em termos de privacidade e regulamentação. Os defensores da privacidade repetidamente levantaram questões sobre quantos dados faciais o Facebook acumulou e o que a empresa poderia fazer com essas informações. Imagens de rostos encontradas em redes sociais podem ser usadas por startups e outras entidades para treinar softwares de reconhecimento facial.
Quando a Comissão Federal de Comércio (FTC) multou o Facebook em uma penalização recorde de US$ 5 bilhões para atender reclamações sobre privacidade em 2019, o software de reconhecimento facial estava entre as preocupações. No ano passado, a empresa também precisou pagar US$ 650 milhões para encerrar uma ação coletiva em Illinois que acusava o Facebook de violar uma lei estadual que exige o consentimento de seus residentes para usar suas informações biométricas, incluindo "geometria facial".
Além disso, a rede social anunciou o encerramento da tecnologia de reconhecimento facial em meio a um intenso escrutínio público. Legisladores e reguladores se levantaram contra a empresa nos últimos meses depois que uma ex-funcionária do Facebook, Frances Haugen, vazou milhares de documentos internos que mostravam que a empresa estava ciente de como isso possibilitou a disseminação de desinformação, discurso de ódio e conteúdo que incita à violência.
As revelações levaram a audiências no Congresso e investigações regulatórias. Na semana passada, o presidente-executivo, Mark Zuckerberg, rebatizou a controladora do Facebook como Meta e disse que iria transferir recursos para a construção de produtos para a próxima fronteira online, um mundo digital conhecido como metaverso.
Sem rostos
A mudança afeta mais de um terço dos usuários diários do Facebook que tiveram o reconhecimento facial ativado em suas contas, de acordo com a empresa. Isso significa que eles receberam alertas quando novas fotos ou vídeos deles foram carregados na rede social. O recurso também foi utilizado para sinalizar contas de indivíduos que poderiam estar se passando por outras pessoas e foi incorporado a um software que descrevia as fotos para usuários cegos.
“Fazer essa mudança exigiu que avaliássemos os casos em que o reconhecimento facial pode ser útil em relação às crescentes preocupações sobre o uso dessa tecnologia como um todo”, disse Jason Grosse, porta-voz da Meta.
Embora o Facebook tenha planos de excluir até dezembro, mais de 1 bilhão de modelos de reconhecimento facial, que são escaneamentos digitais de características faciais, a plataforma não eliminará o software que alimenta o sistema, que é um algoritmo avançado chamado DeepFace. A empresa também não descartou a incorporação da tecnologia de reconhecimento facial em produtos futuros, disse Grosse. Mesmo assim, os defensores da privacidade aplaudiram a decisão.
“A saída do Facebook do negócio de reconhecimento facial é um momento crucial no crescente desconforto nacional com essa tecnologia”, disse Adam Schwartz, advogado sênior da Electronic Frontier Foundation, uma organização de liberdades civis. “O uso corporativo de vigilância facial é muito perigoso para a privacidade das pessoas.”
O Facebook não é a primeira grande empresa de tecnologia a cancelar o software de reconhecimento facial. Amazon, Microsoft e IBM interromperam ou pararam de vender seus produtos de reconhecimento facial para autoridades policiais nos últimos anos, enquanto expressavam preocupações sobre privacidade e seu viés algorítmico e pediam por regulamentação mais clara.
O software de reconhecimento facial do Facebook tem uma longa história. Quando o software foi lançado na Europa em 2011, as autoridades de proteção de dados disseram que a novidade seria ilegal e que a empresa precisaria de consentimento para analisar as fotos de uma pessoa e extrair o padrão único de um rosto individual. Em 2015, a tecnologia também levou ao ajuizamento da ação coletiva em Illinois.
Na última década, o Electronic Privacy Information Center (EPIC), um grupo de defesa da privacidade com sede em Washington, registrou duas reclamações sobre o uso de reconhecimento facial pelo Facebook junto à FTC. Quando a FTC multou o Facebook em 2019, citou as confusas configurações de privacidade do site em torno do reconhecimento facial como uma das razões para a penalidade.
“Esse era um problema conhecido que evocamos há mais de 10 anos, mas se arrastou por muito tempo”, disse Alan Butler, diretor executivo do EPIC. Ele disse estar feliz que o Facebook tenha tomado a decisão, mas acrescentou que o episódio prolongado exemplifica a necessidade de sistemas de proteção de privacidade mais firmes nos EUA.
“Todas as sociedades e modernos países democráticos possuem um sistema regulador de proteção de dados”, disse Butler. “A lei não foi elaborada em condições de resolver esses problemas. Precisamos de regras e princípios jurídicos mais claros e de um regulador que analise efetivamente essas questões todos os dias”.
