Facebook usa inteligência artificial para combater exploração infantil

Reconhecimento de conteúdo abusivo em imagens tem sido reportado às autoridades

São Paulo – Em um post publicado hoje (24) no blog oficial da empresa, o Facebook detalhou como usa a tecnologia para combater a exploração sexual de crianças na plataforma. Além da prática comum para o cadastro de redes sociais, que exige a confirmação da idade mínima de 13 anos para entrar na rede social, o Facebook também usa técnicas de inteligência artificial e aprendizagem de máquina (machine learning) para identificar possíveis infrações e reportar às autoridades americanas.

O objetivo da plataforma é ajudar no combate à exploração infantil. Para isso, a empresa de Mark Zuckerberg realiza buscas ativas por imagens que contenham nudez infantil e reporta o que encontra ao Centro Nacional para Crianças Desaparecidas e Exploradas dos Estados Unidos (NCMEC). As contas que postam ou compartilham esse tipo de conteúdo são sinalizadas e são analisadas pelo time revisor da rede social.

O chefe global de segurança do Facebook, Antigone Davis, que assina o comunicado oficial, detalha que a empresa também sinaliza a nudez infantil não sexual, como imagens de crianças no banho. Segundo ele, a empresa removeu 8,7 milhões de conteúdos que violaram as políticas de nudez infantil ou exploração sexual de crianças, 99% das quais foram removidas antes que alguém as denunciasse.

A empresa já enfrentou polêmicas sobre o assunto, como sua negligência quanto à restrição de idade e a sugestão de conteúdo sexual envolvendo crianças nos resultados de busca da plataforma. O anúncio de hoje é, portanto, uma maneira de a plataforma mostrar que se preocupa com a questão. Vale notar que nem sempre os algoritmos do Facebook funcionam de forma satisfatória. O contexto pode não ser levado em conta. Um exemplo disso aconteceu no final de agosto, quando uma foto, que continha crianças nuas, foi removida pela empresa de uma publicação do Anne Frank Center. O registro histórico voltou ao ar após uma reclamação da entidade.