Facebook Utiliza Inteligência Artificial Contra Violações de Políticas

Facebook Busca Detecção Automática de Conteúdo Nocivo

Mike Schroepfer, diretor de tecnologia do Facebook, disse que a rede social está desenvolvendo melhorias em sua inteligência artificial (IA). A intenção seria diminuir as violações de políticas de conteúdo através de reconhecimento de voz e imagens mais eficazes. O termo de conduta e políticas do Facebook proíbe imagens de violência, nudez, discurso de ódio, spam,  produtos ilícitos, etc.

A IA do Facebook já é capaz de detectar conteúdo inadequado em larga escala. Reconhece conteúdo proibido antes que seja denunciado por um usuário ou passe por um editor. Até 2014 o conteúdo que violava suas políticas podia serencontrando apenas através palavras-chave específicas no texto dos posts. Agora, além de reconhecer o conteúdo textual proibido com mais eficácia; o algoritmo foi aprimorado e já reconhece informações numa imagem, vídeo ou áudio. Desse modo, é provado que o sistema de IA tem capacidade de entender conteúdos muito mais complexos que antigamente.

Contudo, embora o sistema esteja cada vez mais desenvolvido, detectando e removendo conteúdo de nudez, spam, e imagens de violência explícita cada vez com mais eficiência. seu algoritmo ainda não consegue detectar sutilezas em conteúdos de natureza mais subjetiva. Como por exemplo: o discurso de ódio, assédio moral, vídeos de violência não tão evidente, etc. Embora ainda seja necessária a intervenção de um ser humano para resolver questões mais subjetivas que requerem julgamento consciente.

 

Inteligência Artificial Não Substituirá Humanos

O objetivo de treinar algoritmos de IA para reconhecimento de conteúdo proibido não é tornar o processo de analise do Facebook livre de intervenções humanas nem entender o material em suas plataformas uma parte menos importante ou suspender a necessidade de um olhar especializado. Ao invés disto, a rede social busca formas de pré-filtragem com o fim de viabilizar a revisão dos conteúdos quanto às suas políticas, de maneiras que seriam impossíveis apenas com a moderação de um ser humano, devido ao volume de postagens por segundo.

Os avanços mais recentes na IA do Facebook e suas técnicas permitirão que o software lide com mais eficiência e cada vez mais automatizado. Porém Schroepfer toma cuidado para não exagerar na promessa da AI como solução universal para problemas de moderação de conteúdo. O CTO diz: “Eu não prevejo um futuro em breve, onde não precisamos de pessoas envolvidas no ciclo.  Essas são questões fundamentais para as pessoas, e decidir o que é discurso de ódio e qual é a desinformação é um esforço humano”. Como resultado, a IA pode ajudar a lidar cada vez mais com o trabalho penoso de moderação e facilitar o trabalho dos moderadores.

 

Fontes:

https://www.fastcompany.com/90342175/facebooks-cto-ai-is-already-screening-out-bad-stuff-with-more-to-come

https://g1.globo.com/economia/tecnologia/noticia/2019/05/01/facebook-mostra-avancos-da-inteligencia-artificial-que-remove-conteudo-nocivo.ghtml