Facebook

Facebook Utiliza Inteligência Artificial Contra Violações de Políticas

Nova política de detecção de conteúdo

Facebook Busca Detecção Automática de Conteúdo Nocivo

Mike Schroepfer, diretor de tecnologia do Facebook, disse que a rede social está desenvolvendo melhorias em sua inteligência artificial (IA). A intenção seria diminuir as violações de políticas de conteúdo através de reconhecimento de voz e imagens mais eficazes. O termo de conduta e políticas do Facebook proíbe imagens de violência, nudez, discurso de ódio, spam,  produtos ilícitos, etc.

A IA do Facebook já é capaz de detectar conteúdo inadequado em larga escala. Reconhece conteúdo proibido antes que seja denunciado por um usuário ou passe por um editor. Até 2014 o conteúdo que violava suas políticas podia serencontrando apenas através palavras-chave específicas no texto dos posts. Agora, além de reconhecer o conteúdo textual proibido com mais eficácia; o algoritmo foi aprimorado e já reconhece informações numa imagem, vídeo ou áudio. Desse modo, é provado que o sistema de IA tem capacidade de entender conteúdos muito mais complexos que antigamente.

Contudo, embora o sistema esteja cada vez mais desenvolvido, detectando e removendo conteúdo de nudez, spam, e imagens de violência explícita cada vez com mais eficiência. seu algoritmo ainda não consegue detectar sutilezas em conteúdos de natureza mais subjetiva. Como por exemplo: o discurso de ódio, assédio moral, vídeos de violência não tão evidente, etc. Embora ainda seja necessária a intervenção de um ser humano para resolver questões mais subjetivas que requerem julgamento consciente.

 

Inteligência Artificial Não Substituirá Humanos

O objetivo de treinar algoritmos de IA para reconhecimento de conteúdo proibido não é tornar o processo de analise do Facebook livre de intervenções humanas nem entender o material em suas plataformas uma parte menos importante ou suspender a necessidade de um olhar especializado. Ao invés disto, a rede social busca formas de pré-filtragem com o fim de viabilizar a revisão dos conteúdos quanto às suas políticas, de maneiras que seriam impossíveis apenas com a moderação de um ser humano, devido ao volume de postagens por segundo.

Os avanços mais recentes na IA do Facebook e suas técnicas permitirão que o software lide com mais eficiência e cada vez mais automatizado. Porém Schroepfer toma cuidado para não exagerar na promessa da AI como solução universal para problemas de moderação de conteúdo. O CTO diz: “Eu não prevejo um futuro em breve, onde não precisamos de pessoas envolvidas no ciclo.  Essas são questões fundamentais para as pessoas, e decidir o que é discurso de ódio e qual é a desinformação é um esforço humano”. Como resultado, a IA pode ajudar a lidar cada vez mais com o trabalho penoso de moderação e facilitar o trabalho dos moderadores.

 

Fontes:

https://www.fastcompany.com/90342175/facebooks-cto-ai-is-already-screening-out-bad-stuff-with-more-to-come

https://g1.globo.com/economia/tecnologia/noticia/2019/05/01/facebook-mostra-avancos-da-inteligencia-artificial-que-remove-conteudo-nocivo.ghtml

 

 

Author

Luiz Passos - Facebook Campaign Manager

Leave a comment

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *