Un programa de computadoras capaz de entender discursos y memes racistas es la nueva herramienta de Facebook para detener publicaciones que promueven el odio.
California, Estados Unidos .- Poco después del triunfo de Donald Trump, en las elecciones presidenciales de Estados Unidos, activistas sociales han alertado del papel que jugo Facebook durante esas votaciones señalándolo por no actuar en contra de los mensajes de odio y noticias falsas que se propagaron entre sus usuarios.
Por ello la empresa creada por Mark Zuckerberg ha realizado varios cambios en sus políticas internas acerca de noticias falsas, ademas de buscar implementar más personal para detectar cuando un usuarios este haciendo un uso inadecuado de la red social. Y ahora presentó a “Rosetta” una inteligencia artificial que es capaz de analizar y comprender videos e imágenes para buscar mensajes de odio en ellos.
La tecnología es similar a la utilizada para detectar fotografías de desnudos, las cuales están prohibidas en Facebook, con la salvedad de que su capacidad para escanear es de más de mil millones de imágenes y cuadros de video en tiempo real, usando el método llamado Reconocimiento Óptico de Caracteres.
También te puede interesar : ¿Es posible burlar el algoritmo de Facebook escribiendo “Hola” al inicio de una publicación?
La compañía explicó que “Rosetta” utiliza machine learning, o la capacidad de un programa para aprender nuevos funciones sin la intervención de un ser humano, para identificar tanto texto como imágenes y vídeos, aunque con algunas limitantes, una vez que detecta la publicación infractora la transcribe a texto y el resumen es enviado al equipo de moderación de la red social.
El sistema tiene marcadas algunas palabras especificas que sirve para emitir una alerta ante un posible mensaje ofensivo, propaganda o discursos de odio. Ante esto, la imagen es eliminada directamente y un humano es quien decide si se mantiene así o se vuelve a publicar. Según Facebook, la extracción de texto e imágenes se utiliza para “identificar automáticamente el contenido que infringe nuestra política de odio y lenguaje”.
Con esta nueva inteligencia artificial la plataforma de comunicación asegura que serán capaces de moderar el contenido dañino de una forma más eficiente y con una respuesta más rápida.
Con información de CNET.