Hasta hace poco los publicistas en Facebook podían dirigirse a la categoría de ‘odio a los judíos’. Lo mismo ocurría con otras categorías antisemitas, tales como: ‘cómo quemar judíos’ y ‘historia de cómo los judíos destruyen el mundo’.
ProPublica, un equipo de investigación ganador del premio Pulitzer con base en Nueva York, ya en el pasado había descubierto categorías de publicidades dirigidas a grupos racistas en las plataformas de los medios sociales.
Las categorías de anuncios de Facebook se generan automáticamente con base a dos factores: lo que los usuarios escriben explícitamente en Facebook y lo que ellos parecen creer implícitamente con base a su actividad en línea. Al colocar mensajes sobre judíos u otros temas, o al leer los mensajes de otros, los usuarios permiten que los algoritmos de Facebook estimen qué anuncios pueden interesarles recibir.
ProPublica escribió ‘odio a los judíos’ en el sistema automático de anuncios de Facebook y la búsqueda dio como resultado 2 274 usuarios. Era demasiado poco para que Facebook permitiera un aviso destinado a ese grupo. En un giro alarmante, el sistema automático sugirió otras búsquedas relacionadas de antisemitas y entusiastas de las armas, reflejando una aparente superposición entre los dos grupos. Eso llevaba los resultados de la búsqueda de ProPublica a 119 000 usuarios. Al unir el odio a los judíos con el interés en el partido neonazi nacional democrático de Alemania, el resultado fue 194 600 usuarios.
En una semana, Facebook envió un informe generado automáticamente sobre los avisos: ellos llegaron a 5 897 personas, generaron 101 clics y fueron marcados como ‘me gusta’ o ‘compartido’ trece veces en el sitio web. Luego del experimento, ProPublica se puso en contacto con Facebook y les contaron los resultados de sus búsquedas antisemitas. Rápidamente Facebook quitó la mayoría de las categorías de anuncios antisemitas que ProPublica había encontrado, y Rob Leathern, el director de gestión de proyectos de Facebook prometió: “Sabemos que tenemos más trabajo por hacer, por lo que estamos construyendo nuevas vallas en nuestro producto y revisamos el proceso para evitar que otras cosas similares vuelvan a ocurrir en el futuro”.