Un nuevo estudio ha descubierto que las sugerencias de búsqueda de TikTok contenían idioma tóxico en torno a las mujeres y las minorías en Finlandia.
La yerro de moderación de TikTok provocó que apareciera un idioma cosificador y sexista en las sugerencias de búsqueda de políticas femeninas y difundiera información casi exclusivamente negativa sobre ciertos políticos, tanto hombres como mujeres.
Estos son recomendaciones de la empresa finlandesa de metodologías CheckFirst y el servicio de demostración de datos Faktabaari, como parte de su plan CrossOver.
Por ejemplo, entre las sugerencias para la ex primera ministra Sanna Marin se incluía “el vídeo de masturbación de Sanna Marin”.
Entre las sugerencias para Eva Biaudet, diputada del Partido Popular Sueco de Finlandia, de centroderecha, se encontraba: “Eva y Kristian tienen sexo en la sauna”.
Las sugerencias de búsqueda están parcialmente influenciadas por las búsquedas realizadas por otros usuarios, lo que significa que pueden perpetuar inadvertidamente estereotipos y afirmaciones falsas.
Algunas de estas sugerencias no eran aleatorias, sino que estaban relacionadas con búsquedas realizadas y vídeos producidos sobre los individuos, según el mensaje, y muchas de ellas eran negativas o problemáticas.
Las sugerencias de búsqueda eran a menudo acusatorias o críticas en torno a los políticos, como “tránsfuga” para Mauri Peltokangas, diputado del ultraderechista Partido Finlandeses, y “secuestro de niños” para Pekka Haavisto, diputado de la centroizquierdista Lazo Verde.
Todo esto potencialmente crea un sesgo en cómo el notorio los percibe y es particularmente peligroso antiguamente de una disyuntiva, como fue el caso del contenido en finlandés en el período previo a las elecciones europeas.
De modo más común, los resultados de búsqueda de TikTok contenían idioma dañino contra grupos marginados, incluidas las mujeres, los judíos y la comunidad LGBT, según el mensaje.
Las sugerencias para “mujeres” incluyeron “a la cocina” y “cierra la boca”, mientras que otras frases de autocompletar propuestas fueron “los romaníes roban” y “los refugiados fuera”.
Estas sugerencias empeoran el discurso de odio, afirma el mensaje, y agrega que TikTok no está haciendo lo suficiente para contrarrestar la intolerancia en su plataforma.
Además hubo sugerencias controvertidas vinculadas al COVID-19.
Los “daños de las vacunas” y el “miedo a las vacunas” fueron dos ejemplos, y si acertadamente generalmente dieron oportunidad a videos de expertos que desacreditaban los temores relacionados con las vacunas, el contenido que analizaba los supuestos peligros de las vacunas aún se coló en la red.
El mensaje señala que la presencia de estos videos sugiere que las medidas de TikTok contra la desinformación necesitan un examen más profundo y que la plataforma debería moderar sus sugerencias de búsqueda.
A medida que más y más personas obtienen informativo a través de las redes sociales, es fundamental que estas tengan medidas implementadas para combatir el discurso dañino y engañoso.
“Las recomendaciones se basan en parte en hashtags, e incluso los hashtags poco utilizados acaban convirtiéndose en sugerencias de búsqueda”, afirma Guillaume Kuster, cofundador de CheckFirst, en una explicación escrita. “Esto significa que es casquivana influir en los resultados de búsqueda automatizando vídeos con hashtags específicos”.
“TikTok igualmente debería explorar otras formas de dirigir a los usuarios a información electoral precisa, ya que etiquetar los videos como contenido electoral es claramente insuficiente, TikTok podría ofrecer a los usuarios información sobre las elecciones y recordatorios para sufragar, similar a otras plataformas (sic)”, agregó.
Un portavoz de TikTok le dijo a The Cube: “Dedicamos importantes bienes a proteger la integridad de nuestra plataforma durante las elecciones, lo que incluye conectar a nuestra comunidad con información confiable en nuestros centros electorales y eliminar búsquedas dañinas y otras violaciones de nuestras políticas”.
“Invertimos continuamente en mejorar y vigorizar nuestros procesos, incluso en los idiomas locales”, añadió el portavoz.