L'absence de modération sur TikTok a conduit à l'apparition d'un langage sexiste dans les suggestions de recherche pour les femmes politiques et à la diffusion d'informations presque exclusivement négatives sur certains hommes et femmes politiques.
Telles sont les conclusions de la société finlandaise de méthodologies CheckFirst et du service de vérification des faits Faktabaari, dans le cadre de leur projet CrossOver.
Par exemple, les suggestions concernant l'ancien Premier ministre Sanna Marin comprenaient "Sanna Marin masturbation video" (vidéo de masturbation de Sanna Marin).
Les suggestions concernant Eva Biaudet, députée du parti populaire suédois de droite en Finlande, comprenaient "Eva et Kristian font l'amour dans le sauna".
Les suggestions de recherche sont en partie influencées par les recherches effectuées par d'autres utilisateurs, ce qui signifie qu'elles peuvent involontairement perpétuer des stéréotypes et de fausses affirmations.
Selon le rapport, certaines de ces suggestions n'étaient pas aléatoires, mais liées aux recherches effectuées et aux vidéos produites sur les personnes concernées, et nombre d'entre elles étaient négatives ou problématiques.
Les suggestions de recherche étaient souvent accusatrices ou critiques à l'égard de politiciens, comme "renégat" pour Mauri Peltokangas, député du parti d'extrême droite Finns Party, et "enlèvement d'enfants" pour Pekka Haavisto, député de la Ligue verte de centre-gauche.
Tout cela a potentiellement créé un biais dans la façon dont le public les perçoit et est particulièrement dangereux à l'approche d'une élection, comme cela a été le cas avec le contenu en finnois à l'approche des élections européennes.
D'une manière plus générale, les résultats de recherche de TikTok contenaient des propos préjudiciables à l'encontre de groupes marginalisés, notamment les femmes, les juifs et la communauté LGBT, selon le rapport.
Les suggestions pour "femmes" comprenaient "dans la cuisine" et "ferme ta gueule", tandis que d'autres phrases de remplissage automatique proposées étaient "les Roms volent" et "les réfugiés dehors".
Ces suggestions aggravent les discours de haine, selon le rapport, qui ajoute que TikTok ne fait pas assez pour lutter contre le sectarisme sur sa plateforme.
Il y a également eu des suggestions controversées liées au COVID-19.
Bien qu'elles mènent généralement à des vidéos d'experts réfutant les craintes liées aux vaccins, les contenus discutant des dangers supposés des vaccins passent encore à travers les mailles du filet.
Le rapport indique que la présence de ces vidéos suggère que les mesures prises par TikTok pour lutter contre la désinformation doivent être examinées de plus près et que la plateforme devrait modérer ses suggestions de recherche.
Étant donné que de plus en plus de personnes s'informent sur les réseaux sociaux, il est essentiel qu'ils mettent en place des mesures pour lutter contre les discours nuisibles et trompeurs.
"Les recommandations sont en partie basées sur les hashtags, et même les hashtags rarement utilisés se retrouvent dans les suggestions de recherche",explique Guillaume Kuster, cofondateur de CheckFirst, dans une déclaration écrite. "Cela signifie que les résultats de recherche peuvent être facilement influencés par l'automatisation des vidéos avec des hashtags spécifiques."
"TikTok devrait également explorer d'autres moyens de diriger les utilisateurs vers des informations précises sur les élections, car l'étiquetage des vidéos en tant que contenu électoral est clairement insuffisant. TikTok pourrait offrir aux utilisateurs des informations sur les élections et des rappels pour voter, comme le font d'autres plateformes [sic]", a-t-il ajouté.
Un porte-parole de TikTok a déclaré au Cube : "Nous consacrons des ressources importantes à la protection de l'intégrité de notre plateforme pendant les élections, notamment en connectant notre communauté à des informations fiables, et en supprimant les recherches nuisibles et autres violations de nos politiques."
"Nous investissons continuellement dans l'amélioration et le renforcement de nos processus, y compris dans les langues locales", a ajouté le porte-parole.
