La guerre de la toile : la menace des trolls

Robin Mouquet

23 ans - IMT LILLE DOUAI – IAE DE LILLE
Prix spécial du jury décerné par Orange

Robin Mouquet

La BAC1 vient d’enfoncer la porte de votre appartement, vous vous retrouvez menotté, en joug, et on vous annonce votre arrestation pour le meurtre de votre conjoint et vos enfants. Pourtant vous veniez de recevoir un texto de votre moitié qui vous demandait de ramener du pain et jouiez paisiblement à la console. Vous venez d’être victime d’un swatting2 parfaitement orchestré par un troll, comme le fut Enora Malagré en mars 2015.

Troll qui es-tu ?

Le troll est aussi vieux qu’Internet.
Si sa définition diffère selon les sources3, elle s’accorde sur un internaute à l’origine de contenus ou d’actions visant à semer le trouble sur des forums ou réseaux sociaux par plaisir, sous-couvert de la liberté d’expression et du sens de l’humour.
Si un individu lance par exemple un débat sur le fait de savoir si la PS4 est meilleure que la Xbox One, il s’agit d’un troll des plus classique. Le débat s’enflammera et n’aura aucun intérêt tant il est subjectif, nourrissant la seule envie du troll : l’attention de la communauté apportée par un buzz stérile.
On le distingue néanmoins des haters4 et des rageux5, qui ont eux aussi une attitude nuisible au net mais ont des intentions différentes.

Schéma Robin Mouquet

L'internet idéal en danger

Ces trolls nuisent tout autant à la qualité et à la liberté des contenus qu’à la confiance qu’on leur accorde.
Brandissant la liberté d’expression pour lancer des débats houleux ou des commentaires violents, ils modifient pourtant les comportements numériques, et favorisent l’autocensure. Dans une enquête menée dans la rédaction du Time, 80% des journalistes avouaient « éviter spontanément certains sujets en ligne » et 50% des femmes ont « envisagé quitter leur métier face au harcèlement ».

La méfiance vis à vis du web est grande et les trolls l’accentuent.
Leurs pratiques engendrent des contenus inutiles, comme les lolcats6 et autres memes7, ou faux, comme certaines pages Wikipédia8, relayés massivement sur les réseaux sociaux.
Ce contenu puéril massif devient, malheureusement, l’apriori uniforme d’une partie du grand public vis-à-vis des contenus du net alors qu’il était à l’origine un espace de partage de connaissances libres entre universitaires proposant du contenu poussé. Reste à trouver un équilibre entre un internet libre laissant les trolls agir, et un réseau complétement éditorialisé mais structuré.

Le côté obscur du troll

Aujourd’hui, la majorité des trolls se contentent de l’attention qu’on leur donne quand ils sabotent inter-net, néanmoins le comportement de certains est devenu une menace directe pour tous.

L’avènement de sites comme 4chan9 et l’utilisation croissante du Deep-Web10 ont fait naitre des réseaux de trolls dont l’activité dépasse largement le cadre légal.
Certains trolls se sont pris de passion pour le harcèlement, via Twitter notamment envers des célébrités de minorités ethniques ou religieuses.

Si les réseaux sociaux travaillent sur le signalement de ces comportements, ceux-ci restent à la fois fréquents et néfastes. D’autres trolls s’orientent vers le doxing11, visant à divulguer des listes d’informations personnelles, la commande massive de pizzas avec une fausse identité12, ou le swatting que vous connaissez maintenant.

En 2015, plusieurs dizaines de cas de swatting ont été recensés en France, pourtant ces pratiques sont encore méconnues du grand public. Si ces pratiques sont alarmantes, elles pourraient encore s’intensifier par l’utilisation de l’I.A13, permettant de créer des commu-nautés virtuelles, ou de failles de sécurité liées à l’IoT14

« Don't feed the troll »

Il existe tout de même plusieurs manières de lutter contre les trolls, et la première repose sur ce fameux adage.
En effet, en ignorant le troll, sans répondre à ses provocations, on évite tout débordement.
Il y a donc un travail d’éducation spécifique aux trolls et à la culture d’internet à entreprendre, au-delà de la prévention contre le piratage.

Mieux appréhender cette culture permettra à la fois d’éviter les pièges des trolls et d’utiliser internet à son potentiel maximal.  
Avec plus d’expérience, il est aussi possible de « troller » un troll pour le ridiculiser et ainsi le faire cesser.

Sur ce principe, Linus Neumann, véritable maître-troll, a développé un algorithme capable de détecter un contenu troll par rapport à son niveau de langage, les insultes, les sujets abordés…  
Si le troll est détecté, l’auteur du message doit remplir un captcha15 de manière infinie et se pense incapable de le résoudre.

Le troll pour ramener l'équilibre dans l'internet

La lutte contre les comportements nuisibles des trolls peut s’engager, mais il est même envisageable de les utiliser à bon escient.
Un rapport de l’OTAN pointe notamment l’utilité des trolls comme outil de guerre pour démotiver les populations en répandant de fausses informations, comme ce fut le cas lors de l’intervention de la Russie en Ukraine.

Les communautés trolls peuvent aussi être de très bons testeurs. Lors du lancement sur Twitter de Tay16 par Microsoft, l’I.A avait atteint le point Godwin très rapidement, sous la pression trolls.
Les tests réalisés sur l’I.A n’avaient pas anticipé ce scénario mais cette expérience ratée a sans doute été riche en enseignements pour les développeurs. Enfin, certains trolls ont le mérite d’être réellement drôles et amusants.

Quelques posts sarcastiques ou pranks17 bien placés, dont nous sommes tous capables, contribuent à un climat convivial et peuvent discréditer des publications xénophobes ou sexistes en les tournant au ridicule.
Le succès d’internet est grandement dû à son coté divertissant lié aux jeux, blogs ou chaines YouTube qu’il a fait naitre.
Les trolls font partie intégrante de ce divertissement et il semble alors dommageable et autoritaire de vouloir les éradiquer totalement.

En les comprenant, en les intégrant et en limitant leurs aspects néfastes, ils aideront à faire du net un espace encore plus propice à l’échange de connaissances et au rapprochement des humains.

Notes

1 BAC : Brigade anti-criminalité

2 Swatting : Canular téléphonique anonyme vers les autorités pour faire croire au besoin d'une intervention d’urgence chez un particulier auquel on veut nuire. Ce phénomène venu des États-Unis tire son nom du service de police SWAT. En France les équivalents sont le GIGN et le GIPN. Le swatting est apparu dans des communautés de joueurs en ligne, où il a été utilisé comme moyen de vengeance. Le principe est de réunir suffisamment d'informations personnelles sur un adversaire pour convaincre la police d'intervenir de façon musclée chez ce dernier. Il est alors possible d'assister en direct à l'opération puisque de nombreux joueurs se filment en jouant

3 La définition repose sur plusieurs sources dont l’Encyclopédie de la Web-Culture, le blog du Figaro « Suivez le Geek », ainsi que l’article du Time Magazine « Why we’re losing the internet to the culture of hate ». Elle est le résultat d’une prise de position personnelle vis-à-vis des autres définitions et peut donc être tout à fait être discuté.

4 Haters : terme anglais signifiant « haineux ». Ce terme désigne un groupe de personnes qui passe son temps à dénigrer des célébrités, des émissions de télévisions, des films ou éventuellement des Youtubers par simple haine.

5 Rageux : Ce terme désigne un groupe de personne ayant à peu près le même comportement que celui des haters mais celui-ci est motivé par une certaine jalousie.

6 Lolcat : image de chat sur laquelle est superposé un texte humoristique en mauvais anglais. Leur origine est attribuée au réseaux trolls de 4chan

7 Meme : Anglicisme (venant d’« Internet meme ») utilisé pour décrire un élément ou un phénomène repris et décliné en masse sur internet. Ainsi NyanCat, TrollFace ou encore les Ricksrolls peuvent être considéré comme des memes.

8 Les pages Wikipédia sont souvent victimes de plaisanterie. On peut penser par exemple à la page de Prisunic. Après une déclaration d’Alain Jupé en 2016 concernant l’utilisation de ces magasins pourtant fermé depuis 10 ans, une note concernant l’histoire du magasin indiquait « Alain Jupé continue d’y faire régulièrement ses courses »

9 4chan : Forum anonyme anglophone, constitué d'un réseau d’imageboards, qui a pris modèle sur les populaires sites japonais 2channel (créé en 1999 par Hiroyuki Nishimura) et Futaba Channel. Décrit par Le Monde comme « le trublion du Web », « particulièrement controversé » par son fonctionnement qui ne connaît pas la modération d'informations, Libération y voit un site « qui voit se côtoyer le pire (racisme, homophobie, sexisme) et le moins pire (mème internet, Anonymous) » – ces derniers étant d'ailleurs nés sur le site.

10 Deep-Web : Le web profond, désigne la partie de la toile accessible en ligne, mais non indexée par les moteurs de recherche classiques généralistes. Cette terminologie oppose « web profond » à web surfacique. Le deep web représenterait 96 % de l'intégralité du web alors que le web accessible par tous ne représenterait que 4% du contenu

11 Doxing : néologisme d'Internet qui désigne le fait de révéler les informations personnelles d'une personne. Les informations de départ peuvent être un pseudonyme, une photographie, une vidéo, etc. Les informations révélées peuvent être l'identité, l'adresse, le numéro de sécurité sociale, le numéro de compte bancaire, etc. Le terme doxing vient du mot anglais to document qui signifie « documenter ».

12 Référence à une farce relativement populaire aux Etats unis. Après avoir récupéré assez d’informations sur une personne, des trolls lui font livrer des pizzas à son domicile. L’individu se voit alors dans l’obligation de payer ces pizzas commandées à son insu.

13 IA : Intelligence Artificielle

14 IOT : De l’anglais « Internet of things », internet des objets.

15 Captcha : Marque commerciale désignant une famille de tests de Turing permettant de différencier de manière automatisée un utilisateur humain d'un ordinateur. Le plus souvent il consiste à reconnaitre une série de lettre.

16 Tay : Intelligence artificielle et agent conversationnel lancé le 23 mars 2016 par Microsoft sur la plateforme Twitter. Le bot a été créé par des équipes du Microsoft Technology and Research et de Bing. En une journée et plus de 96 000 tweets envoyés, Microsoft suspend temporairement le compte Twitter de Tay pour des « ajustements », à la suite d'un « effort coordonné de plusieurs utilisateurs pour abuser des compétences à commenter de Tay dans le but que Tay réponde de manière inappropriée »

17 Prank : Terme utilisé sur internet pour désigner une farce ou plaisanterie

Sources

• Why we’re losing the internet to the culture of hate - Joel Stein - Time Magazine- Âout 2016
• Les trolls - Blog « Suivez le geek » du Figaro – Laurent Suply – Janvier 2008
• Les trolls d’Internet - Absol Vidéos – Novembre 2016
• Internet Trolling as a hybrid warfare tool: the case of Latvia - O.T.A.N – 2015
• Encyclopédie de la web culture-Titiou Lecocq et Diane Lisarelli- Robert Laffont- 2011