Le chiropraticien radical Facebook a interdit puis étudié.

Le 28 septembre 2006, un jeune chiropraticien, alors âgé d’environ 30 ans, s’est inscrit sur Facebook, où il a publié des articles sur les vacances et les sports tout en faisant la promotion de sa clinique privée. Quatorze ans plus tard, le 19 novembre 2020, il a été expulsé de la plate-forme après avoir diffusé en direct les élections américaines et les complots de QAnon à ses près de 40 000 abonnés.

Les employés de Facebook ont ​​estimé que la trajectoire de cet utilisateur anonyme méritait d’être analysée. Les récentes divulgations faites à la Securities and Exchange Commission et fournies au Congrès sous forme rédigée par le conseiller juridique de la dénonciatrice Frances Haugen montrent que l’équipe d’intégrité centrale de Facebook a rassemblé des journaux détaillés de l’activité de deux utilisateurs populaires de Facebook sur 14 ans, dans le cadre d’une étude sur la désinformation à travers la plateforme. Ce qui a rendu ces deux utilisateurs remarquables, c’est leur transformation au fil du temps, passant des premiers utilisateurs de Facebook à de véritables théoriciens du complot. Les versions expurgées reçues par le Congrès ont été examinées par un consortium d’agences de presse, dont Slate.

Les « cartes de parcours de l’utilisateur » du chiropraticien et d’une autre personne, un décorateur du Sud avec un penchant religieux, faisaient partie d’une présentation interne intitulée « Théories du complot nuisible : définitions, caractéristiques, personnalités », qui n’est pas datée mais comprend des événements de 2021. Ces cartes montrent, à travers une chronologie des principaux résultats de Facebook, non seulement comment les deux utilisateurs ont pénétré profondément dans les théories du complot marginales, mais aussi comment ils sont eux-mêmes devenus d’énormes vecteurs de désinformation, maîtrisant l’architecture de Facebook afin de diffuser des mensonges à grande échelle.

Pour ses six premières années sur Facebook, l’activité du chiropraticien est apparue relativement anodine. Les choses ont commencé à basculer en 2012, lorsqu’il a publié un statut faisant un clin d’œil aux conspirations du 11 septembre. Au cours des cinq années suivantes, comme l’a détaillé l’étude de l’équipe Integrity, ses « articles liés à la nutrition/santé » autrefois anodins côtoyaient des chapes « anti-vax » et « anti-big pharma » et ont même discuté des ovnis. En août 2017, le chiropraticien a commencé à diffuser en direct ses réflexions sur ces sujets, parfois avec « d’autres professionnels de la santé » en tant qu’invités. En 2018, il a commencé à invoquer la prétendue drogue de masse des enfants américains, une théorie du complot dont les croyants QAnon ont fait écho. Une fois la pandémie commencée, en plus de diffuser du contenu QAnon, il a partagé les mensonges de COVID dans ses diffusions en direct ainsi que via un groupe Facebook de 8 500 membres et un compte publicitaire, qu’il a tous deux créés. À ce moment-là, le chiropraticien vendait également des t-shirts avec la phrase #SaveTheChildren, qui est populaire auprès des croyants QAnon.

Le chiropraticien lui a offert une plus grande plate-forme pour la distribution de médicaments indésirables qu’il a concoctés, qu’il a commercialisés en utilisant le langage de ses nouveaux amis : mention de sa fille lorsqu’il a discuté des échecs présumés de la médecine moderne, en utilisant les symboles du drapeau américain et des publicités de patriotisme pour ses « traitements » et en introduisant un traitement « parasite » avec la phrase « Drain the body’s swamp ! » En novembre 2020, le chiropraticien était un négateur électoral intransigeant, publiant des propos sur le « boulochage rouge » de son paysagiste de 60 ans et lui demandant d’écouter Sidney Powell, l’avocat impliqué dans les efforts visant à renverser les élections au nom de Donald. Atout. Le 16 novembre, il a fait un livestream, qui a recueilli environ un million de vues, pour préparer ses partisans à la possibilité que « l’État profond » « vole » la présidence à Trump. Trois jours plus tard, il était définitivement banni de Facebook.

L’autre utilisateur a eu une trajectoire similaire. Elle a créé son compte Facebook en novembre 2007, à l’âge de 53 ans, et a passé les huit années suivantes à écrire « des messages bénins principalement sur la famille, les amis et la religion », comme l’ont décrit les chercheurs de Facebook. (L’un de ces messages disait en partie « J’ai le fardeau pour tous de connaître le doux Jésus. ») À la fin de 2015, elle avait lancé une entreprise de décoration intérieure et avait également commencé à écrire un « quelques anti-gauche et anti -Postes islamiques », selon l’équipe d’Intégrité. À partir de 2016, elle partageait des liens YouTube sur la «fin des temps» et s’alignait sur l’alt-right. Juillet 2019 a été son point de basculement vers un complot à part entière : elle a commencé à rechercher des groupes de « pilules rouges » sur le site et à publier des statuts qui demandaient à ses abonnés s’ils pensaient que l’alunissage était réel et s’ils étaient « d’autres abonnés ‘Q’ ». À partir de mars 2020, elle utilisait son entreprise de décoration intérieure pour promouvoir les théories QAnon et inviter ses amis à des rencontres dans son entreprise, tout en créant deux groupes FB sur le thème Q. Chacun a amassé des milliers de membres; la décoratrice a envoyé un message à des centaines d’utilisateurs qu’elle ne connaissait pas afin de les recruter pour la cause, tout en donnant aux membres de son groupe des conseils sur la façon de convertir leur famille et leurs amis. En octobre 2020, Facebook avait banni son compte.

Le contenu de chaque utilisateur appartient à une catégorie que les chercheurs de Facebook ont ​​qualifiée de « théories du complot nuisibles » ou HCT. Ce sont des croyances extrémistes qui peuvent entraîner des dommages dans le monde réel – par exemple, les sentiments anti-vaccins peuvent entraîner des résurgences de maladies mortelles, et la vaste théorie du complot pro-Trump QAnon a conduit à la violence physique. La présentation de Facebook présente des statuts personnels anonymisés, des publications de groupe, des graphiques, des comptes de marionnettes à chaussettes, des mesures d’engagement et les modèles de comportement des membres des réseaux de conspiration. Il recommande également des actions pour limiter la portée de ces utilisateurs sur Facebook, y compris le ciblage et l’arrêt précoce de la propagation des publications HCT ou adjacentes à HCT ; mettre en place des systèmes de grève avant suppression pour les groupes Facebook HCT et les utilisateurs qui écrivent du contenu HCT original ; réduire la visibilité de ces groupes et des personnes qui les créent ; et en limitant le nombre de demandes d’amis, d’invitations de groupe et de messages que des comploteurs malveillants peuvent envoyer à d’autres utilisateurs en même temps.

Le diaporama est révélateur d’une autre manière : c’est un autre aperçu de la quantité de données que Facebook possède sur ses utilisateurs. La mine d’informations que l’équipe d’intégrité de Facebook a collectée et présentée sur le chiropraticien, en particulier, est stupéfiante : les chercheurs ont mis en évidence ses statuts, ses annonces et ses groupes ainsi que ses publications privées au sein de ces groupes, ainsi que des mesures d’engagement pour tout cela, sur 14 – durée de l’année. Ils ont également pu suivre la proportion de son contenu consistant en des rediffusions, le nombre de groupes dont il faisait partie (y compris ceux qui ont finalement été désactivés) et le nombre de groupes interdits. et adeptes actifs qu’il avait. Ils pourraient suivre les dates de création et le nombre de publications des groupes auto-administrés du chiropraticien et des réseaux publicitaires, y compris le montant d’argent dépensé pour certaines publicités. Et ils ont pu déterminer les tournants de sa trajectoire d’utilisateur quotidien à conspirationniste actif, ainsi que les moments où il a commencé à se diversifier sous différentes formes médiatiques. Ces points incluent son premier livestream lié à la santé en août 2017, la création de sa marque « santé » en octobre 2018 pour vendre ses médecines alternatives faites maison, sa déclaration selon laquelle il était « all in » sur Q en mars 2020, et sa création de des groupes Facebook du même nom et des comptes publicitaires utilisés pour promouvoir sa science du charlatan cet été-là. Une grande partie de ces informations étaient techniquement publiques, mais il serait difficile pour des chercheurs tiers, même chevronnés, de dresser un portrait aussi complet.

En utilisant ces données, Integrity a qualifié cet homme de “producteur HCT”, c’est-à-dire quelqu’un avec un nombre élevé d’abonnés qui distribue des messages remplis de désinformation auto-écrite à un rythme rapide, supervise plusieurs groupes qui inculquent ces idées et prétend avoir des connaissances secrètes qui la population générale ne le fait pas. La présentation a recommandé que Facebook prenne des mesures contre les producteurs de HCT en imposant une politique de grève à suspension, en interdisant à ces utilisateurs de créer plusieurs identités en ligne ou de diffuser en continu pendant une suspension (et en supprimant d’autres comptes si nécessaire), et en surveillant de plus près leurs comptes publicitaires. , le cas échéant. Ces recommandations étaient censées fonctionner de concert avec la stratégie plus large susmentionnée visant à stopper la propagation des complots nuisibles. Lorsque j’ai demandé à Facebook s’il avait mis en œuvre l’une des recommandations politiques spécifiques décrites dans les diapositives, le porte-parole de Meta, Joe Osborne, a fourni cette déclaration :

Nous investissons dans la recherche pour nous aider à découvrir les lacunes de nos systèmes et à identifier les problèmes à résoudre. Nos politiques contre les réseaux de conspiration induisant la violence tels que QAnon sont éclairées par les recherches que nous effectuons et sont conçues pour cibler la manière dont les adhérents au réseau de conspiration peuvent s’organiser sur la plate-forme. Nous supprimons les pages, les groupes et les comptes Instagram qui représentent des organisations comme celle-ci et interdisons également les publicités qui louent, soutiennent ou représentent QAnon de s’exécuter sur notre plate-forme. Depuis août 2020, nous avons supprimé environ 3 900 pages, 11 300 groupes, 640 événements, 50 300 profils Facebook et 32 ​​500 comptes Instagram pour violation de notre politique contre QAnon. Nous fournissons également aux personnes qui recherchent des termes liés à QAnon des ressources et des informations crédibles.

Facebook, évidemment, n’est pas le seul responsable du genre de laideur que le chiropraticien et le décorateur ont répandu sur la plateforme. Mais il ressort clairement de la présentation que l’entreprise est consciente qu’à mesure que ces utilisateurs sont devenus plus extrêmes, ils ont construit un public plus large, dans plus de supports et de formats, et ont utilisé ces outils avec une sophistication croissante à la fois pour gagner de l’argent et diffuser des idées haineuses et de la désinformation. . Et dans ces cas, ils n’ont obtenu des interdictions que lorsque Facebook faisait l’objet d’un examen minutieux pour sa gestion des acteurs marginaux tentant de répandre des mensonges à la veille d’une élection présidentielle.

Quoi devrait Facebook contre les théories du complot nuisibles ? Les recommandations des chercheurs pour endiguer ce problème se concentrent sur la fermeture des « lacunes exploitées par les acteurs HCT », telles que la possibilité de créer des comptes de marionnettes à chaussettes et des sauvegardes en cas de suppression et la possibilité d’envoyer des messages de masse à des utilisateurs aléatoires et de les inviter à des discussions sur le thème HCT. groupes. Les auteurs ont poussé à « consacrer des ressources politiques supplémentaires aux complots suffisamment préjudiciables pour justifier nos applications les plus strictes ». Dans le même temps, ils ont admis que les préjudices que les HCT peuvent infliger – parallèlement aux « actes de violence physique dans le monde réel » – comprennent « une dépense excessive de ressources FB » et « un risque injustifié pour la réputation ». À ce stade, il est difficile de considérer que de telles choses nuisent à Facebook, qui permet à des personnalités comme le chiropraticien de prospérer en premier lieu. Les « automutilations » pourraient être plus appropriées.

Future Tense est un partenariat de Slate,
Nouvelle Amérique, et
Université de l’État d’Arizona
qui examine les technologies émergentes, les politiques publiques et la société.