TikTok a privé 15 millions d’Américains d’une mise à jour clé, un ado de 16 ans en est mort

TikTok a privé 15 millions d'Américains d'une mise à jour de sécurité en 2022. Un ado de 16 ans est mort après avoir reçu des milliers de vidéos toxiques.

Un adolescent de 16 ans est mort en février 2022, après avoir été exposé pendant deux semaines à des milliers de vidéos liées à la souffrance mentale sur TikTok. Un document interne, révélé par Bloomberg en août 2024, établit un lien direct entre ce drame et une décision délibérée de la plateforme : priver une partie de ses utilisateurs d’une mise à jour conçue pour protéger leur santé mentale.

Quand TikTok choisit d’exclure 15 millions d’utilisateurs d’une protection

Au début de l’année 2022, la plateforme a volontairement écarté 10 % de ses utilisateurs américains, soit environ 15 millions de personnes, d’une mise à jour de son algorithme de recommandation. Cette modification avait pour but de réduire les risques d’addiction et de dépression chez les utilisateurs. Pourtant, TikTok a fait le choix de ne pas la déployer pour ce groupe, afin de mesurer l’impact d’un tel changement sur la popularité de l’application.

Ce type d’expérimentation, courant dans le secteur technologique, consiste à comparer le comportement de deux groupes d’utilisateurs : ceux qui bénéficient d’une nouvelle fonctionnalité et ceux qui en sont privés. Ici, l’enjeu n’était pas anodin, car la mise à jour visait directement à limiter les contenus susceptibles de nuire à l’équilibre psychologique des jeunes. En maintenant un groupe sans cette protection, la plateforme a donc exposé des millions de personnes à un algorithme qu’elle savait potentiellement nocif.

Un algorithme qui a noyé un adolescent de Long Island sous des contenus toxiques

L’adolescent originaire de Long Island, aux États-Unis, faisait partie des utilisateurs privés de cette mise à jour. Une analyse rétrospective de son compte a révélé des chiffres saisissants : 73 % des 7 563 vidéos que l’algorithme lui avait suggérées dans les deux semaines précédant sa mort traitaient de souffrance mentale et de mal-être. De plus, 10 % de ces contenus enfreignaient directement les règles de la plateforme relatives à l’incitation au suicide. Parmi ces vidéos non conformes, certaines donnaient des conseils pour se suicider ou se scarifier.

Ces données montrent concrètement comment l’algorithme peut enfermer un utilisateur dans une spirale de contenus négatifs. Car plus un utilisateur interagit avec un type de vidéo, plus la plateforme lui en propose de similaires. Pour un adolescent fragile, ce mécanisme peut devenir particulièrement dangereux, surtout lorsque les garde-fous prévus pour limiter ce phénomène ont été délibérément désactivés.

• Période des faits : février 2022, soit le moment où la mise à jour de sécurité n’avait pas encore été déployée pour ce groupe.
• Proportion de contenus liés au mal-être : 73 % des vidéos suggérées à l’adolescent dans les deux semaines avant sa mort.
• Contenus contraires aux règles de TikTok : 10 % des vidéos recommandées incitaient au suicide ou à l’automutilation.
• Nombre total de vidéos analysées : 7 563 suggestions examinées lors de l’analyse rétrospective du compte.
• Utilisateurs privés de la mise à jour : environ 15 millions d’Américains, soit 10 % des utilisateurs américains de la plateforme.

Des révélations qui relancent la pression sur les réseaux sociaux

La divulgation de ce document confidentiel prend une résonance particulière au regard du contexte judiciaire. La famille de l’adolescent avait en effet porté plainte, mais l’affaire avait été classée, selon BFM TV. La note interne, rédigée en août 2024, n’avait donc pas été rendue publique lors de cette procédure.

Par ailleurs, Shou Chew, le PDG de TikTok, n’a jamais mentionné ces expérimentations lors de son audition devant le Congrès américain, alors même que les élus l’interrogeaient précisément sur les effets de la plateforme sur la santé mentale des jeunes. Cette omission, désormais mise en lumière, soulève des questions sur la transparence de l’entreprise vis-à-vis des institutions.

Facebook condamné, TikTok sous pression : les géants du numérique face à leurs responsabilités

Ce document interne émerge dans un contexte où les plateformes numériques font face à une pression judiciaire croissante. Facebook vient ainsi d’être condamné dans le Nouveau-Mexique à une amende de près d’un milliard d’euros pour préjudice causé à des mineurs. Cette décision illustre une tendance de fond : les tribunaux commencent à tenir les réseaux sociaux pour responsables des dommages subis par leurs jeunes utilisateurs.

Pour TikTok, la révélation de ce document interne par Bloomberg rouvre un dossier que la justice américaine avait clos. Elle montre aussi que la plateforme disposait d’outils pour réduire les risques, qu’elle avait choisi de ne pas activer pour une partie de ses utilisateurs. La question de savoir si d’autres adolescents ont été exposés à des conditions similaires reste entière, car le groupe privé de la mise à jour comptait des millions de personnes.

Christophe Cohen

Passionné par le SEO et l'écriture, cela fait maintenant 15 ans que j'écris pour plusieurs sites internet d'information. J'adore le foot, l'OM, la mauresque, le soleil et je déteste la pluie, les crabes et les méduses.