Les réseaux sociaux sont devenus le terrain de jeu favori de l’intelligence artificielle, et cette intégration massive transforme en profondeur notre expérience numérique quotidienne.
Les algorithmes dopés à l’IA apprennent nos comportements, anticipent nos désirs et nous maintiennent captifs de nos écrans, souvent au détriment de notre bien-être et de notre sécurité.
Si cette technologie promet des expériences personnalisées et une modération efficace, elle ouvre également la porte à des dérives inquiétantes.
Derrière l’écran lisse des applications se cache un système de manipulation massive qui échappe largement à notre contrôle collectif.
Des algorithmes conçus pour nous rendre accros, coûte que coûte
La mission première des algorithmes qui régissent nos fils d’actualité n’est pas de nous informer ou de nous divertir, mais de maximiser notre temps de connexion à tout prix.
Stuart Russell, professeur à l’université de Californie à Berkeley et pionnier dans le domaine de l’IA compatible avec l’existence humaine, alerte sur ce modèle qu’il juge dangereux pour la survie même de l’humanité.
Ces systèmes sont programmés pour optimiser un unique objectif, comme une machine aveugle qui ignore les dégâts collatéraux qu’elle provoque sur son passage.
Cette quête d’engagement sans limite a des conséquences dramatiques, car les réseaux sociaux créent des dépendances, alimentent la dépression et favorisent les dysfonctionnements sociaux en manipulant nos émotions pour nous rendre plus prévisibles.
Le chercheur utilise une métaphore parlante : demandez à un génie de faire de vous la personne la plus riche du monde, et il pourrait bien vous exaucer en faisant disparaître tous les autres humains.
De la même manière, les algorithmes atteignent leurs objectifs sans se soucier des dégâts humains qu’ils causent sur leur passage.
Frances Haugen, l’ancienne employée de Facebook devenue lanceuse d’alerte, a confirmé cette réalité devant le Congrès américain en déclarant que ces réseaux sociaux nuisent aux enfants, sèment la discorde et sapent la démocratie.
La désinformation amplifiée et industrialisée par l’IA générative
L’arrivée des IA génératives, capables de produire textes, images, audios ou vidéos en quelques secondes, a démultiplié la portée et la toxicité de la désinformation sur les réseaux sociaux.
Les deepfakes, ces hypertrucages visuels d’un réalisme troublant, rendent aujourd’hui la frontière entre le réel et la fiction presque imperceptible pour l’utilisateur non averti.
En Slovaquie, la veille des élections de 2023, une fausse conversation audio créée par IA entre un journaliste et un homme politique a circulé en ligne, prétendant montrer des manipulations électorales, et malgré les démentis rapides, la vidéo avait déjà influencé le débat public.
En Inde, lors des élections générales de 2024, des deepfakes de stars de Bollywood critiquant le Premier ministre ont été largement diffusés sur les réseaux sociaux, certaines vidéos ayant été vues plusieurs centaines de milliers de fois avant d’être identifiées comme manipulées.
Les bots automatisés diffusent ces contenus trompeurs à des millions de personnes avant que les corrections ou vérifications ne deviennent visibles, et les algorithmes amplifient ces fausses informations parce qu’elles suscitent des réactions émotionnelles fortes qui maintiennent les utilisateurs engagés plus longtemps.
La démocratie ne peut survivre qu’à condition d’une citoyenneté informée et critique, mais cette condition est aujourd’hui gravement compromise par ce flot incessant de contenus manipulés qui noient toute information sourcée et vérifiée.
Les dangers concrets pour les femmes : deepfakes pornographiques et harcèlement
L’IA générative a donné naissance à une nouvelle forme de violence numérique qui cible de manière disproportionnée les femmes et les filles.
Selon une analyse menée par Sensity AI, pas moins de quatre-vingt-seize pour cent des deepfakes en circulation sont de nature pornographique non consentie, ciblant principalement des femmes sans leur autorisation.
Ces montages, de plus en plus crédibles, sont utilisés à des fins de harcèlement, d’exploitation sexuelle et de diffusion sur les réseaux sociaux, détruisant des réputations et traumatisant des victimes souvent impuissantes face à la viralité de ces contenus.
Le phénomène touche également les plus jeunes, car l’explosion des contenus pédopornographiques créés par IA alerte désormais les ONG et les autorités, ces images ou vidéos étant parfois fabriquées sans qu’aucune victime réelle n’ait été photographiée, ce qui complexifie encore davantage la détection et la répression.
Au-delà des deepfakes, les systèmes d’IA peuvent renforcer les inégalités de genre en biaisant les opportunités professionnelles au détriment des femmes, comme l’a révélé une étude de 2024 montrant que dans le filtrage de CV, des modèles associent plus souvent les noms masculins à des postes à haute responsabilité.
Les réseaux sociaux, en amplifiant ces contenus toxiques et en permettant leur diffusion virale, deviennent des complices passifs de cette violence numérique qui menace l’intégrité et la dignité des femmes.
La menace des deepfakes et des escroqueries hyperréalistes
L’IA ne se contente pas de manipuler l’information, elle devient aussi une arme redoutable entre les mains des cybercriminels pour des escroqueries d’un nouveau genre.
La Direction Générale de la Sécurité Intérieure (DGSI) a récemment documenté des cas où des salariés d’entreprises stratégiques ont utilisé des outils d’IA générative pour traduire des documents confidentiels, exposant ainsi leurs données sensibles à des serveurs étrangers sans le consentement de leur hiérarchie.
Un cas particulièrement alarmant concerne un responsable industriel qui a reçu un appel en visio-conférence d’une personne usurpant parfaitement l’apparence et la voix du dirigeant de son groupe, grâce à un deepfake associant le visage et la voix grâce à l’IA.
L’usurpateur a immédiatement demandé un transfert de fonds pour un projet d’acquisition, et seul le caractère inhabituel de la démarche a permis au responsable de détecter la supercherie et d’alerter sa direction.
Ces attaques par hypertrucage s’appuient sur des algorithmes capables d’imiter parfaitement le style humain, rendant la détection beaucoup plus difficile, et elles s’accompagnent de techniques comme le spear phishing amélioré où les cybercriminels analysent rapidement les données publiques des cibles pour personnaliser leurs attaques.
L’IA permet également des attaques par empoisonnement des données, où de fausses données injectées dans le processus d’apprentissage peuvent biaiser ou saboter un système entier, menaçant ainsi la sécurité des infrastructures critiques.
L’urgence d’une régulation et d’une vigilance collective face à ces menaces
Face à ces dangers grandissants, les régulateurs et les plateformes commencent à réagir, mais les mesures restent encore insuffisantes face à la rapidité d’évolution de la technologie.
L’AI Act européen, entré en vigueur en août 2024, impose désormais des obligations de transparence aux systèmes d’IA, notamment l’étiquetage des contenus générés ou modifiés par IA, avec des sanctions allant jusqu’à trente-cinq millions d’euros ou sept pour cent du chiffre d’affaires mondial pour les infractions les plus graves.
Les plateformes comme LinkedIn, Meta et YouTube mettent en place des standards de provenance des contenus comme les « content credentials » du consortium C2PA, permettant d’indiquer si une image a été générée ou modifiée par IA, mais ces informations ne sont pas toujours visibles par défaut pour l’utilisateur.
Stuart Russell souligne que les algorithmes ne sont pas suffisamment examinés pour être vérifiés ou « corrigés », car même le conseil d’administration indépendant chargé de superviser Facebook n’a pas pleinement accès à l’algorithme qui sélectionne le contenu vu par les utilisateurs.
Il préconise une refonte complète des algorithmes des médias sociaux et appelle à des expériences avec des groupes de contrôle pour identifier ce qui provoque la polarisation sociale et la dépression chez les utilisateurs.
À lire aussi : Comment Giorgia Meloni est devenue la politicienne la plus populaire des réseaux sociaux
Pourquoi mettre un terme à une relation peut être la meilleure chose pour vous
Il s’est avéré que le Prince charmant n’était en fait rien d’autre qu’une définition plutôt fidèle du psychopathe. Voilà ce qui t’attend si tu restes dans une relation amoureuse avec un homme toxique!