Sélectionner une page

Dans l’article précédent Échec et Math! Comment la Silicone Valley a hacké l’humanité, nous avons discuté de la prévalence de l’impact de l’intelligence artificielle sur l’humain. Nous avons mis en lumière certaines propriétés rendant ces algorithmes potentiellement des armes de destruction massive (i.e. Weapons of Math Destruction comme les appelle Cathy O’Neil). Cependant, de tels outils ne sont pas forcément mauvais en soi. Tout comme une bombe nucléaire peut induire une stabilité et de la paix entre les pays. On appelle ce phénomène la paix nucléaire, cf. Rauchhaus (2009) Evaluating the Nuclear Peace Hypothesis. Dans cet article, je mets en lumière d’autres aspects qui sont selon moi problématiques avec l’utilisation de l’intelligence artificielle ainsi que des pistes pour trouver des solutions.

La fin justifie les moyens… Quand les intérêts de certains desservent le bien de tous

Les algorithmes aujourd’hui ne sont pas forcément néfastes en soi. C’est la façon de les utiliser qui les rends ainsi. Dans l’absolu, le fait que certains soient conçus comme des boites noires ou encore qu’ils impactent plus de 2 milliards de personnes (le nombre d’utilisateurs actifs par mois sur YouTube), n’est pas un problème en soit. Ceci le devient lorsque le but de l’application est de vous faire rester le plus longtemps possible sur la plateforme par exemple. En effet, le business model de Google est la publicité ciblée, ainsi les utilisateurs de YouTube ne sont pas des clients, mais rien d’autre que le produit. Le réel client est l’entreprise qui finance Google pour afficher du contenu publicitaire ciblé auprès des utilisateurs de la plateforme. Ainsi les recettes sont directement liées à la quantité de publicités qui sont présentées aux utilisateurs. Ceci est à son tour proportionnel à la quantité de temps passée sur la plateforme.

« Si c’est gratuit, c’est que vous êtes le produit »

L’intelligence artificielle de YouTube a ainsi tout intérêt à nous montrer du contenu qui va nous faire consommer encore plus de vidéos et ainsi de suite. Ce cercle vicieux propage ainsi volontairement du contenu viral ou à forte valence émotionnelle. Ceci est très bien décrit dans le drama-documentaire de Netflix The Social Dilemma, je vous le recommande vivement.

L’impact sociétal et humain… perception et suicide chez les jeunes

Ce qui est parfois difficile à comprendre, est que l’impact humain est rarement visible à un niveau intra-individuel. Il est presque toujours à évaluer à un niveau sociétal. L’impact que ces algorithmes ont aujourd’hui se trouve à une autre échelle que celle à laquelle on se trouve en tant qu’individu. Pour comprendre l’effet, il faut appréhender le problème selon une approche épidémiologique et statistique.

Snapchat dysmorphia

Depuis l’apparition d’Instagram et Snapchat, notre perception de la beauté a évolué. Les chirurgiens plasticiens recensent de plus en plus de personnes qui veulent une chirurgie du visage afin de ressembler à des photos d’eux-mêmes avec des filtres. Le US Medical journal JAMA Facial Plastic Surgery appelle ce phénomène le Snapchat dysmorphia. A savoir que la dysmorphie corporelle est un réel trouble mental classé dans le manuel diagnostique et statistique des troubles mentaux (DSM-5) dans les trouble obsessionnels-compulsif (TOC) et où le critère principal est une “préoccupation concernant une ou plusieurs imperfections ou défauts perçus dans son apparence physique qui ne sont pas apparents ou qui semblent mineurs pour autrui“.

Certains chirurgiens plasticiens comme Ward et al. (2018) suggèrent que près de la moitié des demandes de chirurgie plastique du nez ont pour but d’améliorer l’image de l’individu sur les réseaux sociaux. Ces chiffres n’ont cessé d’augmenter dans ces dix dernières années. D’autres auteurs suggèrent même que les applications de selfies équipées de tout ces filtres peuvent ainsi déclencher la formation d’obsession de dysmorphie corporelle (cf. Rajanala et al. (2018)). Ceci est très préoccupant, car plus de 80% des individus souffrant de cette pathologie ont des idéations suicidaires et environ 25% vont faire une tentative de suicide au moins une fois dans leur vie (cf. Phillips (2007)).

Par ailleurs, sur la période 2005-2017 on constate une augmentation jusqu’à 63% d’outcomes suicidaires (idéation suicidaire, plan suicidaire, tentative de suicide et suicide) notamment auprès des adolescents et jeunes adultes jusqu’à 25 ans (cf. Twenge et al. (2019)). A ce stade, il est encore difficile d’inférer le degré d’impact des médias sociaux, cependant le lien est suggéré par les auteurs. En effet, les adultes de plus de 25 ans ne semblent pas être touchés par le phénomène, car il n’y a essentiellement aucune augmentation significative d’outcomes suicidaires pour cette population.

The real problem of humanity is the following: we have Paleolithic emotions, medieval institutions, and god-like technology.

Edward O. Wilson

Vers un cyber-humanisme

Si la conversation s’arrêtait ici, on resterait avec un goût amer de cette nouvelle technologie. Cependant, je reste fondamentalement un optimiste ainsi qu’un humaniste. Je pense que les jeux ne sont pas encore faits et nous ne sommes pas (encore) en situation d’échec et mat. Cependant, avant que les politiciens n’interdisent dans le futur le business modèle d’avoir des technologies qui tirent leur profit en influençant en temps réel avec des modèles prédictifs et des feedback loops notre identité, nos comportements, nos habitudes ou encore nos croyances, il y a une nouvelle conversation à avoir.

Nous avons ici à faire avec un problème systémique, ainsi nous devons trouver une solution systémique. Ce que propose le Center for Humane Technology est de changer le paradigme dans lequel nous sommes actuellement. Donella Meadows, une célèbre scientifique et analyste des systèmes suggère qu’il existe des points de leviers pour agir sur un système et le changer. La façon la plus efficace selon elle est d’agir sur le paradigme en lui même et le transcender. C’est dans cette approche que s’inscrivent les actions du Center for Humane Technology.

Dans la conception actuelle, l’humain est vu comme une commodité qu’on peut exploiter. Une ressource qu’on peut influencer au profit de ceux qui financent ces plateformes munis d’algorithmes. Il est pratiquement impossible de changer le système dans ce contexte. Tout scandale va être suivi par un autre scandale et ainsi de suite. Certains appellent ceci le Human Downgrading.

Ce que nous propose le Center for Humane Technology est d’essayer de trouver des solutions à partir du paradigme où l’humain est un être qu’on cherche à rendre plus conscient et responsable de sa propre expérience. Dans ce contexte, au lieu de lutter pour son attention, les technologies essayent de la préserver et la cultiver. Ainsi les médias sociaux ne cherchent plus à nous faire passer le plus de temps sur la plateforme, mais à ce qu’on passe un maximum de temps de qualité.

Ceci peut sembler encore très lointain, mais les mentalités changent et quelques avancées ont été faites récemment dans cette direction. Prenez par exemple Apple qui en fin 2018 a introduit la fonctionnalité du « Temps d’écran » afin d’identifier nos mauvaises habitudes (cf. Le Monde (2018) On a testé… utiliser « Temps d’écran » pour réduire l’utilisation de son iPhone). En 2019, des centaines d’employés de Facebook on écrit une lettre ouverte à Mark Zuckerberg pour condamner les publicités politisées sur la plateforme. L’intégralité de la lettre est accessible sur le New York Time (2019) Read the Letter Facebook Employees Sent to Mark Zuckerberg About Political Ads.

Certes, nous n’avons pas encore de business model dans ce nouveau paradigme que j’appelle personnellement le Cyber-Humanisme. Cependant, on a aujourd’hui la nécessité de commencer la transition si on souhaite continuer d’exister. Cet impératif est aussi important que de résoudre le problème du réchauffement climatique ou encore de la surpopulation. Je suggère même que c’est ce même nouveau paradigme qui peut nous aider à résoudre les autres problèmes auxquels notre espèce est confrontée.

Prenez par exemple le réchauffement climatique, si au lieu d’essayer de nous faire consommer plus, les médias sociaux utiliseraient les mêmes mécanismes pour nous influencer à consommer mieux et de façon écoresponsable. Ils pourraient ainsi inciter plus de 2 milliards de personnes à prendre par exemple les transports publics ou de privilégier une mobilité douce. La magie de cette solution, c’est qu’aucun individu ne ressentirait ce changement, car le changement serait latent et à un niveau perceptif. En revanche, on aurait globalement une diminution de la pollution et des émissions CO2 à une échelle mondiale. A priori, rien ne nous empêche aujourd’hui d’induire auprès de la population ce genre de pensées écologiques et responsables plutôt que de la dysmorphie corporelle et de la détresse émotionnelle auprès des jeunes. Je vous laisse y réfléchir 😉

Facebook discovered that they are able to affect real-world behavior and emotions without ever triggering the users’ awareness. They are completely clueless.

Shoshana Zuboff