Design éthique, l’expression surprendra plus d’un designer qui la qualifierait de pléonasme. Le design est un processus qui part d’un besoin pour arriver à un produit. Dans son idéal, quand il n’est pas artistique, il rend le produit compréhensible, intuitif et durable. Un bon design est honnête, respecte l’utilisateur sans le manipuler. Alors, pourquoi lui accoler l’adjectif « éthique » ?

 

En 2017, lors d’un débat à l’Université de Stanford, un intervenant affirme qu’il touche au minimum à « cette merde » que sont les réseaux sociaux. Une déclaration qui n’aurait probablement pas eu un tel éclat si elle n’était pas venue de l’ancien vice-président en charge de la croissance de l’audience de Facebook, Chamath Palihapitiya. Le cas n’est pas isolé, de telles sorties médiatiques au cœur de la Silicon Valley viennent parfois des plus grands. Pas de téléphones portables avant 14 ans pour les enfants de Bill Gates, un accès limité à la technologie chez Steve Jobs également. En octobre 2017, le quotidien britannique The Guardian analyse à juste titre : « il est révélateur que tant de jeunes cadres de la technologie se privent eux-mêmes de leurs propres produits, envoyant leurs enfants dans les prestigieuses écoles de la Silicon Valley où iPhones, iPads et même ordinateurs portables sont bannis. »

Si les concepteurs des outils numériques que nous utilisons chaque jour affichent une telle réticence face à leurs créations, c’est qu’ils connaissent parfaitement les petites manipulations qu’ils y cachent. Tristan Harris est l’un des premiers à avoir jeté un pavé dans la mare. En 2016, il envoie un document à ses collègues de Google, les appelant à revoir le modèle en place pour concevoir davantage leurs services dans le respect des utilisateurs. Tout le Googleplex a vent du dossier jusqu’au grand patron, Larry Page. Mais rien ne bouge. Tristan Harris décide alors de démissionner de son poste de « philosophe produit » et de sensibiliser à sa cause. Sur la plateforme de blogging Medium, il publie l’article « Comment la technologie détourne votre esprit » où il décortique les astuces de conception utilisées par les compagnies de service numérique pour capter l’attention des utilisateurs. Harris conclue : « j’ai listé quelques techniques mais il en existe des milliers. […] Imaginez des centaines d’ingénieurs dont le travail chaque jour est d’inventer de nouvelles manières de vous garder accrochés ». Désormais, il écume les plateaux TV et multiplie les conférences pour promouvoir son mouvement Time Well Spent. Son but est de montrer que les principaux groupes du numérique – Facebook, Google et Amazon en tête – contrôlent notre attention malgré nous. Il utilise alors sa métaphore fétiche en comparant le smartphone et ses applis à une machine à sous. Leur fonctionnement repose, selon lui, sur le même biais cognitif : la récompense variable. À chaque fois que nous déverrouillons notre smartphone (26,6 fois en moyenne par jour selon une étude de Deloitte sur les pratiques mobiles des Français, 50 fois par jour chez les 18-24 ans) pour voir ce qui se cache derrière une notification, rafraîchir notre boîte mail ou scroller un fil d’actualité, c’est une partie de machine à sous pour savoir quelle récompense nous allons obtenir. Parfois, quelque chose qui va nous satisfaire, d’autres fois rien du tout. La variabilité entre les deux rend addict et pousse à rejouer.

À chaque fois que nous déverrouillons notre smartphone pour voir ce qui se cache derrière une notification, c’est une partie de machine à sous pour savoir quelle récompense nous allons obtenir. Parfois, quelque chose qui va nous satisfaire, d’autres fois rien du tout.

L’attention, une ressource précieuse

L’économie des réseaux sociaux repose entièrement sur ce principe : développer un service qui retient l’attention et pousse l’utilisateur à y passer du temps. Ainsi, davantage de données sont récoltées puis revendues pour réaliser des publicités ciblées. Un modèle très rentable qui lui permet de se développer sans cesse. Quand l’UX (expérience utilisateur) est pensée autour de réactions inhérentes à la nature humaine auxquelles personne ne peut donc échapper, l’éthique est alors remise en cause.

La volonté de capter l’attention à des fins mercantiles n’est toutefois pas nouvelle. Elle a commencé au début du XXème siècle, à l’ère pré-industrielle, puis s’est développée avec l’arrivée de nouveaux modes de consommation et de nouveaux médias, en particulier la télévision. Les chaînes ont pour objectif de concevoir des programmes suffisamment attractifs pour que le téléspectateur reste jusqu’à la publicité. En 2004, le PDG de TF1 Patrick Le Lay l’avait bien résumé dans une déclaration à fort retentissement : « ce que nous vendons à Coca-Cola, c’est du temps de cerveau humain disponible ». TF1 touchait environ 10 millions de spectateurs. Désormais, avec des outils comme Facebook, plus de 2 milliards de personnes sont concernées.

Main basse sur vos données

Il existe d’autres dérives dans la conception des outils numériques. En effet, tous ne reposent pas sur l’économie de l’attention. Amazon sera satisfait du fait que les internautes passent beaucoup de temps sur son site mais ce qui lui importe le plus, c’est qu’ils cliquent sur « acheter » à la fin. Se pose alors la question de l’utilisation des données personnelles collectées pour offrir à ces plateformes la possibilité d’inonder les utilisateurs de publicités qui les concernent pleinement (Voir Publicité éthique, pour sauver la pub). De surcroît, ces données ne sont pas uniquement utilisées à des fins commerciales. En témoignent les multiples scandales qui ont envoyé Mark Zuckerberg devant le Sénat américain pour répondre des possibles exploitations des données visant à impacter des élections. En France, la CNIL a condamné Google à une amende de 50 millions d’euros le 21 janvier. Une première après l’application par l’Union européenne du Règlement général sur la protection des données (RGPD) pour «manque de transparence, information insatisfaisante et absence de consentement valable pour la personnalisation de la publicité ».

Outre ces mécanismes malveillants, des manquements sont à reprocher au design des services numériques. Karl Pineau, co-fondateur du collectif Designers Éthiques (Voir Karl Pineau : remettre de l’humain dans le design) explique que le Web s’est construit sur des règles inéquitables : « si on conçoit un service pour un petit nombre supplémentaire d’utilisateurs, cela va coûter beaucoup plus cher et donc on ne le fait pas », précise Karl Pineau (voir Adapte mon Web : un pansement sur une jambe de bois). L’ensemble de ces concepts parfois à la limite de la morale a pu se développer dans un désert juridique.

Le Web sans foi ni loi

En France, la question des données personnelles a très tôt suscité des interrogations. La loi informatique et libertés (LIL) a été mise en place en 1978 pour répondre aux inquiétudes face à un projet de centralisation de données individuelles (le projet SAFARI). Mais les dispositions mises en place ne pouvaient pas prendre en compte les possibilités offertes par le Web, arrivées plusieurs décennies plus tard. Des acteurs se sont alors développés sans limites. La Commission nationale de l’informatique et des libertés (CNIL), issue de la loi informatique et libertés, tente désormais d’anticiper. Dans le cadre de la loi pour une République numérique, le gouvernement lui a confié une réflexion sur « les enjeux éthiques des algorithmes et de l’intelligence artificielle ». L’organisme se donne désormais comme rôle de poser un cadre lorsque « l’évolution technologique déplace la limite entre le possible et l’impossible et nécessite de redéfinir la limite entre le souhaitable et le non souhaitable ».

En France, la question des données personnelles a très tôt suscité des interrogations.

Dans ce contexte, des initiatives émergent pour remettre de l’éthique dans la conception des outils numériques. Ces nouveaux influenceurs veulent aller à contre-courant des géants en sensibilisant les consommateurs. Ils se tournent également vers les régulateurs pour jouer un rôle dans leurs décisions. Jérémie Poiroux résume ainsi la démarche de Designers Éthiques qu’il co-préside : « nous considérons que les choses changeront par le haut ou ne changeront pas ».