Lorenzo’s Portfolio
Accompagnement à l’IA
← À propos de cette œuvre

Article

When AI Assistants Play Dirty: The Dark Side of “Helpful” Design

Lorenzo Colombani

2025-11-04

5 min de lecture

Couverture minimaliste bleu marine avec le titre en blanc « Dark Commercial Patterns and the Ethics of AI Assistant Design » à côté d’un labyrinthe géométrique rouge symbolisant la complexité manipulatrice de l’UX

Vous connaissez cette sensation quand vous essayez de résilier un abonnement et que le bouton « conserver mon abonnement » est énorme et vert, tandis que « résilier » n’est qu’un minuscule texte gris enfoui en bas de page ? Imaginez la même chose, mais c’est votre assistant IA qui vous le fait, au fil de la conversation. C’est là que nous allons, et honnêtement, nous y sommes déjà.

Je me suis plongé dans ce que l’OCDE et l’UE disent de ces « dark patterns commerciaux » dans la conception de l’IA. C’est fascinant, et un peu vertigineux, de voir à quel point tout cela peut être subtil. On ne parle pas d’arnaques évidentes. On parle d’interfaces conversationnelles qui paraissent serviables tout en vous orientant discrètement vers des décisions que vous ne prendriez probablement pas en étant pleinement informé.

Voilà ce qui me frappe : quand vous discutez avec un assistant IA, cela paraît naturel, presque humain. Mais cette conversation confortable peut cacher toutes sortes de choix de design manipulateurs. L’assistant peut mentionner l’air de rien une fonctionnalité premium au moment précis où vous êtes agacé. Ou présenter le partage de données comme un moyen d’« aider à améliorer votre expérience » sans préciser la portée réelle de ce que vous acceptez. L’interface devient un étrange hybride de thérapeute, de vendeur et de moissonneur de données, le tout emballé dans une sympathique fenêtre de chat.

Le nouvel AI Act de l’UE tente de s’attaquer à ce fouillis, et l’UE ne plaisante pas. En substance, elle dit : si quelqu’un parle à une IA, il doit le savoir. Si une IA lit ses émotions ou collecte ses données biométriques, cela doit être parfaitement clair. Et le plus fort : l’option « non merci » doit être aussi facile à trouver et à cliquer que le bouton « oui, volontiers ». Rien de nouveau : les exigences de transparence du RGPD couvraient déjà ce sujet. L’UE ne fait que l’appliquer plus explicitement à l’IA.

Mais c’est là que ça devient intéressant du point de vue du design. L’OCDE ne demande pas seulement des mentions d’information plaquées sur les interfaces. Elle veut ce qu’elle appelle une « responsabilité réelle et évolutive ». Vos choix de design doivent pouvoir être rattachés à de véritables principes éthiques, et quand quelque chose tourne mal, il doit exister un moyen clair de le signaler et de retracer ce qui s’est passé.

Pensez à ce que cela signifie concrètement. Chaque fois que votre assistant IA vous demande quelque chose (données, décisions, autorisations), il devrait exister un moyen simple de revenir en arrière. Pas enfoui dans les paramètres, pas au bout d’un processus en cinq étapes. Comme appuyer sur « annuler » dans un document.

Pour être juste, les systèmes d’exploitation des ordinateurs souffrent du même défaut de conception (ou de la même fonctionnalité). Je suis ce qu’on pourrait appeler un « gros utilisateur occasionnel », et parfois, la seule façon d’être sûr de tout réinitialiser, c’est une réinstallation complète de mon OS.

J’ai vu des entreprises essayer de mettre cela en œuvre, et les plus avisées le traitent comme un chantier d’infrastructure, pas comme de simples cases de conformité à cocher. Elles créent des « registres de responsabilité » qui relient, en gros, chaque décision de design à un principe éthique ou à une réglementation précise. Ainsi, quand un régulateur frappe à la porte, ou quand les utilisateurs se fâchent, elles peuvent montrer exactement pourquoi elles ont fait chaque choix et quels garde-fous elles ont intégrés.

Là encore, cela reflète la façon dont le RGPD a été mis en œuvre. Depuis 2016, les gros acteurs du traitement de données (pensez : GAFA, fournisseurs de services, etc.) ont souvent fait l’objet de « descentes » des autorités nationales de protection des données des États membres de l’UE. Leurs services juridiques sont toujours au taquet lorsqu’il s’agit de s’assurer que tout est en ordre.

Les entreprises qui se trompent traitent la conformité comme des devoirs : un truc à finir puis à oublier. Mais celles qui s’y prennent bien tissent ces protections dans leur véritable processus de conception. Elles se posent des questions comme : « Est-ce que je voudrais que ma mère tombe sur ce choix ? » ou « Si j’étais fatigué et distrait, est-ce que j’accepterais par mégarde quelque chose que je regretterais ? »

Ce qui me frappe vraiment dans tout cela, c’est que, malgré tout ce que nous savons de ces incitations, de ces tunnels sans friction et du reste, savoir qu’ils existent n’entame pas beaucoup notre confiance dans la technologie. De même que nous continuons d’accepter les conditions générales sans les lire, nous faisons pareil avec l’IA.

Bon, un sage a dit un jour qu’il existait deux types de personnes : celles qui acceptaient les risques et cliquaient, et celles qui ignoraient les risques et cliquaient.

La voie à suivre ne consiste pas seulement à ajouter des avertissements ou à allonger les conditions d’utilisation (Dieu sait que personne n’a besoin de ça). Il s’agit de repenser en profondeur la façon dont les assistants IA interagissent avec les gens. Pouvons-nous construire des systèmes réellement utiles sans être manipulateurs ? Pouvons-nous créer des interfaces qui respectent l’autonomie des utilisateurs tout en restant commercialement viables ?

Certaines entreprises expérimentent déjà en ce sens. Elles intègrent des boutons « signaler un problème avec l’IA » qui mènent réellement quelque part. Elles conçoivent des parcours de consentement où « non » est vraiment aussi facile que « oui ». Elles créent même des systèmes capables d’expliquer leurs propres limites et biais.

Les entreprises doivent gagner de l’argent, et les assistants IA coûtent cher à développer et à faire tourner. Mais il y a une différence entre un modèle économique durable et une « exploitation » déguisée en serviabilité.

Parfois, cette « exploitation » ne résulte même pas de la politique et des pratiques d’une entreprise. Pensez à la récente ordonnance américaine enjoignant à OpenAI de conserver toutes les conversations supprimées et « temporaires » (mai-septembre 2025). Elle a brisé la confiance, mais pas du fait de la politique d’OpenAI.

Les réglementations en préparation (de l’UE, de l’OCDE) visent à imposer la distinction entre modèle économique durable et « exploitation », que les entreprises le veuillent ou non.

La bonne stratégie n’est pas de lutter contre ou de chercher des failles. C’est de prendre les devants. Bâtissez la confiance maintenant, avant que les réglementations ne vous y obligent. Concevez pour donner un vrai pouvoir aux utilisateurs, pas une simple apparence de choix. Créez des assistants IA que les gens ont réellement envie d’utiliser, pas des assistants dans lesquels ils se sentent embarqués malgré eux.

Car voilà le fond du problème : la confiance, une fois brisée, est incroyablement difficile à reconstruire. Et dans un monde où les assistants IA deviennent centraux dans notre rapport à la technologie, cette confiance est tout. Soit nous construisons ces systèmes correctement (transparents, réversibles, réellement utiles), soit nous regardons les utilisateurs comprendre peu à peu qu’on les manipule, puis partir pour de bon.

Même si l’Histoire ne semble pas indiquer que les choses prennent ce chemin (Cambridge Analytica est loin derrière nous, Facebook / Meta continue de constituer des profils fantômes… et pourtant).

Le choix devrait être évident, mais apparemment, il ne l’est pas.

Lorenzo Colombani fait l’interprète entre les humains et les machines — titulaire du CAPA (certificat d’aptitude à la profession d’avocat), médiateur judiciaire, concepteur d’instruments d’IA.

Document d’entité : https://github.com/LorenzoColombani/lorenzo-colombani

Portfolio : https://lorenzocolombani.github.io · LinkedIn : https://www.linkedin.com/in/locolombani/

Envie d’en savoir plus sur l’auteur, Lorenzo Colombani, et sur son travail dans l’IA ? Rendez-vous sur son site : https://www.lorenzocolombani.com