Les craintes autour du collier dopé à l'IA commercialisé pour être un meilleur ami

Depuis un peu plus d'une semaine, d'énigmatiques publicités sont apparues sur les murs du métro parisien… Épurées, on y voit un simple pendentif blanc, avec des slogans comme « Je prendrai toujours le métro avec toi », « Je ne laisserai jamais de vaisselle dans l'évier »… des promesses émises par un collier dopé à l'intelligence artificielle, vendu comme un nouveau meilleur ami. Il s'appelle d'ailleurs Friend, ami en anglais, commercialisé par l'entreprise américaine du même nom. Une campagne publicitaire internationale, qui a provoqué un tollé instantané : la plupart des affiches ont été vandalisées. Et suscite de nombreux commentaires sur les réseaux sociaux.

Par Alix Villeroy

Le collier contient un micro ouvert en permanence, analyse les conversations, envoie ses réactions sur le téléphone de l'utilisateur et fait réagir le public. Comme ici, aux abords du métro parisien. 

« Honnêtement, c'est un peu flippant parce qu'on a l'impression qu'on passe de l'IA qui est déjà beaucoup dans notre vie à l'IA qui devient notre amie », réagit un usager du métro parisien. 

« J'ai l'impression qu'on est en train de rentrer dans le monde de George Orwell. Et en vrai, c'est encore un énième truc qui va nous surveiller », compare cet autre usager.

« Je trouve ça tout à fait terrible. On paye pour avoir de l'attention, mais si dorénavant nous avons directement notre mouchard autour du cou !... », s'indigne ce voyageur.

L'intelligence artificielle « m'a contaminée »

L'IA semble omniprésente dans les quotidiens.

« C'est horrible, quand j'étais en flirt avec une fille, j'ai envoyé juste un bout de la conversation pour avoir une piste sur la suite. C'est horrible de faire ça », raconte ce jeune homme.

Pour cette femme, c'est un allié dans ses relations. « ChatGPT m'aide à gérer certaines situations compliquées, notamment au niveau de mes amitiés. »

Pour cette autre femme, l'intelligence artificielle est utilisée « un peu pour tout. Maintenant, c'est vrai que, malheureusement, ça m'a contaminée, mais après, de là à avoir un collier… Moi personnellement, non ! »

« Les agents conversationnels sont conçus avec des mécanismes de profilage »

Selon une étude Ipsos, 32 % des étudiants utilisent l'intelligence artificielle au moins une fois par jour pour leur vie professionnelle et personnelle. Jean-Gabriel Ganascia est spécialiste des questions d'éthique relatives à l'IA. Il s'inquiète d'un enfermement de la personne.

« L'attachement, c'est un concept qui a été introduit pour montrer que ce que l'on recherche, c'est une forme de sécurité, de protection. Et il semblerait qu'on puisse transposer ce concept à la relation avec ces agents conversationnels. C'est bien sûr ce qui se produit avec ce petit pendentif qui se présente comme un ami. Et le risque, c'est qu'il se substitue aux amis. »

Une entreprise privée qui aurait donc accès aux données sensibles des utilisateurs en écoutant leurs conversations, mais qui pourrait aussi les influencer. 

« Les agents conversationnels sont conçus avec des mécanismes de profilage. C'est-à-dire qu'on vous donne l'information qui vous correspond exactement. On parle de bulles de filtres et le risque, bien sûr, c'est que l'espace public risque progressivement de disparaître et on arrive dans des sociétés de plus en plus fragmentées où on ne se comprend plus », complète Jean-Gabriel Ganascia.

La Commission nationale de l'informatique et des libertés a déjà été saisie pour vérifier que l'entreprise Friend.com respecte les législations en matière de collecte et de traitement des données.

À lire aussiIntelligence artificielle: «Google est aujourd'hui un acteur majeur dans la course à l'IA»