Distinguer entre le monde réel et l’artificiel, les vivants et les morts quand “ça” parle
Face à une IA qui semble humaine, comment réagir ? Entrez dans cette conversation profonde avec Laurence Devillers, experte reconnue de l’informatique et des sciences sociales de la Sorbonne et du CNRS. Découvrez pourquoi il est essentiel de distinguer entre le monde réel et l’artificiel lorsque nous interagissons avec des robots et des IA.
Explorez le mystère du “nudge” : Comment les systèmes informatiques influencent-ils subtilement nos décisions ? Et quelles sont les solutions éthiques, juridiques et techniques pour naviguer dans ce territoire inexploré ?
Depuis l’émergence des intelligences artificielles génératives à la portée de tous, cette discussion n’a jamais été aussi pertinente.
Découvrez également les insights de Devillers dans ses ouvrages renommés, « Des robots et des hommes » et « Les robots émotionnels ». Préparez-vous à repenser votre relation avec la technologie.
Cliquez pour écouter maintenant !
Voici quelques explications et prolongements de la part de LOVE FRANCE
Qu’est-ce que le NUDGE
Le “nudge”, terme anglais qui signifie “coup de pouce” en français, est un concept en sciences comportementales qui fait référence à une approche visant à encourager les individus à prendre certaines décisions ou à adopter certains comportements, sans les y contraindre ou sans recourir à des interdictions ou à des incitations financières. Le nudge s’appuie sur notre compréhension des biais cognitifs et des heuristiques (raccourcis mentaux) que les gens utilisent généralement pour prendre des décisions. L’idée est de “redesigner” l’environnement de choix de façon à ce que les choix par défaut soient plus bénéfiques pour l’individu ou la société. Le concept de nudge a été popularisé par Richard Thaler et Cass Sunstein dans leur livre “Nudge: Improving Decisions About Health, Wealth, and Happiness” (2008). Ils soutiennent que les gouvernements et les institutions peuvent utiliser les nudges pour aider les citoyens à prendre de meilleures décisions. Toutefois, le nudge soulève également des questions éthiques, en particulier concernant la manipulation et l’autonomie des choix. Il est donc essentiel que les nudges soient utilisés de manière transparente et dans l’intérêt des individus.
Qu’est-ce que le nudge quand les systèmes informatiques influencent subtilement nos décisions
-
Réseaux sociaux et plateformes en ligne :
- Les notifications, par exemple, sont conçues pour attirer notre attention et nous inciter à retourner sur une application ou un site web.
- L’utilisation de couleurs vives pour les boutons d’action (par exemple, “Acheter maintenant”) pour les rendre plus attirants et inciter à cliquer.
-
E-commerce :
- La mise en évidence d’un nombre limité d’articles restants (“Seulement 3 articles en stock !”) peut encourager un achat impulsif basé sur la peur de manquer une opportunité.
- Les paniers d’achat qui ajoutent automatiquement une assurance ou un accessoire, avec une option de retrait (opt-out) plutôt que d’ajout (opt-in), peuvent inciter les consommateurs à dépenser plus.
-
Formulaires en ligne :
- Les cases pré-cochées pour s’abonner à une newsletter ou recevoir des offres promotionnelles.
- L’ordre des options dans un menu déroulant peut influencer le choix d’un utilisateur, car les gens ont tendance à choisir les premières options.
-
Logiciels et applications :
- Les configurations par défaut d’un logiciel peuvent orienter les utilisateurs vers certaines fonctionnalités ou préférences privilégiées par le concepteur.
- Les tutoriels interactifs qui guident les utilisateurs pas à pas peuvent les orienter vers certaines actions ou choix.
-
Publicités numériques :
- Les recommandations personnalisées basées sur l’analyse des comportements antérieurs de navigation peuvent orienter les choix d’achat.
Bien que ces techniques puissent améliorer l’expérience utilisateur ou augmenter les conversions pour les entreprises, elles soulèvent également d’importantes questions éthiques. Les utilisateurs doivent-ils être informés de la manière dont ils sont influencés ? Jusqu’où peut-on aller dans la manipulation du comportement sans empiéter sur la liberté de choix de l’individu ?
Qu’est-ce que le nudge avec ChatGPT
-
Réponses orientées :
- Un chatbot peut être programmé pour orienter les utilisateurs vers certaines réponses ou actions. Par exemple, s’il est utilisé dans un contexte commercial, il pourrait mettre en avant certains produits ou services en fonction des questions de l’utilisateur.
-
Affirmations de validation :
- Pour encourager un comportement, un chatbot pourrait valider les choix ou les réponses de l’utilisateur. Par exemple, si un utilisateur mentionne l’intention de faire de l’exercice, le bot pourrait répondre par des encouragements ou des félicitations.
-
Informations sélectives :
- Un chatbot pourrait fournir des informations de manière sélective pour influencer une décision. Par exemple, il pourrait mettre en avant les avantages d’un produit tout en minimisant ou en omettant ses inconvénients.
-
Questions orientées :
- En posant des questions d’une certaine manière, un chatbot peut influencer la manière dont un utilisateur pense à une situation. Par exemple, demander “Avez-vous envisagé les avantages de notre plan premium ?” au lieu de “Quel plan vous intéresse ?” peut orienter l’utilisateur vers l’option premium.
-
Feedback immédiat :
- Contrairement aux interactions humaines, un chatbot peut fournir un feedback instantané basé sur les entrées de l’utilisateur, ce qui peut être utilisé pour renforcer certains comportements ou décisions.
Préoccupations éthiques avec ChatGPT et le nudge
-
Manque de transparence :
- Les utilisateurs pourraient ne pas être conscients que leurs décisions sont influencées par le chatbot, ce qui pose des questions sur le consentement éclairé et l’autonomie de l’utilisateur.
-
Biais et équité :
- Si un chatbot est formé sur des données biaisées, il pourrait renforcer ces biais dans ses interactions, conduisant à des recommandations ou des orientations inéquitables.
-
Responsabilité et responsabilisation :
- En cas de décision erronée ou préjudiciable influencée par le chatbot, il peut être difficile de déterminer la responsabilité, car la machine se base sur son apprentissage antérieur et n’a pas d’intentions propres.
Les développeurs et les entreprises utilisant des chatbots pour le nudge doivent être conscients des implications éthiques, garantir la transparence et veiller à ce que les intérêts de l’utilisateur restent au premier plan.
Les podcasts de Laurence Devillers sur Radio France
N’étant pas des êtres vivants, les IA n’ont pas et ne peuvent pas développer une sensibilité. Comment les robots peuvent-ils alors être considérés comme des animaux de compagnie, voire des amis, par les êtres humains ? Se réduisent-ils à des artefacts sur lesquels sont projetées des émotions ?
Les 5 questions-réponses du dimanche 9 avril 2023
Cette semaine les robots et les émotions, les piments qui piquent, plusieurs clubs de foot dans des grandes villes à l’étranger, filmer des animaux sauvages, fabrication du béton
“Faut-il mettre en pause” l’avancée de l’IA ?
Le patron de Twitter Elon Musk et des centaines d’experts réclament une pause dans l’intelligence articielle. Ils réclament un moratoire jusqu’à la mise en place de systèmes de sécurité.
L’invité de 8h20 : le grand entretien
Laurence Devillers et la nécessité “d’une mixité filles/garçons aux manettes” dans le numérique
Pourquoi y a-t-il encore si peu de femmes dans les filières numériques ? Ce jeudi s’ouvrent les premières Assises nationales de la féminisation des métiers et filières numériques à Paris. Laurence Devillers, professeure d’informatique appliquée aux sciences sociales à la Sorbonne, est notre invitée.
ChatGPT, l’école doit-elle revoir sa copie ?
Au-delà du sujet sensible des devoirs écrits, quelles questions l’usage des intelligences artificielles pose-t-il dans le champ éducatif ?
ChatGPT, Bard ou Ernie : quelle IA va l’emporter ?
Après ChatGPT, dans laquelle Microsoft a largement investi, c’est au tour du géant Google d’annoncer la sortie imminente de son propre agent conversationnel à base d’intelligence artificielle : Bard, attendu au mois de mars.
13 fév. • 8 min
En ce qui concerne les capacités intellectuelles des outils virtuels, nous serions démunis, incapables de bien jauger leur portée, leur dangerosité ou leur bénéfice. Quelles sont les facultés propres de l’intelligence artificielle, et sont-elles comparables à celles de notre cerveau humain ?
Professeure en Intelligence Artificielle à Sorbonne Université et au CNRS et auteure de “Les robots émotionnels : santé, surveillance, sexualité… et l’éthique dans tout ça ?” aux éditions de l’Observatoire, Laurence Devillers est l’invitée d’Éric Delvaux et Carine Bécard.
Des robots émotionnels à la souveraineté numérique : dessinons le futur
Alors que s’achève l’année 2021, Le Meilleur des mondes revient sur une décennie d’innovations dans le domaine de la robotique et des nouvelles technologies, et propose d’esquisser les grandes innovations qui animeront les années à venir.
Quand invente-t-on les premiers robots ? Quelles étaient leurs premières utilités ? Peut-on considérer que la robotique a d’abord été élaborée dans la littérature, avant de devenir un projet scientifique ? Comment les rapports entre humains et robots ont-ils évolué à travers le temps ?
30 juill. 2021 • 58 min
Décrypter l’intelligence artificielle | La Comédie-Française à l’heure du confinement
Avec des applications nouvelles dans tous les secteurs, l’IA est devenu bien plus qu’un sujet d’expert ou de science fiction : tentons de la décrypter. Egalement à l’affiche de cette émission, Eric Ruf, administrateur général de la Comédie-Française, évoquera l’actualité de la prestigieuse maison.
L’intelligence artificielle est-elle notre ennemie ?
Mardi, la CNIL a fait savoir qu’elle s’opposait à la mise en place de systèmes de reconnaissance faciale dans les lycées. C’est indéniable : les algorithmes font partie de nos vies. Mais sont-ils compatibles avec l’éthique, avec nos libertés ?
