Et si l’IA ne nous remplaçait pas… mais nous faisait douter les uns des autres ?
Un écrivain, un roman, un détecteur. Et soudain une question beaucoup plus grande : dans un monde où tout peut être fabriqué, comment allons-nous encore décider de ce qui est vrai ?
Un écrivain publie un roman.
Des lecteurs le lisent.
Des critiques l’aiment.
Puis quelqu’un pose une question :
L’a-t-il vraiment écrit ?
Pour tenter de répondre, on fait quelque chose qui aurait paru assez étrange il y a encore quelques années.
On demande à une machine.
Et c’est là que notre histoire commence vraiment.
1. Peut-on demander à une IA de reconnaître une IA ?
Le roman C’était ça ou mourir, de Thélyson Orélien, s’est retrouvé au cœur d’une controverse : son auteur a été accusé d’avoir eu recours à l’intelligence artificielle pour écrire son livre.
Pour étayer le soupçon, un outil de détection de textes générés par IA a notamment été utilisé.
Mais voilà le premier vertige : nous demandons à une machine de déterminer si une autre machine a participé à la fabrication d’un texte.
Petit piège avant de continuer
Un détecteur annonce : « 95 % IA ». Qu’avez-vous réellement appris ?
Un score produit par un détecteur n’est pas une observation directe du processus d’écriture. Il doit être interprété à partir de la méthode, des performances et des limites de l’outil.
Notre cerveau, lui, préférerait une réponse simple : humain ou machine.
Pourquoi avons-nous désormais besoin de nous demander qui a réellement produit ce que nous lisons ?
Pendant longtemps, un livre signé par un écrivain et publié par une maison d’édition bénéficiait d’une chaîne de confiance relativement simple.
L’intelligence artificielle vient d’introduire un acteur invisible dans cette chaîne.
Et personne ne sait encore exactement quelle place lui donner.
2. À partir de quand n’êtes-vous plus l’auteur ?
Essayons.
Vous écrivez un texte dans Word. Le correcteur corrige une faute.
Êtes-vous encore l’auteur ?
Vous utilisez Antidote pour améliorer une phrase.
Vous demandez dix synonymes à une IA.
Vous lui demandez de reformuler une phrase.
Puis d’examiner votre chapitre.
Puis de proposer un plan.
Puis de rédiger un paragraphe.
Puis un chapitre.
À quel endroit précis avez-vous cessé d’être l’auteur ?
Faites l’expérience avec dix personnes : elles ne placeront probablement pas toutes la frontière au même endroit.
Le problème est peut-être moins technique que social.
Nous disposons déjà de la technologie. Mais nous ne disposons pas encore complètement des conventions permettant de décider ce que son utilisation signifie.
3. Et si le problème n’était pas le faux ?
Imaginons une photographie montrant une manifestation.
Quelqu’un affirme : « Cette image a été fabriquée par IA. »
Elle l’a peut-être été.
Mais imaginons maintenant qu’elle soit parfaitement authentique.
L’IA ne permet pas seulement de fabriquer du faux. Elle permet aussi de déclarer faux ce qui est vrai.
Le problème ne concerne déjà plus seulement les écrivains.
Un élève rend une dissertation. IA ?
Un chercheur remet un article. IA ?
Un journaliste publie une enquête. IA ?
Une administration reçoit une réclamation. IA ?
Une vidéo montre une personnalité prononçant une phrase. IA ?
Un enregistrement sonore est présenté comme preuve. IA ?
4. Montrez-nous quelque chose dont vous êtes certain
Prenez votre téléphone.
Choisissez une photographie dont vous savez qu’elle est vraie.
Vous étiez là. Vous l’avez prise. Vous vous souvenez du moment.
Pour vous, son origine est évidente.
Maintenant, envoyez-la à quelqu’un qui ne vous connaît pas.
Des pixels.
Vous possédez l’histoire de l’image. Lui ne possède que l’image.
Voilà pourquoi la provenance risque de devenir presque aussi importante que le contenu lui-même.
5. Et si le détecteur se trompe ?
Voilà une situation historiquement assez étrange.
Pour déterminer si une machine a produit un texte, nous utilisons une autre machine.
Puis des humains interprètent le résultat de cette machine.
Et d’autres humains peuvent contester cette interprétation.
Nous ne discutons donc plus seulement de la vérité.
Nous discutons des instruments qui permettent d’établir la vérité.
Un humain peut-il écrire comme une IA ?
Une IA apprend sur des textes humains. Elle produit des textes. Les humains lisent ces textes. Certains styles deviennent familiers. Les humains écrivent à leur tour.
Alors : qui imite qui ?
6. Vous êtes maintenant éditeur
Un manuscrit extraordinaire arrive sur votre bureau.
Vous l’adorez.
Toute votre équipe l’adore.
Mais un détecteur annonce une forte probabilité d’utilisation d’intelligence artificielle.
Vous refusez le manuscrit ?
Vous demandez les brouillons ?
Vous examinez l’historique des fichiers ?
Vous utilisez trois autres détecteurs ?
Vous interrogez l’auteur ?
Vous lui faites confiance ?
Ou vous changez le contrat ?
À partir de quand la confiance devient-elle de la surveillance ?
7. Et si nous devions tous prouver que nous sommes humains ?
Imaginez un monde dans lequel vous devez régulièrement démontrer :
que vous avez écrit votre texte ;
que votre photographie est authentique ;
que votre voix est bien votre voix ;
que votre création est votre création ;
que votre travail est votre travail.
Nous aurions alors accompli un renversement étrange.
Pendant longtemps, le faux devait être démontré. Demain, le vrai pourrait parfois devoir fournir ses certificats.
Vous pensiez lire un article sur l’intelligence artificielle ?
C’était le piège.
Cet article parle finalement moins de ChatGPT que de confiance.
Que se passe-t-il lorsque nous ne sommes même plus d’accord sur les moyens de savoir ce qui est vrai ?
Une dernière porte
Elle ne mène pas vers une réponse.
Elle mène vers une expérience.
Je vous montre deux textes.
L’un est humain. L’autre a été produit avec une intelligence artificielle.
Vous choisissez.
Puis je vous demande :
Pourquoi ?
Et c’est seulement à ce moment-là que l’expérience devient intéressante.
Parce que nous n’étudierons plus seulement l’intelligence artificielle.
Nous étudierons notre manière de décider ce qui mérite notre confiance.
L’IA ne transforme pas seulement
ce que nous pouvons fabriquer.
Elle transforme ce que nous sommes encore capables de croire.