L'IA génère, vous contrôlez

L'IA est sans doute la plus belle innovation de ces dernières années. Elle nous facilite la vie, produit du contenu sur mesure, nous décharge de tâches répétitives. Elle nous apporte un confort non négligeable, booste notre productivité.

Mais cela soulève aussi plusieurs questions, et je pense ne pas être le seul à se les poser : quelle place doit-on réellement lui laisser ? Est-ce que l'IA doit tout faire à notre place ou simplement nous épauler ? Jusqu'où peut-on lui déléguer nos décisions ?

On voit souvent sur YouTube des promesses alléchantes. Des vidéos vantant des automatisations complètes, façon "Comment gagner 10 000 € par mois avec un agent IA en pilote automatique". Mais est-ce vraiment le cas ?

L'IA est probabiliste

Pour comprendre les limites de l'IA, il faut comprendre comment elle fonctionne. L'IA générative ne "sait" rien au sens humain du terme. Elle prédit. À partir de votre requête et du contexte fourni, elle calcule la suite de mots la plus probable. De ce fait, une réponse plausible n'est pas forcément vraie.

À l'inverse, une calculatrice qui donne le mauvais résultat à une opération de multiplication serait rapidement détectable.

Une IA, elle, peut inventer une étude, une clause juridique ou une fonction en Java qui n'existe pas dans une librairie de code. La réponse est cohérente, bien formulée, et porte tous les marqueurs de la crédibilité. Sauf qu'elle est fausse.

Geoffrey Hinton, l'un des pères fondateurs du deep learning, a quitté Google en 2023 spécifiquement pour pouvoir parler librement des risques de l'IA. Pas parce qu'elle ne fonctionnait pas. Parce qu'elle fonctionnait "trop bien", sans qu'on sache toujours comment, ni avec quelle fiabilité.

Mais alors, comment fiabiliser une IA ? Tout simplement par la structuration de l'IA et par le contrôle : préparer, vérifier, valider, pour ensuite ajuster si nécessaire.

Prenons quelques cas en exemple.

Cas n°1 : la conversation qui semble fiable

Je demande à ChatGPT de me citer trois études récentes sur l'impact du télétravail sur la productivité. Sa réponse sera impeccable. Il sera en mesure de citer les auteurs, les années de publication, les revues académiques dans lesquelles elles ont été publiées. Tout semble y être…

Sauf qu'en vérifiant, deux études sur trois n'existent pas. Les auteurs sont parfois réels, mais ils n'ont jamais publié ce travail ! L'IA a donc "halluciné", au même titre que les millions de personnes persuadées que Nelson Mandela était mort en prison dans les années 80 — un faux souvenir collectif tellement partagé qu'on en a fait un nom : l'effet Mandela.

Sans structuration et vérification, j'aurais pu balancer ces fausses sources dans un rapport client. Le genre d'erreur qui ne se rattrape pas. Et l'IA n'en sera pas responsable auprès de vos clients, ce sera vous !

Le piège est d'autant plus vicieux que plus on connaît mal un sujet, plus l'IA semble compétente. C'est une variante moderne de l'effet Dunning-Kruger : si vous n'êtes pas expert en droit fiscal, vous prendrez ses réponses sur le droit fiscal pour argent comptant. Demandez-lui quelque chose dans votre propre domaine d'expertise, et là, vous verrez apparaître les fissures.

Cas n°2 : l'automatisation qui se retourne contre vous

Aujourd'hui, avec les agents IA et les outils d'orchestration d'automatisation, on peut construire des workflows puissants permettant d'automatiser un ensemble de tâches. Imaginons que je mette en place un agent IA pour gérer mes premiers échanges commerciaux. Sur le papier, c'est ultra puissant, et ça fait gagner énormément de temps.

Un prospect lui demande un devis pour une prestation sur mesure. L'agent lui répond très rapidement de manière chiffrée : "8 500 € HT, livraison sous trois semaines, formation incluse." Le client valide dans la foulée et envoie son bon de commande. Le deal est signé, sauf que ce chiffre est une pure invention. Le délai est impossible à tenir, les hypothèses initiales ne sont pas correctement établies, le périmètre est flou.

J'ai maintenant le choix entre honorer tout de même ce prix et y perdre de l'argent et du temps, ou expliquer à un client tout neuf que mon IA s'est un peu emballée. Dans les deux cas, je suis dans de beaux draps.

Ici, l'IA a été mal structurée. Le contexte n'est pas clair, elle n'a pas toutes les informations en amont. Par ailleurs, aucun contrôle en aval n'est effectué. L'IA a donc agi seule, sans structure, et sans contrôle.

Où placer le curseur, alors ?

C'est la vraie question, et elle n'a pas une réponse unique, elle en a plusieurs selon le contexte. Mais une grille de lecture m'aide :

Plus la tâche est répétitive, structurée et vérifiable, plus l'IA peut la prendre en charge. Plus elle engage du jugement, des relations humaines, ou des décisions à enjeux, plus l'humain doit garder la main. En somme, Plus il y a un impact, plus l'IA doit être sous contrôle.

Par exemple :

Trier 500 produits par catégorie ? L'IA le fait mieux que vous. Rédiger une première version d'article ? Elle vous fait gagner une heure.

Décider si vous licenciez quelqu'un, signez un contrat sensible, ou répondez à une plainte ? Pour cela, il vaut mieux éteindre l'agent et réfléchir comme un grand.

Et si demain, l'IA s'éteignait ?

Il y a un dernier point, qui n'est ni technique ni technologique. L'IA a-t-elle un intérêt pour l'humanité ? Doit-on déléguer notre capacité cérébrale à l'IA au point d'en devenir dépendants ? Et si l'IA s'éteignait demain, serions-nous vulnérables ?

Le philosophe français Bernard Stiegler parlait de "prolétarisation" pour décrire ce phénomène où l'on délègue nos savoir-faire aux machines, jusqu'à perdre la capacité de les exercer nous-mêmes. La calculatrice ne nous a pas fait perdre l'arithmétique du jour au lendemain, mais combien d'entre nous calculent encore un pourcentage de tête sans transpirer ?

Avec l'IA générative, le risque est d'un autre ordre. Ce n'est plus seulement nos calculs ou notre mémoire qu'on délègue. C'est notre réflexion, notre écriture, notre créativité. Notre capacité à structurer une pensée, à formuler une idée avec nos propres mots, à argumenter, à résonner.

Et les premiers signaux ne sont pas rassurants. Des chercheurs commencent à étudier l'impact d'un usage intensif de l'IA chez les étudiants, et les résultats préliminaires pointent vers une baisse d'activité cérébrale et une moindre capacité rédactionnelle chez ceux qui s'en servent pour tout. Le cerveau fonctionne comme un muscle. Ce qu'on ne fait plus, on ne sait plus le faire.

La question n'est donc pas "l'IA va-t-elle remplacer l'humain ?". Elle est plus inconfortable : "Combien de notre humanité sommes-nous prêts à externaliser pour gagner du temps ?"

Ma position

Je crois que l'IA est l'un des outils les plus puissants qu'on ait jamais inventés. Mais c'est un outil. Pas un collègue, pas un coach, pas un cerveau de substitution. L'IA doit nous assister, sous contrôle constant.

Ma règle personnelle, en gros : l'IA pour les premières versions, jamais pour les versions finales. Pour réfléchir avec, pas pour réfléchir à ma place. Pour automatiser ce qui n'a pas d'enjeu humain, jamais ce qui en a. Et toujours, toujours, un humain qui relit, valide, décide.

L'IA doit aussi s'appuyer sur un socle structuré et contextualisé. Ce socle, c'est à nous de le construire. Qui à part nous-mêmes connaissons mieux le contexte dans lequel on évolue ? Qui pour savoir ce qu'on attend comme type de réponse et ce qu'on n'attend pas ? Vous l'aurez compris, les questions ici sont rhétoriques.

Stephen Hawking l'avait formulé dès 2014, dans une tribune du Independent :

"La réussite dans le développement de l'IA pourrait être l'événement le plus important de l'histoire humaine, ou potentiellement le dernier, si on n'apprend pas à en maîtriser les risques."

On est encore loin de cette extrémité. Mais le principe est juste : la technologie ne nous sauve pas toute seule. Le pilote, c'est nous. L'IA est dans le siège passager. Elle nous assiste, mais ne prend jamais les commandes seule.

Si demain l'IA disparaissait, j'aimerais ne pas avoir oublié comment écrire, comment penser, comment décider. C'est peut-être ça, la vraie hygiène à se fixer : utiliser l'IA chaque jour comme si elle pouvait disparaître demain.