Thème : L’intelligence artificielle : au-delà de ChatGPT, un monde à découvrir (Partie II)

Voici le lien de la première partie : L’intelligence artificielle au-delà de ChatGPT : un monde à découvrir (Partie I)

Après avoir exploré les bases et les concepts fondamentaux de l’intelligence artificielle, il est temps de s’aventurer dans des questions plus complexes et parfois sensibles. Dans cette deuxième partie, nous allons explorer des problématiques qui vont au-delà de la technique : là où l’IA, outil puissant et révolutionnaire, suscite également des débats éthiques, philosophiques et pratiques. Peut-on faire confiance, sans réserve, à ce que l’IA — comme ChatGPT — nous affirme ? Si l’intelligence artificielle prend une place toujours plus importante dans notre quotidien, pourrait-elle bientôt remplacer des humains dans des postes intellectuels ? Et, dans un contexte où l’IA devient incontournable, ne pas l’utiliser serait-il un choix « CON » ? Enfin, avec la puissance de l’IA, quelles précautions devons-nous prendre lorsqu’il s’agit de manipuler des données sensibles ? Autant de questions cruciales que nous aborderons dans cette seconde partie pour mieux comprendre les implications de l’IA, ses risques et ses opportunités. Restez avec nous pour un décryptage des enjeux de cette révolution technologique.

Voici un rappel des questions qui nous attendent :

5 – Est-ce que ce que raconte l’IA est vrai ? Par exemple, ChatGPT dit-il toujours la vérité ?
6 – Est-ce que l’IA pourrait remplacer les humains dans des postes intellectuels dans un avenir proche ?
7 – Est-ce CON de ne pas utiliser l’IA de nos jours ?
8 – Est-ce dangereux d’utiliser l’IA quand on manipule des données sensibles ?
BONUS : Raccrochons tous les wagons pour voir l’intégralité du train dans lequel vous vous embarquez !

5 – Est-ce que ce que raconte l’IA est vrai ? Par exemple, ChatGPT dit-il toujours la vérité ?

Je n’oserais pas utiliser les mots MENTIR ou VÉRITÉ en parlant de l’IA. Mentir ou dire la vérité suppose une intention consciente — celle de tromper ou de dire le vrai. Or, une IA n’a ni conscience, ni volonté propre.
Parler de vérité ou de mensonge pour une IA, c’est un peu comme accuser une calculatrice de tricherie : elle ne fait que suivre des instructions. Si une calculatrice donne un mauvais résultat, on parle d’un bug ou d’un défaut de fabrication.

Dans le cas de l’IA, on parlera plutôt d’un défaut d’entraînement — lié à des données qui peuvent être fiables, parfois lacunaires.

L’IA ne manipule que des informations — qu’elles soient bonnes, incomplètes ou dépassées. Elle n’a ni connaissance, ni compréhension, ni jugement. Son rôle se limite à agréger, analyser et restituer des informations via des modèles mathématiques, assemblant un puzzle statistique dont les pièces sont parfois bien ajustées, parfois bancales. Elle ne vérifie pas les faits comme un humain.

OUFFF, trop de littérature pour dire à la fin que l’IA peut donner des réponses incorrectes, incomplètes ou dépassées.

Pourtant, je vous avais promis de la concision. Mais bon, je reste ZEN, la patience est guinéenne. Si vous avez digéré la Transition, puis la Refondation et bientôt la Consolidation de tout ça, avec « IL RESTE », ce n’est pas le volume de mon article qui va vous révolter.

– Le talon d’Achille de l’intelligence artificielle

La faiblesse de l’IA réside dans sa force : elle répond à tout, quitte à inventer. Elle a un talon d’Achille, et cela s’appelle dans le jargon de l’IA : les « hallucinations ».

– Pourquoi hallucine-t-elle ?

Elle est conçue pour nous satisfaire et répondre à tout, absolument tout, dans une quête obsessionnelle de plaire à son ‘patron’ (nous, les utilisateurs). Lorsqu’elle est à défaut d’informations, elle en invente et nous les donne quand même. Un exemple éclairant d’hallucinations de ChatGPT : J’ai écrit dans le prompt de ChatGPT ceci « Dr Alhassane MAKANERA », vous serez étonné de la réponse (voir le premier commentaire ou l’image ci-dessous), préparez-vous à une mini-biographie fictive.

6 – Est-ce que l’IA pourrait remplacer les humains dans des postes intellectuels dans un avenir proche ?

NON, l’IA ne va pas remplacer les humains dans des postes intellectuels, ni dans un avenir proche, ni dans un avenir lointain. JAMAIS (rires)

– Pourquoi ?

Franchement, en relisant ma phrase précédente, je me demande si quelqu’un n’a pas mis quelque chose de pas très catholique dans mon café du matin… Parce que sortir une énormité pareille, alors que les statistiques hurlent à plein poumons que l’IA a déjà supprimé des millions de postes intellectuels, c’est quand même osé !

Mais j’ai mes raisons. Voyons ça ensemble avec les étapes d’un projet d’innovation à dominante intellectuelle (qui, selon moi, est le seul digne d’être qualifié de projet mobilisant de vraies compétences intellectuelles).

Tout projet humain ambitieux est une suite de trois phases ou peut se résumer en trois mots : idée, formalisation et exécution.

La première phase de cette suite, consiste à trouver l’idée (imaginer des concepts totalement nouveaux, des réponses à des besoins nouveaux qui n’existaient pas) : ceci passe inévitablement par la créativité, par l’innovation, par la résolution de problèmes inédits etc…
Ensuite vient la formalisation de cette idée ou de ces concepts pour les rendre exploitables. Et enfin, la dernière de la suite est la phase d’exécution.

Les deux premières étapes de ce triptyque, qui sont les plus importantes, sont infaisables (irréalisables) même par l’IA générative. Celle-ci (IA générative) ainsi que ses cousins moins aboutis, n’interviennent qu’à la dernière étape, la moins intelligente, qui est l’exécution des tâches d’un projet (tâches manuelles ou purement techniques). L’IA ne coche qu’une case sur trois, là où l’humain les remplit toutes..
Donc NON, l’IA actuelle (IA faible) ne peut pas remplacer les postes intellectuels qui requièrent de la créativité, de l’ex nihilo.

L’IA pourrait peut-être nous remplacer un jour, mais ce serait le jour où l’homme arrêterait d’être curieux et explorateur — autrement dit, JAMAIS.

Car s’il est une chose chez l’homme qui ne s’use pas, qui ne vieillit pas, qui ne prend pas une ride, c’est bien sa curiosité. Depuis Toumaï, en passant par Homo erectus, jusqu’à Homo sapiens que nous sommes, cette curiosité ne cesse de grandir, de s’envoler toujours plus haut. C’est elle qui, parce que nous rêvions de voler comme les oiseaux sans en avoir les moyens physiques, nous a poussés à inventer l’avion. Parce que nous voulions communiquer à distance sans crier, elle nous a inspirés à créer le téléphone. Parce que nous voulions multiplier notre mémoire et notre capacité de calcul, elle nous a conduits à inventer l’ordinateur. Et demain ? Qui sait jusqu’où cette soif d’explorer et de comprendre nous portera ?

À chaque fois, la curiosité humaine a produit de l’inédit, de l’ex nihilo, là où il n’y avait rien. Tant que cette force restera vivante, les postes intellectuels créatifs resteront exclusivement humains, et l’IA ne pourra être qu’un outil à notre service, dépendant de notre supervision.
Donc si vous avez un travail intellectuel qui requiert un cerveau capable d’imaginer ce qui n’existe pas encore, dormez tranquille : vous êtes irremplaçable.

Mais attention, je vous ai dit de dormir, pas de ronfler ! Sinon, le réveil pourrait être brutal… L’IA n’attend que ça pour prendre sa revanche.

– ET ces millions de postes que l’IA a supprimés alors ?

Vous avez déjà écouté les discours policés de vos ministres ? Ceux qui parlent de « réduction de la charge des agents », d’ « amélioration de l’accueil », ou encore de « réorientation vers des missions à plus forte valeur ajoutée » …Tout cela n’est qu’une manière élégante de signifier aux agents d’accueil, agents administratifs, guichetiers, agents d’escale ferroviaire, etc. que vous ne servez plus à rien.

On vous remplace par des interfaces numériques, des bornes interactives, des chatbots, des formulaires automatisés, etc.

Dans le discours officiel, il ne s’agit jamais de remplacer des agents ou de supprimer des postes. Non, on appelle ça la « modernisation des services ».
Pourtant, partout où il y avait cinq agents en service, quatre disparaissent, et il n’en reste qu’un, uniquement là pour intervenir lorsque l’usager est complètement perdu.

Donc oui, la machine, et par ricochet l’IA, remplace bel et bien certains métiers : traducteurs, recruteurs, courtiers, traders, relecteurs, sous-titreurs, créateurs de matériel pédagogique, designers graphiques, etc.

Ce sont surtout les métiers les moins exigeants en compétences cognitives, analytiques ou créatives qui sont voués à disparaître dans un avenir pas si lointain.

7 – Est-ce CON de ne pas utiliser l’IA de nos jours ?

Oui. C’est même très CON.

Je le dis sans détour. Pas parce que c’est à la mode, mais parce que refuser l’IA aujourd’hui, c’est comme refuser l’électricité ou le téléphone à leur époque.

– Pourquoi ?

Parce que l’humanité a connu dans son histoire des tournants majeurs, des points de bascule irréversibles. Des révolutions qui ne sont pas dans notre sang, mais qui sont infusées dans le système humain.

Des choses qu’on ne peut plus « désinstaller », même si on le voulait. C’est comme si elles étaient gravées dans la carte mémoire de notre civilisation : on ne peut plus les formater.

Si l’on me demande mon avis, je dirais que ces points de bascule irréversibles sont au nombre de sept :

1- La découverte et la maîtrise du feu : Se chauffer, cuire les aliments, se protéger : c’est là que tout a commencé.
2- L’agriculture : Fin de la chasse quotidienne. On plante, on récolte, on s’installe. Les villages naissent. Les sociétés aussi.
3- L’écriture : L’homme commence à transmettre ses idées, son histoire, sa mémoire. C’est le début de la culture et de l’héritage culturel.
4- La révolution industrielle : Des machines remplacent les bras. Villes, usines, vitesse. Le monde accélère.
5- La médecine et les vaccins : On comprend notre corps. On soigne. On vit plus longtemps. On affronte les épidémies.
6- Internet et le numérique : Le monde devient connecté. Tout va plus vite. L’information circule en un clic.
7- L’intelligence artificielle : Aujourd’hui, l’IA ne remplace plus seulement les bras… mais parfois les décisions, la réflexion, la création. On n’est pas dans un gadget. On est dans une vraie révolution technoscientifique.

Alors, est-ce CON de ne pas l’utiliser ? Oui.

C’est comme prétendre qu’on peut vivre sans électricité, sans téléphone, ou sans écrire. Vous pouvez refuser l’IA. Vous pouvez détourner le regard. Mais pendant ce temps, le monde avance sans vous. C’est comme si un arbre tombait sur la seule route qui mène à demain, et que tu décidais de ne rien faire. Vous pouvez l’ignorer un moment. Mais à un moment ou un autre, il faudra avancer.

8 – Est-ce dangereux d’utiliser l’IA pour manipuler des données sensibles ?

OUI. Utiliser des IA génératives pour traiter des données sensibles est dangereux.

Prenons l’exemple de Gemini : dès sa première utilisation, elle vous informe clairement — ce que d’autres IA ne font pas forcément aussi ouvertement :

«Des réviseurs humains lisent certaines discussions enregistrées afin d’améliorer l’IA de Google. Pour éviter cela, vous pouvez désactiver l’activité dans les applications Gemini.
Si ce paramètre reste activé, ne saisissez aucune information que vous ne souhaiteriez pas que quelqu’un examine ou utilise. »

Les autres plateformes ont des clauses similaires, mais souvent noyées dans leurs conditions d’utilisation. Pourquoi ?  Parce que c’est là que réside l’enjeu.

Ce qu’il faut savoir, c’est que l’IA enregistre tout : vos conversations, vos questions, vos rapports, vos documents, vos brouillons… tout ce que vous lui soumettez pour révision ou amélioration.
Ces données servent ensuite à entraîner les modèles, et peuvent ressortir dans les réponses données à d’autres utilisateurs.
Que vos contenus soient confidentiels, privés ou publics ne change pas grand-chose, malgré ce que disent les discours officiels.
La preuve ? Même des contenus protégés ont été utilisés sans autorisation. Si l’IA a pu plagier de grandes plateformes sans leur consentement, que penser de ce que vous lui donnez directement, sans aucune barrière ?

– Quelques exemples de poursuites judiciaires contre OpenAI (ChatGPT) :

New York Times : en décembre 2023, le journal a porté plainte contre OpenAI et Microsoft, accusant ChatGPT d’avoir utilisé des millions d’articles sans autorisation pour entraîner son IA, et d’être capable de reproduire des extraits protégés par le droit d’auteur – y compris en contournant les paywalls.

D’autres acteurs ont suivi : Ziff Davis, huit journaux américains, Asian News International (ANI), plusieurs médias canadiens, et bien d’autres encore.

Certes, les entreprises qui développent ces IA proposent des réglages pour ne pas utiliser vos données à des fins d’entraînement. C’est rassurant, en théorie.

Mais posons-nous la vraie question : une entreprise capable de plagier les géants de son domaine, en toute connaissance des risques juridiques, va-t-elle vraiment respecter votre case cochée « ne pas utiliser mes données » ? Croire qu’elle le fera relève du pari.
C’est comme si un voleur défonçait votre porte, et vous disait ensuite : « Si tu laisses ta porte ouverte avec un panneau « Ne pas voler », je te promets de ne rien toucher. »

Tu y crois ? C’est ton choix.
La vie, c’est une question de confiance. À chacun de faire la sienne.

Raccrochons les wagons pour voir l’intégralité du train dans lequel vous vous embarquez !

Je voulais vous éviter l’affront de vous rabâcher une suite logique de NOUS, mais l’idée me démangeait tellement que je me suis dit : je le ferai quand même.

Bon, raccrochons les wagons pour que vous ayez toute la trame depuis le début.

• Nous avons dit que l’intelligence artificielle est toute forme d’intelligence non biologique, conçue pour imiter, simuler ou dépasser certaines capacités humaines.
• Nous avons dit qu’en 2025, il existe des millions d’IA, des plus utilitaires (Siri, Google Maps) aux plus génératives (ChatGPT, Gemini), en passant par celles qui redéfinissent notre rapport à l’image (filtres Instagram, Deepfake).
• Nous avons dit que ces IA se classent en trois catégories : les ANI (faibles et spécialisées), les AGI (fortes et généralistes, encore hypothétiques), et les ASI (superintelligences, purement fictionnelles).
• Nous avons dit que ChatGPT, champion des IA génératives, fonctionne comme un chef improvisant une recette : il prédit mot après mot, sans jamais savoir ce qu’il va dire, seulement calculer des probabilités.
• Nous avons dit que l’IA a bouleversé le travail intellectuel en automatisant les tâches répétitives, mais qu’elle ne remplacera jamais la créativité humaine — sauf pour les métiers les moins exigeants cognitivement.
• Nous avons dit que l’IA n’est ni véridique ni menteuse, mais qu’elle « hallucine » parfois, inventant des réponses quand elle manque de données.
• Nous avons dit que ne pas utiliser l’IA aujourd’hui, c’est comme refuser l’électricité en 1900 : techniquement possible, mais très con.
• Nous avons dit, enfin, que confier des données sensibles à l’IA, c’est comme laisser ses clés à un voleur en lui disant « Promets de ne pas entrer » — possible, mais peu sage.

Vous avez ainsi tous les wagons.

Il ne me reste plus qu’à y rattacher la locomotive, qui est ce mot, simple mais sincère : MERCI — avec toute l’intensité du mot.

 
MAKANERA Mohamed Lamine
Consultant en Informatique, D.S.I Conforama France