Publications /
Opinion
Depuis le lancement de GPT-4 en mars 2023, un discours de plus en plus en vogue affirme que « si vous ne maîtrisez pas l'Intelligence artificielle (IA) vous serez dépassé ». On parle de prompt engineering comme s'il s'agissait d'une compétence ésotérique réservée à une élite technologique. Les réseaux sociaux professionnels regorgent de profils qui se présentent comme « experts en IA » après avoir suivi une formation de deux semaines. L'alarmisme fait vendre, et le sujet s'y prête bien.
Ce que ce discours distille discrètement c'est le risque inverse : celui d'une dette cognitive croissante, où l'usage intensif de l'IA sans recul critique érode progressivement notre capacité à évaluer, à questionner et à penser par nous-mêmes. Derrière la controverse, une vraie question mérite d'être posée : quelle est la compétence humaine que l'ère de l'IA rend indispensable ?
La vérification, compétence négligée de l'IA
Lorsqu'on a interrogé Terence Tao, médaillé Fields et considéré par beaucoup comme le plus grand mathématicien vivant, et professeur à l'Université de Californie, sur la façon dont il aborde l'usage de l'IA par ses étudiants, il a proposé un nouveau type de devoir : soumettre à l'étudiant une question mathématique accompagnée de la réponse générée par ChatGPT, et lui demander de vérifier la réponse obtenue, de l'analyser, de la corriger si nécessaire [1]. Non pas « utilise l'IA pour répondre », mais « vérifie ce que l'IA a généré comme réponse ».
Ce glissement est fondamental. Il ne s'agit plus de produire une réponse, mais d'évaluer la fiabilité d'une réponse déjà générée.
Les outils d'IA générative présentent une caractéristique trompeuse : la forme de leurs réponses inspire confiance. Le texte est fluide, la mise en page soignée, le ton assuré. Mais ce vernis formel ne dit rien sur la qualité du contenu. Des travaux de recherche ont montré que les hallucinations, c'est-à-dire la génération d'informations fausses présentées comme vraies, ne sont pas un bug qu'on peut corriger : elles constituent une limitation inhérente à l'architecture même des grands modèles de langage [2]. OpenAI reconnaît lui-même que ces erreurs persistent parce que les méthodes d'évaluation standard récompensent la confiance plutôt que l'honnêteté : un modèle qui devine obtient un meilleur score qu'un modèle qui admet son incertitude [3]. Ce biais structurel ne disparaîtra pas avec la prochaine version du produit.
Le cadre de littératie en IA développé conjointement par l'OCDE (Organisation de commerce et de développement économiques) et la Commission européenne le formule clairement : penser de manière critique dans un contexte IA signifie vérifier si l'information fournie est exacte, pertinente et équitable. Parce que les systèmes d'IA peuvent produire des contenus convaincants mais incorrects ou biaisés, les utilisateurs doivent identifier la désinformation potentielle [4]. La vérification n'est pas un détail de méthode. C'est la compétence qui détermine si un individu ou une organisation tire réellement profit de l'IA, ou se contente d'en subir les erreurs à grande vitesse.
Un risque qui dépasse l'individu
Le monde du développement logiciel offre une illustration concrète de ce phénomène à l'échelle collective. GitHub, la principale plateforme d'hébergement de projets open source, a formellement reconnu que les contributions générées par l'IA inondent les projets, forçant les mainteneurs à trier des soumissions de faible qualité qui menacent la viabilité même de ces communautés [5]. Une analyse empirique portant sur 470 projets a montré que le code généré par l'IA produit 1,7 fois plus de problèmes que le code écrit par des humains [6]. Le paradoxe est là : des contributeurs produisent davantage, plus vite, mais sans capacité d’évaluer ce qu'ils produisent. Le volume augmente, la qualité chute, et c'est toute la communauté qui en assume le coût.
Ce qui se joue dans le logiciel se joue aussi dans la recherche et l'analyse de politiques publiques. Un chercheur qui utilise l'IA sans maîtriser suffisamment son sujet pour en évaluer les sorties ne produit pas plus : il produit plus vite des erreurs qu'il ne détectera pas. Pour un centre de réflexion, dont la valeur repose précisément sur la rigueur et la crédibilité de ses analyses, ce risque n'est pas théorique. Presque la moitié de la génération Z obtient de mauvais résultats lorsqu'il s'agit d'évaluer les lacunes critiques des technologies d'IA, comme la capacité de ces systèmes à inventer des faits [4]. Ce n'est pas une question de génération : c'est une question de formation, de culture de la vérification, et de priorités institutionnelles.
La vraie question à poser n'est donc pas « comment former nos équipes au prompt engineering ? » mais plutôt « comment renforçons-nous notre capacité collective à vérifier, questionner et valider ce que produisent ces outils ? »
L'IA amplifie les capacités de ceux qui savent évaluer son travail. Pour tous les autres, elle amplifie surtout la confiance, et la confiance non vérifiée est, en matière de connaissance, le risque le plus sous-estimé de notre époque.
Références
[1] OpenAI Forum. Exploring the Future of Math & AI with Terence Tao and OpenAI. forum.openai.com, 2023.
[2] Xu, Z. et al. Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv:2401.11817, 2024.
[3] OpenAI. Why Language Models Hallucinate. openai.com, 2025.
[4] OECD / Commission européenne. Empowering Learners for the Age of AI: An AI Literacy Framework. ailiteracyframework.org, 2025.
[5] GitHub Community. Exploring Solutions to Tackle Low-Quality Contributions on GitHub. github.com/orgs/community/discussions/185387, 2026.
[6] CodeRabbit. State of AI vs Human Code Generation Report. coderabbit.ai, 2025.
