Les intelligences artificielles génératives sont capables du meilleur comme du pire. Mais elles souffrent d’un mal récurrent. Inventer des informations, parfois totalement imaginaires.
Des réponses convaincantes mais fausses
Les grands modèles de langage sont impressionnants. Ils savent résumer des textes, expliquer des notions complexes ou même répondre à des questions précises. Pourtant, il arrive qu’ils génèrent des réponses incorrectes et parfois même très éloignées de la vérité. Le problème est connu de tous les géants du secteur. OpenAI, Gemini ou encore Grok travaillent à limiter ces erreurs mais aucun n’a encore réussi à les faire disparaître.
Certaines dérives sont sans gravité. D’autres, en revanche, peuvent avoir de lourdes conséquences. Derrière ce type d’erreur se cachent plusieurs causes. Selon Google Cloud, elles peuvent provenir de données d’entraînement insuffisantes, du manque de fiabilité dans les contenus utilisés ou encore de mauvaises interprétations de la part du modèle.
Les systèmes d’IA s’appuient sur d’immenses corpus de textes, apprenant à identifier les éléments permettant d’apporter des réponses claires et correctes. Toutefois, si les données sont incomplètes ou biaisées les réponses le seront aussi. Autre facteur important, le manque d’ancrage dans la réalité. Ces outils ne « comprennent » pas le monde. Ils ne vérifient pas leur sources. Ils génèrent ce qui semble plausible mais ne garantie pas l’exactitude de l’information.
Des garde-fous encore imparfaits
Face à ces risques, les entreprises misent sur des outils d’évaluation. OpenAI, par exemple, a soumis son nouveau modèle GPT-5, à des tests rigoureux. Deux benchmarks ont été utilisés, à savoir, Longfact, qui mesure la précision sur des réponses longues à des questions complexes et SimpleQA, qui vérifie la capacité à répondre correctement à des requêtes courtes et factuelles.
OpenAI affirme avoir réduit significativement le taux d’erreurs. Selon ses données internes, GPT-5 produit 45% de contenus incorrects en moins que la version précédente. Un progrès certain mais dont les résultats doivent tout de même être relativisés. Les tests restent limités. « SimpleQA est précis mais restreint« , reconnait OpenAI. Il ne couvre que des requêtes très structurés, loin des questions ambiguës ou ouvertes que posent souvent les utilisateurs.
Il reste techniquement impossible à ce jour de garantir une fiabilité totale. Ces outils sont conçus pour produire des réponses crédibles, mais ils ne vérifient pas systématiquement les faits qu’ils avancent. Leur compréhension reste superficielle. Cela signifie, que même avec les meilleurs intentions, ils peuvent encore inventer des éléments ou combiner des données de manière trompeuse.
Pour les chercheurs comme pour les développeurs, le défi est de taille. Il ne s’agit pas seulement de rendre les modèles plus puissants mais également plus responsables. Cela passe par une meilleur sélection des données et des systèmes de vérifications intégrés. Car si les intelligences artificielles savent produire des réponses concrètes et proches de la réalité, elle sont aussi douées pour inventer, avec sérieux, tout type d’informations.