Une découverte troublante
Des chercheurs indépendants viennent de mettre en lumière une réalité que peu anticipaient : les dernières versions de ChatGPT intègrent des informations provenant de Grokipedia, l'encyclopédie alimentée par l'IA de xAI, la société d'Elon Musk. Cette révélation, confirmée par des tests reproductibles, bouleverse notre compréhension de l'écosystème informationnel des modèles de langage.
Le phénomène a été identifié lors d'analyses systématiques des réponses de ChatGPT sur des sujets d'actualité. Certaines formulations, certains biais factuels, et surtout certaines erreurs spécifiques à Grokipedia se retrouvent dans les outputs d'OpenAI. La coïncidence statistique est trop forte pour être ignorée.
Les implications pour l'utilisateur
Cette situation pose un problème de confiance majeur. Quand un utilisateur interroge ChatGPT, il s'attend à recevoir des informations neutres, ou au minimum, à comprendre d'où proviennent les données. L'utilisation de Grokipedia comme source introduit plusieurs risques.
Premièrement, Grokipedia n'est pas Wikipedia. Sa méthodologie éditoriale reste opaque, et son association avec xAI et Twitter/X suggère des biais potentiels alignés avec la vision de son fondateur. Les sujets politiques, économiques, et technologiques pourraient être présentés sous un angle particulier.
Deuxièmement, cela crée un effet de chambre d'écho entre IA. Si ChatGPT utilise Grok comme source, et que Grok s'entraîne peut-être sur des contenus générés par ChatGPT, nous entrons dans une boucle de rétroaction où les erreurs se propagent et s'amplifient.
La question de la transparence
OpenAI a construit sa réputation sur l'idée d'une IA accessible et relativement transparente. Mais les sources d'entraînement restent un secret commercial jalousement gardé. Cette opacité devient problématique quand elle masque des choix éditoriaux implicites.
Les utilisateurs méritent de savoir si les informations qu'ils reçoivent proviennent de sources fiables, vérifiées, ou de plateformes dont les standards éditoriaux sont discutables. Sans cette transparence, l'IA devient une boîte noire qui amplifie potentiellement des narratifs biaisés tout en maintenant une apparence de neutralité.
Un précédent dangereux pour l'industrie
Cette découverte devrait servir d'avertissement pour l'ensemble de l'industrie IA. La course à l'accumulation de données pousse les entreprises à utiliser toutes les sources disponibles, sans nécessairement évaluer leur qualité ou leur neutralité.
Le problème s'aggrave avec la raréfaction des données de qualité. Le web se remplit progressivement de contenus générés par IA, créant une spirale où les modèles s'entraînent sur leurs propres outputs, dégradant progressivement la qualité informationnelle.
Que faire en tant qu'utilisateur ?
Face à cette réalité, l'esprit critique devient plus crucial que jamais. Il est recommandé de toujours vérifier les informations importantes auprès de sources primaires. Ne jamais considérer une réponse d'IA comme une vérité établie, mais plutôt comme un point de départ pour une recherche plus approfondie.
La diversification des outils est également sage. Utiliser plusieurs modèles d'IA, comparer leurs réponses, identifier les divergences. Ces divergences sont souvent les indices les plus fiables de biais sous-jacents ou d'incertitudes factuelles.
Vers une régulation des sources ?
Cette affaire relance le débat sur la nécessité de réguler les sources de données des modèles d'IA. Certains proposent d'imposer une transparence sur les datasets d'entraînement. D'autres suggèrent la création de labels de qualité pour les sources d'information utilisées par les IA.
L'Union Européenne, avec son AI Act, commence à poser les bases de telles exigences. Mais la mise en application reste complexe dans un environnement technologique qui évolue plus vite que les législateurs ne peuvent suivre.
En attendant, cette découverte nous rappelle une vérité fondamentale : les IA ne sont pas des oracles neutres, mais des systèmes construits par des humains, avec des choix, des biais, et des intérêts. Notre responsabilité est de ne jamais l'oublier.