Une découverte qui fait grincer des dents
Des chercheurs et utilisateurs avertis ont récemment fait une découverte troublante : les dernières versions de ChatGPT semblent utiliser Grokipedia, l'encyclopédie en ligne lancée par Elon Musk via xAI, comme l'une de leurs sources d'information. Cette révélation, confirmée par plusieurs tests indépendants, soulève des questions fondamentales sur la chaîne d'approvisionnement informationnelle des grands modèles de langage.
Grokipedia : une encyclopédie controversée
Lancée comme alternative à Wikipédia, Grokipedia se distingue par son approche moins stricte de la vérification des faits et son ouverture à des perspectives "alternatives". Si cette philosophie peut sembler attrayante pour certains, elle a également ouvert la porte à des informations de qualité variable, voire à de la désinformation caractérisée.
Le fait qu'OpenAI, entreprise qui se targue de développer une IA sûre et fiable, utilise une telle source dans son processus d'entraînement ou de recherche en temps réel pose un problème évident de crédibilité. Comment peut-on faire confiance à un assistant qui s'appuie sur des sources dont la rigueur éditoriale est contestée ?
Le problème de la provenance des données
Cette affaire met en lumière un enjeu crucial et souvent sous-estimé dans le développement de l'IA : la qualité et la provenance des données d'entraînement. Les grands modèles de langage sont littéralement façonnés par les textes qu'ils ingèrent. Si ces textes contiennent des erreurs, des biais ou des informations fausses, le modèle les reproduira inévitablement.
OpenAI n'a jamais été totalement transparent sur les sources utilisées pour entraîner ses modèles. Cette opacité, justifiée par des raisons commerciales et de sécurité, rend difficile toute évaluation indépendante de la fiabilité intrinsèque des réponses de ChatGPT.
Les utilisateurs comme bêta-testeurs involontaires
Cette situation place les utilisateurs dans une position inconfortable. Chaque réponse de ChatGPT devient suspecte : est-elle basée sur des sources fiables, sur Grokipedia, ou sur un mélange des deux ? Sans outil pour tracer la provenance des informations, impossible de le savoir.
Certains experts recommandent désormais de systématiquement vérifier les affirmations de ChatGPT, particulièrement sur des sujets sensibles ou d'actualité. Un conseil de bon sens, mais qui remet en question l'utilité même d'un assistant censé nous faire gagner du temps.
Vers une certification des sources d'IA ?
Cette controverse pourrait accélérer les discussions autour de la régulation et de la certification des modèles d'IA. Des propositions émergent pour obliger les entreprises à divulguer leurs sources d'entraînement, ou au moins à garantir un certain niveau de qualité informationnelle.
L'Union européenne, avec son AI Act, a déjà posé les premières pierres d'un tel cadre réglementaire. Mais la route est encore longue avant que les utilisateurs puissent avoir une confiance éclairée dans les informations fournies par leurs assistants IA.
L'ironie de la situation
Il y a une ironie mordante dans cette situation : xAI, l'entreprise d'Elon Musk, est un concurrent direct d'OpenAI. Que les modèles d'OpenAI s'appuient sur le contenu produit par l'écosystème de son rival illustre à quel point le web est devenu un espace d'interdépendance complexe, où même les concurrents les plus acharnés finissent par se nourrir mutuellement.