L’émergence de ChatGPT, agent conversationnel lancé par la société américaine OpenAI, contrôlée par Microsoft, suscite une profonde admiration concernant l’évolution de l’intelligence artificielle (IA). Est-elle une nouvelle étape franchie dans le dépassement de l’homme par la machine ? Pour QG, l’entrepreneur Tariq Krim, fondateur de Netvibes, et ancien vice-président du Conseil national du numérique, souligne combien ChatGPT, et l’IA en général, relèvent d’une trajectoire accompagnée par le pouvoir politique, qui mène droit à une « bureaucratie numérique » et à une réservation des contenus qualitatifs et des postes clés à une élite. Interview par Jonathan Baudoin

QG: Quel regard portez-vous sur ChatGPT, ainsi que sur les espoirs et les craintes que cela suscite aujourd’hui?

Tariq Krim : Avant ChatGPT, il y a eu beaucoup de tentatives de chatbots intelligents. Entre 1964 et 1966, Joseph Weizenbaum introduit Eliza, le pionnier des chatbots modernes, basé sur une technique consistant à reformuler les mots-clés de vos réponses en usant d’une forme interrogative. Il était inspiré par la méthode du psychologue Carl Rogers, qui était connu pour demander à ses patients de répéter ses questions. Inventée pendant la période de la guerre Vietnam, la machine a été envisagée pour traiter un très grand nombre de soldats qui rentraient dans un état psychologique de détresse. Mais la principale découverte du concepteur d’Eliza c’est qu’en voulant regarder ce que sa secrétaire demandait à l’ordinateur cette dernière s’est retournée vers lui en lui disant: « Excusez-moi, mais je suis dans une conversation privée. » Le sentiment d’intimité avec la machine pourrait permettre aux humains de livrer leurs secrets les plus privés.

C’est quelque chose que l’on retrouve dans ChatGPT. Ce système a réussi à construire un sentiment, une proximité, que les mots apparaissent un par un comme lorsqu’un ami nous écrit sur la messagerie Whatsapp. Pourtant la machine ne sait pas ce qu’elle écrit, les réponses sont basées sur un modèle purement statistique. C’est un peu comme le correcteur orthographique de Google, où des phrases sont complétées. Sauf que là, il construit toute la phrase. Il est excellent pour faire des traductions, pour faire de l’écriture, des résumés, de la synthèse. Par exemple, vous pourriez prendre un texte de 10.000 mots et demander à ChatGPT de faire un résumé en 3.500 mots tout en ayant du sens, et il va faire ce travail. Le succès de ChatGPT vient de son côté bluffant, mais surtout du fait qu’il nous donne le sentiment, pour la première fois, d’être face à un produit qui peut s’intégrer dans notre environnement de travail de manière quasiment automatique.

ChatGPT est aussi une réussite marketing. C’est un produit qui a été développé grâce à des technologies inventées par Google et qui sont désormais exploitées par leur concurrent direct Microsoft. On imagine la bataille dantesque qu’ils vont se livrer.

QG : Est-ce que l’attention médiatique autour de ChatGPT, lancée par OpenAI, masque la survenue d’IA provenant d’autres GAFAM ?

On sait que chaque plateforme a ses propres équipes en intelligence artificielle. Il y a beaucoup de Français dans ces équipes, à l’image du dernier produit de Facebook majoritairement construit par des Polytechniciens et des normaliens. Ces écoles ont d’ailleurs des partenariats avec les GAFAM. Ce qui pose d’ailleurs la question du siphonnage de nos talents, encouragé hélas par le gouvernement. Avec de l’argent public !

La chercheuse érythréenne Tinmit Gebru a été remerciée par Google pour avoir critiqué les biais de standardisation de l’IA (elle était co-responsable de l’équipe travaillant sur l’éthique, et a été licenciée en 2020 par la firme, NDLR). Dans l’IA comme dans les moteurs de recherche, il faut des produits mondiaux, plutôt que des IA plus spécifiques et respectueuses des cultures locales. Le problème de ChatGPT c’est qu’il veut régurgiter la culture mondiale mais avec un modèle de pensée très anglo-saxon. Enfin pour partie, car ce sont des Kenyans payés deux dollars de l’heure qui ont travaillé sans relâche pour le rendre plus performant. C’est toujours intéressant de voir que ce mélange entre très haute technologie et low-tech n’est jamais ce sur quoi on communique.

Par ailleurs, l’IA arrive à un moment où le monde du mobile stagne. La Silicon Valley a besoin de nouveaux relais de croissance. Hélas comme c’était déjà le cas pour le mobile, ce sont les grands acteurs qui s’approprient cette innovation.

QG : Peut-on dire que ChatGPT formate un modèle cognitif, un mode de pensée finalement très américain?

C’est la question que je me pose. Lorsque je lui ai posé une question sur une problématique politique, ChatGPT m’a donné l’ensemble des éléments de langage du Département d’État américain. Ce qui donne à cet outil une capacité d’encerclement idéologique remarquable, en faisant disparaître les arguments contraires. Google promet qu’il offrira avec son chatbot appelé Bard, plusieurs réponses pour une question, un peu à la manière d’un article de The Economist. Mais ce qui peut inquiéter c’est le fait que les sources disparaissent au profit d’une réponse standardisée. ChatGPT entre dans la tradition des outils de productivité et d’optimisation. Agir plus et réfléchir moins. Un rêve pour certains patrons, mais aussi pour certains hommes politiques.

Le principal problème de ces IA, c’est qu’elles ne savent pas dire « Je ne sais pas » et préfèreront nous baratiner, raconter absolument n’importe quoi. Le bénéfice du travail de l’écriture automatique est modéré par la nécessité de devoir vérifier absolument tout ce qu’il dit. Enfin espérons-le.

QG : Il a été rapporté en janvier dernier qu’en Colombie, un juge a utilisé ChatGPT pour prendre une décision sur la couverture médicale d’un enfant autiste et ainsi « améliorer les temps de réponse du système judiciaire ». Peut-on imaginer un juge agir un jour de manière similaire en France, où la justice met du temps à trancher, notamment en raison d’un manque de moyens ?

Il y a plusieurs problèmes politiques sous-jacents. Le premier, c’est l’usage de l’algorithmie pour les décisions humaines. L’usage d’un logiciel boîte noire pour justifier les décisions humaines est utilisé dans la justice américaine depuis longtemps, avec beaucoup de controverses. Mais pour revenir à votre question, je me méfie toujours de ce genre d’articles à sensation. Comment a-t-il utilisé ChatGPT ? Était-ce pour synthétiser de l’information ? Dans ce cas, c’est un outil utile car ChatGPT est très bon pour ce genre de tâches. Ou bien a-t-il vraiment écrit son argumentaire avec ChatGPT ? J’imagine mal, au-delà du coup de pub, une profession comme celle-ci laisser un robot écrire un texte sans avoir véritablement pris le temps de vérifier.

Avec ce genre d’exemple médiatisé, il y a la volonté de démontrer notamment qu’en France la technologie va transformer le gouvernement. Peut-être d’ailleurs en créant un État sans fonctionnaires, ce qu’on appelle dans le jargon « l’État plateforme« . C’est une idéologie très inspirée des suprémacistes numériques américains tels que Peter Thiel. La machine décide mieux que les hommes donc donnons-lui les manettes. La numérisation et l’automatisation de l’État sont le prélude à une forme de privatisation des fonctions régaliennes de la France. Rappelez-vous que, pendant le Covid, ce sont des acteurs privés qui ont géré la prise de rendez-vous pour la vaccination. Ainsi « l’État plateforme » est-il une doctrine ultralibérale très prisée par les hauts fonctionnaires français et la majorité actuelle.  Il y a cette idée que, pour pallier le manque de fonctionnaires, on va les remplacer par des algorithmes. Le problème, et on le voit dans tous les domaines aujourd’hui, c’est qu’on est passé d’une bureaucratie analogique, avec des acteurs humains, à une bureaucratie numérique dans laquelle il n’y a plus aucun recours. Depuis quelques années, il n’y a même plus de numéros de téléphone pour appeler. Et demain ce sont des ChatGPT qui vous expliqueront que vous n’avez plus droit à vos aides sociales.

Une chose que ces gens ont oublié c’est que la relation avec l’État, la justice, les services publics, c’est le contact humain. Sans contact humain, on met la population à l’écart. L’idée d’un État d’intelligence artificielle ressemble à une faillite démocratique. Dans le roman de William Gibson, The Peripheral, l’auteur décrit un monde où une oligarchie seule survivante d’un cataclysme appelé le Jackpot, vivrait dans un monde où l’intelligence artificielle ajouterait des avatars « pauvres et des classes moyennes » dans les rues de manière virtuelle pour simuler un semblant de vie.

Face à la vision de « l’État plateforme », il existe une autre vision de ce que serait l’état numérique, la justice et les services publics. Un modèle où l’humain serait au centre et les outils numériques capables de résoudre et non pas de faire exploser les délais bureaucratiques. On parle beaucoup de la désindustrialisation mais on ne parle pas assez de la dénumérisation des services publics. Cela fait des années qu’au lieu de réfléchir à produire en interne avec des ingénieurs embauchés par l’État, on a outsourcé ce travail en France, avec des sociétés de services qui ont fait des produits ne fonctionnant pas. Regardez l’éducation nationale pendant le Covid, rien ne marchait correctement !

Et le risque actuel c’est qu’au lieu de travailler sur nos propres outils et de construire l’État numérique que nous méritons, le gouvernement a ouvert la boîte de pandore avec le Cloud de Confiance, et va faire entrer les GAFAM au cœur de l’État (1). Je détaille cela dans mon petit ouvrage Lettre à ceux qui veulent faire tourner la France sur l’ordinateur de quelqu’un d’autre (à télécharger en ligne, NDLR).

QG : Est-ce que certains métiers peuvent se sentir menacés par une utilisation croissante de l’IA dans la production, à travers l’exemple du groupe de médias allemand Axel Springer (Bild, Die Welt) supprimant des postes de journalistes pour les remplacer par de l’IA, selon vous ?

La rédaction assistée par l’IA est déjà utilisée depuis au moins une décennie. C’est un des grands drames de la presse car une partie des contenus est quasiment automatisée. ChatGPT ne fait qu’amplifier ce phénomène où le contenu synthétique est désormais la règle. Peut-on encore parler de média dans ce cas?

Votre question sur les médias soulève plusieurs autres questions. Tout d’abord ces modèles de langage sont basés sur une utilisation massive de contenus sous droits d’auteur. Getty Images a déjà attaqué Stable diffusion (une intelligence artificielle qui génère des images en fonction de ce que vous décrivez par le langage, NDLR) pour avoir ingurgité ses images sans payer de droits. Je pense que les procès vont se multiplier. Ensuite se pose la question de la production cognitive. Ces outils peuvent être des aides intéressantes pour permettre l’assistance à la lecture, le résumé, la traduction. Mais comme toute technologie, ChatGPT pose la question de savoir ce que nous gagnons, ce que nous perdons. Facebook nous a fait oublier les dates d’anniversaires, les numéros de téléphones, le GPS et les adresses. Quel processus cognitif disparaîtra à travers ChatGPT ?

À l’heure ou des services comme TikTok sont des outils d’abrutissement massif, on peut se poser la question du modèle de société que l’on souhaite. Le journaliste Carl Bernstein, qui avait sorti l’affaire du WaterGate avec Bob Woodward, a écrit il y a 30 ans un petit texte sur la société de la débilité.

Le point d’entrée de la méritocratie, c’est la capacité intellectuelle. Or, ces outils pourraient renforcer le fait que seule une élite aura désormais des capacités intellectuelles humaines, et aura donc la capacité d’accéder aux postes clé. Le reste serait maintenu dans un gloubi-boulga de nullité et de médiocrité. En clair, « notre temps de cerveau disponible » pourrait passer de quelques minutes à quelques secondes!

QG : Étant donné que ChatGPT a été lancé aux États-Unis, peut-on dire qu’il y a un retard, voire une dépendance technologique encore accrue, en France et dans l’Union européenne ?

Depuis des années, on a trouvé normal que les meilleurs talents français partent bosser pour les boîtes américaines. Nous n’avons donc que ce que nous méritons. En même temps je les comprends, car l’État n’a pas grand-chose à offrir à ces chercheurs: seulement des patrons de labo toxiques, une bureaucratie digne d’un livre de David Graeber, et des financements compliqués à obtenir.

Les chercheurs veulent travailler avec des gens qui ont une vision claire, qui leur fichent la paix. En 10 ans de french tech, on n’a jamais été capable de leur dire : « vous aurez les mêmes choses en France. » Il y a aussi la question des financements. La France a dépensé, si l’on en croit les annonces du gouvernement, bien plus que OpenAI. Où sont les produits de cela ?

Mais la question la plus importante reste: « Est-ce qu’on doit faire exactement la même chose ou doit-on faire des choses qui seraient plus adaptées à notre vision du monde ? » Je crois beaucoup à la création d’outils pour l’éducation, la musique, la culture. C’est le combat d’une technologie humaniste contre une technologie d’optimisation du monde. ChatGPT c’est le McDonald’s de la pensée. Il nous faudrait inventer quelque chose de plus gastronomique.

Propos recueillis par Jonathan Baudoin

(1) Le lundi 17 mai 2021, Bruno Lemaire, ministre de l’économie et des finances et Cédric O, secrétaire d’état chargé du numérique, ont annoncé la création d’un label « Cloud de Confiance », conçu pour sécuriser le stockage de données, et devant permettre aux administrations et aux citoyens d’assurer la meilleure protection possible pour leurs données.

Tariq Krim est un entrepreneur et pionnier de l’Internet. C’est l’un des principaux défenseurs d’une souveraineté numérique de la France. Il est également l’initiateur du mouvement Slow Web, qui prône un usage apaisé du numérique. Il a fondé plusieurs start-ups, dont Netvibes et Jolicloud. Il a été conseiller du gouvernement français (e-G8 et Vice-Président du Conseil National du Numérique). Il est l’auteur de l’Ebook Lettre à ceux qui veulent faire tourner la France sur l’ordinateur de quelqu’un d’autre (2021)