Lorsque nous utilisons aujourd’hui un grand modèle d’intelligence artificielle, l’expérience peut donner l’impression d’une rupture soudaine.
On pose une question en langage naturel et une machine peut expliquer un concept scientifique, rédiger du code, traduire un texte, analyser un contrat, proposer une architecture informatique ou discuter de philosophie.
La rupture est réelle. Mais elle ne surgit pas de nulle part.
L’intelligence artificielle contemporaine est plutôt l’aboutissement d’un empilement extraordinaire de technologies, de découvertes scientifiques, d’infrastructures publiques et privées et, finalement, d’une accumulation de connaissances produites par des milliards d’êtres humains.
Il faut peut-être commencer par reconstruire cet empilement pour comprendre la question politique qui se pose aujourd’hui.
Car si l’IA devient une infrastructure essentielle de nos sociétés, une question devient difficile à éviter :
dans quelle mesure une technologie issue d’un héritage aussi profondément collectif peut-elle être contrôlée par un nombre extrêmement restreint d’acteurs privés?
Premier étage : la machine
Avant l’intelligence artificielle, il fallait évidemment l’ordinateur.
Il fallait comprendre l’électricité, développer l’électronique, inventer le transistor, les circuits intégrés, les microprocesseurs, la mémoire électronique et les dispositifs de stockage.
Il fallait ensuite apprendre à fabriquer des milliards de transistors à des dimensions microscopiques avec une précision inimaginable quelques décennies auparavant.
Puis il fallait multiplier leur puissance.
Les processeurs graphiques — les GPU — conçus initialement pour exécuter massivement en parallèle les calculs nécessaires aux images et aux jeux vidéo se sont révélés particulièrement adaptés aux opérations mathématiques utilisées par les réseaux neuronaux.
L’entraînement des plus grands modèles d’IA dépend d’immenses centres de données réunissant des milliers de ces processeurs, reliés par des réseaux extrêmement rapides et alimentés par des quantités considérables d’électricité.
La première couche de l’intelligence artificielle n’est donc pas l’intelligence.
C’est l’infrastructure industrielle.
Métallurgie, chimie, physique du solide, semi-conducteurs, production électrique, télécommunications, optique, systèmes de refroidissement, fabrication de précision : une immense portion de l’histoire industrielle du XXe siècle se trouve en quelque sorte condensée dans un centre de calcul contemporain.
Deuxième étage : apprendre à programmer la machine
Le matériel seul ne suffit évidemment pas.
Des générations d’informaticiens ont progressivement créé les abstractions qui permettent de transformer des impulsions électriques en systèmes utilisables : langages de programmation, compilateurs, systèmes d’exploitation, fichiers, bases de données, protocoles réseau, interfaces graphiques et bibliothèques logicielles.
Une part importante de cette infrastructure logicielle est développée et partagée sous des licences libres ou ouvertes.
Unix a influencé des générations de systèmes d’exploitation. Linux et d’innombrables bibliothèques open source se trouvent aujourd’hui au cœur d’une partie considérable de l’infrastructure informatique mondiale.
Les langages, protocoles et formats se sont normalisés.
Et surtout, les ordinateurs ont appris à communiquer.
Troisième étage : mettre l’humanité en réseau
L’Internet a permis aux ordinateurs de communiquer à l’échelle mondiale.
Le Web a ensuite rendu cette infrastructure utilisable comme système universel de publication et d’accès à l’information.
Tim Berners-Lee proposa le World Wide Web au CERN en 1989 afin de faciliter le partage d’information entre chercheurs. En 1993, le CERN rendit le logiciel du Web disponible publiquement et sans redevances, décision déterminante dans son expansion mondiale. Le CERN retrace cette histoire.
Ce choix mérite aujourd’hui d’être rappelé.
Une des infrastructures économiques et culturelles les plus importantes de l’histoire moderne repose sur des protocoles qui n’ont pas été enfermés derrière la propriété exclusive de leur inventeur.
Le Web a ensuite provoqué quelque chose qui sera essentiel à l’intelligence artificielle trente ans plus tard :
une fraction gigantesque de la production intellectuelle humaine est devenue numérique et accessible par des machines.
Livres, articles scientifiques, journaux, photographies, logiciels, discussions, encyclopédies, documentation technique, musique, vidéos et archives ont progressivement rejoint cet espace informationnel mondial.
Nous étions en train de construire, sans le savoir, une partie du corpus d’apprentissage des futures intelligences artificielles.
Quatrième étage : apprendre à la machine à apprendre
En parallèle se développait une autre histoire.
L’idée de reproduire certaines caractéristiques de l’intelligence avec des machines est ancienne. Mais 1956 constitue un repère symbolique important : lors du Dartmouth Summer Research Project, John McCarthy et d’autres chercheurs contribuèrent à établir l’« intelligence artificielle » comme champ de recherche distinct. Dartmouth revient sur cette rencontre.
Pendant plusieurs décennies, différentes approches se sont succédé.
Certaines tentaient de reproduire explicitement le raisonnement humain à l’aide de règles symboliques.
D’autres cherchaient plutôt à permettre aux machines d’apprendre des régularités à partir d’exemples.
Les réseaux neuronaux appartiennent à cette seconde tradition.
Un progrès fondamental fut la diffusion de méthodes permettant à ces réseaux d’ajuster automatiquement leurs paramètres en fonction de leurs erreurs. En 1986, David Rumelhart, Geoffrey Hinton et Ronald Williams publièrent notamment un article devenu classique sur l’apprentissage par rétropropagation des erreurs. Lire leur article dans Nature.
L’idée essentielle était remarquable :
plutôt que de programmer explicitement toutes les règles nécessaires à une tâche, on pouvait faire apprendre ces règles implicitement à une machine en lui présentant suffisamment d’exemples.
Mais pendant longtemps, trois ingrédients manquaient encore à grande échelle :
la puissance de calcul, les données et des architectures suffisamment efficaces.
Cinquième étage : les données
Le développement du Web et la numérisation massive de l’information changèrent progressivement la situation.
Les chercheurs disposaient maintenant de quantités de données qui auraient été inimaginables quelques années auparavant.
ImageNet illustre particulièrement bien cette transition.
En 2009, ses chercheurs décrivaient déjà une base contenant 3,2 millions d’images annotées réparties dans des milliers de catégories. Sa constitution faisait intervenir non seulement des chercheurs et des infrastructures informatiques, mais également des travailleurs humains utilisant notamment Amazon Mechanical Turk pour classifier les images. L’article de présentation d’ImageNet décrit ce travail.
Ce détail est important.
L’apprentissage automatique n’est pas seulement le produit d’algorithmes et d’ordinateurs.
Il incorpore également une quantité considérable de travail humain souvent invisible : classification, annotation, évaluation, correction et, plus récemment, appréciation des réponses produites par les modèles.
La machine apprend parce que des êtres humains ont produit le monde informationnel à partir duquel elle apprend.
Sixième étage : l’architecture
Puis arrive en 2017 une innovation qui contribuera directement à l’explosion actuelle : le Transformer.
Dans leur article Attention Is All You Need, une équipe de chercheurs travaillant chez Google propose une architecture reposant principalement sur un mécanisme d’attention et permettant notamment une parallélisation beaucoup plus efficace de l’apprentissage. Lire Attention Is All You Need.
Cette innovation ne créait évidemment pas à elle seule l’intelligence artificielle moderne.
Elle devenait plutôt une pièce extraordinairement efficace permettant de combiner les autres :
des décennies de recherche sur les réseaux neuronaux, des processeurs massivement parallèles, de grands centres de données, des corpus numériques immenses, des logiciels de calcul distribués et suffisamment de capital pour faire fonctionner l’ensemble.
On pouvait désormais entraîner des modèles sur des quantités sans précédent de données.
Septième étage : l’échelle
Une nouvelle intuition s’imposa progressivement : au lieu de construire un modèle différent pour chaque problème, pourquoi ne pas entraîner un modèle extrêmement vaste sur une grande diversité de données, puis utiliser ce modèle général pour une multitude de tâches?
GPT-3 en fournit en 2020 une démonstration spectaculaire : un modèle de 175 milliards de paramètres montrait qu’un même système pouvait accomplir une grande variété de tâches linguistiques à partir de descriptions de tâches et de quelques exemples, sans réentraîner le modèle pour chacune. Lire l’article sur GPT-3.
En 2021, une équipe de Stanford proposera le terme foundation model, ou modèle de fondation, pour désigner ces modèles entraînés sur des données très larges et pouvant servir de base à de nombreuses applications différentes. Les chercheurs soulignaient déjà que cette architecture créait simultanément un formidable levier technologique et un phénomène de centralisation : un petit nombre de modèles pouvait devenir la fondation de milliers d’autres systèmes. Lire le rapport de Stanford.
C’est précisément ici que le problème cesse d’être seulement informatique.
Huitième étage : derrière les données, le travail humain
Il serait réducteur de dire qu’un grand modèle a simplement été « entraîné sur Internet ».
Internet n’a pas créé ce qu’il contient.
Derrière un traité de physique se trouvent des siècles de recherche scientifique.
Derrière un programme informatique se trouvent des décennies de développement de langages, d’algorithmes et de méthodes.
Derrière un roman se trouvent une langue, une culture et une tradition littéraire qui peuvent remonter à des millénaires.
Derrière une encyclopédie se trouvent les travaux de milliers de rédacteurs.
Derrière une réponse publiée sur un forum se trouvent parfois des décennies d’expérience professionnelle.
Derrière une photographie se trouvent un photographe, un sujet, une culture visuelle et deux siècles de technologie photographique.
Un modèle contemporain absorbe des fragments de toutes ces productions et en extrait des régularités statistiques.
Il ne s’agit pas de prétendre qu’un modèle contient toutes les connaissances de l’humanité. Les corpus d’entraînement n’en représentent qu’une partie, inégalement répartie selon les langues, les cultures et les domaines. Apprendre des régularités dans ces corpus ne garantit d’ailleurs ni la compréhension ni l’exactitude des réponses.
Parler de « millions d’années de travail humain » évoque l’ampleur de cet héritage, mais ne constitue pas une estimation établie. Ce que l’on peut affirmer, sans avancer de chiffre, c’est que ces systèmes dépendent d’un travail intellectuel accumulé bien au-delà des équipes qui les entraînent.
Nous avons accumulé pendant des siècles un patrimoine intellectuel.
Nous l’avons numérisé pendant quelques décennies.
Nous avons interconnecté cette information grâce au Web.
Et nous avons finalement inventé des machines capables d’en extraire des structures à une échelle auparavant impossible.
Le dernier étage : le capital
Il reste pourtant une couche supplémentaire.
Pour transformer toutes ces ressources en modèles de pointe, il faut des investissements considérables. Cette contrainte n’est pas la même pour tous les systèmes : des modèles plus petits peuvent être développés et utilisés avec beaucoup moins de moyens.
Il faut des processeurs coûteux, des centres de données, de l’énergie, des ingénieurs spécialisés et la capacité d’entraîner des modèles pendant des périodes prolongées.
C’est cette dernière contrainte qui crée un paradoxe.
Les intrants intellectuels sont largement distribués; la capacité de les transformer en modèles extrêmement puissants est, elle, extrêmement concentrée.
Des milliards de personnes ont contribué directement ou indirectement au patrimoine informationnel dont les systèmes apprennent.
Des institutions publiques ont financé la recherche fondamentale qui les rend possibles.
Des communautés open source ont produit une grande partie de leur infrastructure logicielle.
Pourtant, les modèles les plus puissants peuvent appartenir à quelques entreprises dont les décisions sont prises par un nombre relativement limité de dirigeants, d’investisseurs et d’ingénieurs.
De la propriété de l’IA à la gouvernance de l’IA
Cela ne signifie pas nécessairement que toute intelligence artificielle devrait être nationalisée ou que toute propriété privée des modèles serait illégitime.
Les entreprises qui construisent ces systèmes prennent de véritables risques, investissent des sommes considérables et produisent elles-mêmes de nombreuses innovations.
Mais reconnaître leur contribution n’oblige pas à nier celle de tout ce qui les précède.
La question pourrait donc être formulée autrement.
Quelle partie de la valeur créée par l’intelligence artificielle appartient légitimement à ceux qui ont assemblé la dernière couche, et quelle partie devrait être considérée comme provenant d’un patrimoine collectif?
Cette distinction pourrait devenir essentielle.
Car l’intelligence artificielle n’est peut-être pas destinée à rester un produit comparable à un logiciel de bureautique ou à un moteur de recherche.
Elle pourrait devenir une véritable infrastructure cognitive.
Une couche intermédiaire entre les humains et une proportion croissante de leurs activités :
apprendre, écrire, programmer, concevoir, administrer, chercher, diagnostiquer, produire et prendre des décisions.
À partir de ce moment, la question n’est plus seulement :
Qui possède le modèle?
Elle devient :
Qui contrôle l’infrastructure à travers laquelle une société produit et utilise son intelligence?
Organiser le partage de cette puissance
Une direction consiste à considérer l’intelligence artificielle comme une nouvelle industrie privée. Quelques entreprises construisent les meilleurs systèmes, les utilisateurs paient pour y accéder et le marché détermine progressivement leur distribution.
Une autre consiste à reconnaître qu’au-delà d’un certain niveau de puissance et de généralité, ces systèmes deviennent une forme d’infrastructure collective.
Cela ne dicte pas encore la solution. Reconnaître cet héritage collectif pose une question politique; cela ne suffit pas à établir un régime de propriété ni à décider qui représenterait l’humanité.
Cette reconnaissance pourrait conduire à des modèles ouverts, des infrastructures publiques de calcul, des modèles publics ou universitaires, des obligations d’interopérabilité, un accès universel à certaines capacités, des mécanismes de redistribution ou de nouvelles formes de gouvernance internationale.
Mais la première étape consiste peut-être simplement à reconnaître ce que nous avons réellement construit.
L’intelligence artificielle contemporaine n’est pas apparue de nulle part.
Elle est la couche la plus récente d’une construction collective commencée bien avant la naissance des entreprises qui la commercialisent aujourd’hui.
Et si elle devient effectivement l’une des infrastructures fondamentales du XXIe siècle, il faudra tôt ou tard décider si son extraordinaire héritage collectif doit produire une puissance elle aussi largement partagée — ou une concentration de pouvoir sans précédent.
Une bifurcation historique
Nous sommes peut-être devant l’une des bifurcations les plus importantes de l’histoire de l’humanité.
Non pas simplement parce que nous avons créé une nouvelle technologie puissante, mais parce que nous avons créé un outil capable d’intervenir directement dans la production, l’organisation et la diffusion de la connaissance elle-même.
L’agriculture a transformé notre rapport à la nourriture. L’imprimerie a transformé la circulation des idées. La machine à vapeur et l’électricité ont transformé notre capacité d’agir sur le monde physique. Internet a transformé notre capacité de communiquer.
L’intelligence artificielle pourrait transformer quelque chose de plus fondamental encore : notre capacité collective à penser, à concevoir, à décider et à créer.
La bifurcation n’est donc pas seulement technologique. Elle est institutionnelle et politique.
Allons-nous traiter cette nouvelle capacité comme un patrimoine collectif dont les bénéfices doivent être largement accessibles, ou comme une ressource stratégique contrôlée par ceux qui possèdent les infrastructures et le capital nécessaires pour l’exploiter?
Les décisions prises au cours des prochaines années pourraient déterminer non seulement quels produits nous utiliserons, mais la manière dont le pouvoir, la connaissance et la capacité d’agir seront distribués pendant une grande partie du XXIe siècle.
C’est peut-être cela, finalement, la véritable question posée par l’intelligence artificielle.
Non pas seulement jusqu’où elle peut aller.
Mais qui décidera de la direction que nous prendrons avec elle.