Elon Musk et le co-fondateur d’Apple, Steve Wozniak, ont récemment signé une lettre appelant à un moratoire de six mois sur le développement des systèmes d’IA. L’objectif est de donner à la société le temps de s’adapter à ce que les signataires décrivent comme un “été de l’IA”, qui, selon eux, profitera finalement à l’humanité, à condition que les bons garde-fous soient mis en place. Ces garde-corps incluent des protocoles de sécurité rigoureusement audités.
C’est un objectif louable, mais il y a une meilleure façon de passer ces six mois : retirer l’étiquette éculée d’« intelligence artificielle » du débat public. Le terme appartient au même tas de ferraille de l’histoire qui comprend le « rideau de fer », la « théorie des dominos » et le « moment Spoutnik ». Il a survécu à la fin de la guerre froide en raison de son attrait pour les amateurs de science-fiction et les investisseurs. Nous pouvons nous permettre de blesser leurs sentiments.
En réalité, ce que nous appelons aujourd’hui “l’intelligence artificielle” n’est ni artificielle ni intelligente. Les premiers systèmes d’IA étaient fortement dominés par des règles et des programmes, de sorte que certains discours sur «l’artificialité» étaient au moins justifiés. Mais ceux d’aujourd’hui, dont le préféré de tous, ChatGPT, puisent leur force dans le travail de vrais humains : artistes, musiciens, programmeurs et écrivains dont la production créative et professionnelle est désormais appropriée au nom de sauver la civilisation. Au mieux, il s’agit d’une “intelligence non artificielle”.
Quant à la partie “renseignement”, les impératifs de la guerre froide qui ont financé une grande partie des premiers travaux sur l’IA ont laissé une forte empreinte sur la façon dont nous la comprenons. Nous parlons du type de renseignement qui serait utile dans une bataille. Par exemple, la force de l’IA moderne réside dans la correspondance de modèles. Ce n’est guère surprenant étant donné que l’une des premières utilisations militaires des réseaux de neurones – la technologie derrière ChatGPT – a été de repérer des navires sur des photographies aériennes.
Cependant, de nombreux critiques ont souligné que l’intelligence n’est pas seulement une question de correspondance de modèles. La capacité à tirer des généralisations est tout aussi importante. L’œuvre d’art Fontaine de Marcel Duchamp de 1917 en est un excellent exemple. Avant la pièce de Duchamp, un urinoir n’était qu’un urinoir. Mais, avec un changement de perspective, Duchamp en a fait une œuvre d’art. À ce moment-là, il généralisait sur l’art.
Lorsque nous généralisons, l’émotion l’emporte sur les classifications enracinées et apparemment «rationnelles» des idées et des objets du quotidien. Il suspend les opérations habituelles, presque machiniques, de correspondance de modèles. Pas le genre de chose que vous voulez faire au milieu d’une guerre.
L’intelligence humaine n’est pas unidimensionnelle. Elle repose sur ce que le psychanalyste chilien du XXe siècle Ignacio Matte Blanco appelait la bi-logique : une fusion de la logique statique et intemporelle du raisonnement formel et de la logique contextuelle et hautement dynamique de l’émotion. Le premier recherche les différences ; ce dernier s’empresse de les effacer. L’esprit de Marcel Duchamp savait que l’urinoir appartenait à une salle de bains ; son cœur non. Bi-logic explique comment nous regroupons des choses banales de manière nouvelle et perspicace. Nous faisons tous cela – pas seulement Duchamp.
L’IA n’y arrivera jamais parce que les machines ne peuvent pas avoir un sens (plutôt qu’une simple connaissance) du passé, du présent et du futur ; d’histoire, de blessure ou de nostalgie. Sans cela, pas d’émotion, privant la bi-logique d’une de ses composantes. Ainsi, les machines restent prisonnières de la logique formelle singulière. Donc, il y va de la partie “intelligence”.
ChatGPT a ses utilisations. C’est un moteur de prédiction qui peut aussi faire office d’encyclopédie. Lorsqu’on lui a demandé ce que le porte-bouteilles, la pelle à neige et l’urinoir avaient en commun, il a répondu correctement que ce sont tous des objets du quotidien que Duchamp a transformés en art.
Mais lorsqu’on lui a demandé quels objets d’aujourd’hui Duchamp transformerait en art, il a suggéré : les smartphones, les scooters électroniques et les masques faciaux. Il n’y a aucune allusion à une véritable “intelligence” ici. C’est une machine statistique bien gérée mais prévisible.
Le danger de continuer à utiliser le terme « intelligence artificielle » est qu’il risque de nous convaincre que le monde fonctionne sur une logique singulière : celle d’un rationalisme hautement cognitif et de sang-froid. Beaucoup dans la Silicon Valley le croient déjà – et ils sont occupés à reconstruire le monde en s’appuyant sur cette croyance.
Mais la raison pour laquelle des outils comme ChatGPT peuvent faire n’importe quoi, même à distance, c’est parce que leurs ensembles d’entraînement ont été produits par des humains réellement existants, avec leurs émotions complexes, leurs angoisses et tout. Si nous voulons qu’une telle créativité perdure, nous devrions également financer la production d’art, de fiction et d’histoire, et pas seulement les centres de données et l’apprentissage automatique.
Ce n’est pas du tout là où les choses se dirigent maintenant. Le risque ultime de ne pas retirer des termes tels que “intelligence artificielle” est qu’ils rendront invisible le travail créatif de l’intelligence, tout en rendant le monde plus prévisible et plus stupide.
Alors, au lieu de passer six mois à auditer les algorithmes en attendant « l’été de l’IA », autant aller relire Le Songe d’une nuit d’été de Shakespeare. Cela fera tellement plus pour augmenter l’intelligence dans notre monde.
-
Evgeny Morozov est l’auteur de plusieurs livres sur la technologie et la politique. Son podcast The Santiago Boys, sur la vision technologique de l’ancien président chilien Salvador Allende, sort cet été
-
Avez-vous une opinion sur les questions soulevées dans cet article? Si vous souhaitez soumettre une réponse de 300 mots maximum par e-mail pour être considérée pour publication dans notre section de lettres, veuillez cliquer ici.