Elon Musk et Steve Wozniak, cofondateur d'Apple, ont récemment signé une lettre appelant à un moratoire de six mois sur le développement des systèmes d'IA. L'objectif est de donner à la société le temps de s'adapter à ce que les signataires décrivent comme un "été de l'IA", qui, selon eux, profitera en fin de compte à l'humanité, à condition que les bons garde-fous soient mis en place. Ces garde-fous comprennent des protocoles de sécurité rigoureusement contrôlés.
C'est un objectif louable, mais il y a une meilleure façon de passer ces six mois : retirer du débat public l'étiquette éculée d'"intelligence artificielle". Ce terme appartient à la même catégorie de l'histoire que le "rideau de fer", la "théorie des dominos" et le "moment Spoutnik". Ce terme a survécu à la fin de la guerre froide en raison de l'attrait qu'il exerçait sur les amateurs de science-fiction et les investisseurs. Nous pouvons nous permettre de les blesser.
En réalité, ce que nous appelons aujourd'hui "intelligence artificielle" n'est ni artificiel ni intelligent. Les premiers systèmes d'IA étaient fortement dominés par des règles et des programmes, de sorte qu'il était au moins justifié de parler d'"artificialité". Mais ceux d'aujourd'hui, y compris le préféré de tous, ChatGPT, tirent leur force du travail de vrais humains : des artistes, des musiciens, des programmeurs et des écrivains dont la production créative et professionnelle est aujourd'hui accaparée au nom de la sauvegarde de la civilisation. Au mieux, il s'agit d'une "intelligence non artificielle".
En ce qui concerne la partie "intelligence", les impératifs de la guerre froide qui ont financé une grande partie des premiers travaux sur l'IA ont laissé une forte empreinte sur la façon dont nous la comprenons. Nous parlons ici du type d'intelligence qui serait utile dans une bataille. Par exemple, la force de l'IA moderne réside dans la correspondance des modèles. Cela n'a rien d'étonnant puisque l'une des premières utilisations militaires des réseaux neuronaux - la technologie à l'origine de ChatGPT - a consisté à repérer des navires sur des photographies aériennes.
Toutefois, de nombreux critiques ont souligné que l'intelligence ne se résume pas à la reconnaissance de modèles. La capacité à tirer des généralisations est tout aussi importante. L'œuvre d'art Fontaine, réalisée par Marcel Duchamp en 1917, en est un excellent exemple. Avant l'œuvre de Duchamp, un urinoir n'était qu'un urinoir. Mais grâce à un changement de perspective, Duchamp l'a transformé en œuvre d'art. À ce moment-là, il généralisait l'art.
Lorsque nous généralisons, l'émotion l'emporte sur les classifications enracinées et apparemment "rationnelles" des idées et des objets quotidiens. Elle suspend les opérations habituelles, presque machinales, de mise en correspondance des modèles. Ce n'est pas le genre de chose que l'on veut faire en pleine guerre.
L'intelligence humaine n'est pas unidimensionnelle. Elle repose sur ce que le psychanalyste chilien du XXe siècle Ignacio Matte Blanco appelait la bi-logique : une fusion entre la logique statique et intemporelle du raisonnement formel et la logique contextuelle et hautement dynamique de l'émotion. La première recherche les différences, la seconde est prompte à les effacer. L'esprit de Marcel Duchamp savait que l'urinoir avait sa place dans une salle de bains ; son cœur ne le savait pas. La bi-logique explique comment nous regroupons des choses banales de manière nouvelle et perspicace. Nous faisons tous cela, et pas seulement Duchamp.
L'IA n'y parviendra jamais parce que les machines ne peuvent pas avoir un sentiment (plutôt qu'une simple connaissance) du passé, du présent et de l'avenir, de l'histoire, de la blessure ou de la nostalgie. Sans cela, il n'y a pas d'émotion, ce qui prive la bi-logique d'une de ses composantes. Ainsi, les machines restent prisonnières de la logique formelle singulière. Il n'y a donc plus d'intelligence.
ChatGPT a son utilité. C'est un moteur de prédiction qui peut aussi servir d'encyclopédie. Lorsqu'on lui demande ce que le porte-bouteilles, la pelle à neige et l'urinoir ont en commun, il répond à juste titre qu'il s'agit d'objets quotidiens que Duchamp a transformés en œuvres d'art.
Mais à la question de savoir quels objets d'aujourd'hui Duchamp transformerait en art, il a suggéré : les smartphones, les scooters électroniques et les masques faciaux. Il n'y a ici aucune trace d'une véritable "intelligence". Il s'agit d'une machine statistique bien rodée mais prévisible.
Le danger de continuer à utiliser le terme "intelligence artificielle" est qu'il risque de nous convaincre que le monde fonctionne selon une logique singulière : celle d'un rationalisme hautement cognitif et froid. C'est ce que croient déjà de nombreux acteurs de la Silicon Valley, qui s'emploient à reconstruire le monde sur la base de cette croyance.
Mais la raison pour laquelle des outils comme ChatGPT peuvent faire quoi que ce soit d'un tant soit peu créatif est que leurs ensembles de formation ont été produits par des êtres humains existants, avec leurs émotions complexes, leurs angoisses et tout le reste. Si nous voulons qu'une telle créativité perdure, nous devrions également financer la production d'art, de fiction et d'histoire - et pas seulement les centres de données et l'apprentissage automatique.
Ce n'est pas du tout ce qui se passe actuellement. Le risque ultime de ne pas retirer des termes tels que "intelligence artificielle" est de rendre invisible le travail créatif de l'intelligence, tout en rendant le monde plus prévisible et plus stupide.
Ainsi, au lieu de passer six mois à auditer les algorithmes en attendant "l'été de l'IA", autant aller relire le Songe d'une nuit d'été de Shakespeare. Cela contribuera bien plus à accroître l'intelligence de notre monde.
Par Evgeny Morozov est un chercheur et écrivain américain d'origine biélorusse, spécialiste des implications politiques et sociales du progrès technique et du numérique (source : wikipédia).
source :
https://www.theguardian.com/commentisfree/2023/mar/30/artificial-intelligence-chatgpt-human-mind