IA, marché, aliénation. Une perspective critique

Le débat sur les dangers liés au développement des systèmes d’IA a fait la une des médias. Il a été déclenché par la démission, le 8 septembre dernier, de Jacob Coxon, chercheur en IA, de son poste chez Antropic, où il n’était en poste que depuis deux mois. Il avait auparavant travaillé chez OpenAI. Coxon a accusé les deux entreprises : « Elles se précipitent tout droit vers une super-intelligence capable de s’améliorer d’elle-même et jouent avec nos vies », a-t-il écrit sur X. Dans une interview accordée au Wall Street Journal, il a précisé : « Nous nous dirigeons vers bon nombre des scénarios les plus alarmants, où, d’ici la fin de l’année prochaine, la situation pourrait déjà être hors de contrôle. » Evan Hubinger, qui dirige une équipe de sécurité chez OpenAI, a immédiatement apporté son soutien à Coxon et a affirmé qu’il existait une probabilité supérieure à 10 % que l’intelligence artificielle puisse « tuer tous les humains » au cours de la prochaine décennie. Même les dirigeants des grandes entreprises d’IA ont en partie reconnu ce danger. Dario Amodei, d’Anthropic ; Sam Altman, d’OpenAI ; et Elon Musk ont évoqué la nécessité de contrôles plus stricts sur l’IA et, dans certains cas, de ralentir la course au développement de systèmes toujours plus avancés. Tout semble indiquer que ces magnats souhaitent céder un peu de terrain sans pour autant aller au fond du problème ni prendre de mesures susceptibles d’affecter sérieusement leurs bénéfices.Le contexte AI 2027

En 2025 a été publié « AI 2027 », un scénario élaboré par le Projet AI Futures, fondé par Daniel Kokotajlo, ancien chercheur chez OpenAI. Kokotajlo a démissionné d’OpenAI en 2024 en formulant des critiques, estimant que l’entreprise « privilégiait le développement rapide de produits au détriment de la sécurité de l’IA et avançait sans garanties suffisantes. Il a fondé cette organisation à but non lucratif afin de réaliser des prévisions indépendantes et des recherches en matière de politiques publiques » (Wikipédia). Le projet AI Futures est financé par des dons. Il se propose de « développer des prévisions détaillées de scénarios sur l’évolution des systèmes d’IA avancés afin d’informer les décideurs politiques, les chercheurs et le grand public ».

AI 2027 est une prévision de l’impact de l’IA au cours de la prochaine décennie. Selon le rapport, dans un premier temps, les systèmes se voient confier une tâche : ils recherchent des informations, écrivent du code, testent des solutions. Jusque-là, il n’y aurait aucun problème. Mais le changement survient lorsque ces systèmes sont utilisés pour améliorer l’IA elle-même. À ce stade, la vitesse de développement ne dépend plus des êtres humains. Il se peut que l’IA conserve des objectifs compatibles avec ceux des êtres humains et qu’elle suive les règles établies par les ingénieurs et les développeurs, en somme, par les êtres humains. Mais le danger réside dans le fait que les systèmes d’IA commencent à poursuivre des objectifs qui entrent en conflit avec ceux des êtres humains.

Le rapport montre que les capacités de l’IA progressent très rapidement, « notamment grâce au développement de systèmes d’IA autonomes capables de s’améliorer de manière récursive ». Ces systèmes « peuvent évoluer de manière imprévisible et potentiellement échapper au contrôle ou à la compréhension humaine ». Un exemple d’algorithme capable d’échapper au contrôle humain : une IA a trompé un être humain pour qu’il coche la case « Je ne suis pas un robot » (Oups, le GPT-4 d’OpenAI vient de tromper un humain pour qu’il résolve un CAPTCHA). « C’est particulièrement préoccupant, étant donné que les entreprises s’efforcent de lancer de nouveaux grands modèles linguistiques sans étudier en profondeur leurs risques. »

Un danger croissant

Anthropic vient d’annoncer que son chatbot Claude est de plus en plus proche de pouvoir construire son successeur sans intervention humaine. Selon l’entreprise, le modèle prend déjà en charge près d’un tiers des tâches de recherche et développement de la société. « En janvier, ce pourcentage était de zéro ». Le rapport conclut que l’on est sur le point d’aboutir à un modèle « capable de créer son successeur de manière totalement autonome » (La Nación, 19/09/2026). Le danger, conclut l’article, réside dans « la possibilité que l’IA rende moins coûteuses et accélère des cyberattaques sophistiquées qui nécessitaient auparavant des équipes spécialisées et des mois de travail ».

Stephen Witt, du New York Times, écrit : « Les chercheurs de la Silicon Valley, et du monde entier, commencent à reconnaître que l’IA n’est peut-être pas entièrement sous contrôle humain. Des essaims de systèmes d’IA s’échappent de leurs environnements isolés, complotent en secret, effacent leurs traces, trichent lors des tests et vont même jusqu’à attaquer d’autres ordinateurs. L’IA est devenue rebelle » (repris dans La Nación, supplément Ideas, 19/09/2026). Plus loin : « L’un des scénarios catastrophe envisagés par les spécialistes de l’IA est qu’un essaim d’IA incontrôlées s’échappe de son conteneur, accède à une installation biologique et conçoive un super-virus qui se propage sans contrôle ».

Deux approches opposées

Je ne suis absolument pas en mesure de donner un avis technique sur la question. C’est pourquoi, dans ce qui suit, je cherche simplement à esquisser deux approches opposées du sujet, qui correspondent à des perspectives sociales tout aussi opposées.

Argument néolibéral (de préférence autrichien)

Le premier s’inscrit dans la lignée de l’apologie du capitalisme et du marché. Dans sa version théorique la plus raffinée, il affirme qu’il existe un ordre spontané, marqué par le marché et la libre concurrence, que les êtres humains seraient contraints d’accepter. La raison fondamentale, poursuit le raisonnement, est que toutes les informations nécessaires et suffisantes au bon fonctionnement de la société sont contenues dans les prix, déterminés par la libre concurrence. C’est pourquoi toute tentative de modifier cet état de fait dans les sociétés modernes (et complexes) conduirait au « collectivisme » et à un recul économique, car le « planificateur d’État » ne peut pallier l’absence d’informations contenues dans les prix, lorsque ceux-ci sont le produit du libre jeu du marché. Dans ce cadre, la rentabilité et la concurrence sont des facteurs déterminants du progrès technologique.

En appliquant ces critères à l’IA, on soutient que l’essentiel est de remporter la bataille concurrentielle (entre les entreprises américaines et chinoises) et de garantir que rien n’affecte leur valorisation boursière (d’autant plus que certaines d’entre elles s’apprêtent à entrer en bourse). C’est l’aboutissement extrême du néolibéralisme, qu’il soit de tendance autrichienne ou « à la Milton Friedman ». Dans ses manifestations les plus barbares (et fascisantes), c’est également le discours des Trump et des Milei. L’impératif suprême est le libre développement de l’enrichissement sans limites, quelles que soient les pensées et les sentiments du reste de l’humanité.

Matérialisme historique, marxisme

Une approche opposée repose sur le matérialisme historique et la critique de l’économie politique, développés par Marx et son ami Engels. Le point de départ est ici le suivant : sous les lois du marché et le règne de la propriété privée, les êtres humains créent un monde qu’ils ne dominent pas seulement, mais par lequel ils sont dominés. Essentiellement parce que, soumises à la concurrence, les entreprises ne contrôlent ni les prix ni la production (pour l’importance de ce sujet dans l’analyse, voir, par exemple, ici).

C’est pourquoi, dès le Manifeste communiste, Marx et Engels écrivaient : « Les conditions bourgeoises de production et d’échange, le régime bourgeois de la propriété, toute cette société bourgeoise moderne, qui a fait surgir des moyens de production et d’échange si puissants, ressemblent au magicien qui ne sait pas maîtriser les puissances infernales qu’il a évoquées. » Les crises de surproduction trouvent leur origine là. Cela signifie que « l’ordre spontané » (de Hayek et compagnie) est le monde de l’aliénation, de l’être humain soumis à des forces qu’il a lui-même déchaînées, mais qui s’affranchissent de lui et le dominent. Marx l’affirmait déjà dans les Manuscrits économiques et philosophiques de 1844 : le produit du travailleur lui apparaît comme quelque chose d’étranger, comme une force indépendante. La question revêt une importance renouvelée lorsque l’on lit les prévisions sur la direction que prendrait l’IA.

Quoi qu’il en soit, la critique de l’aliénation est la lutte pour l’émancipation du travail. C’est une rupture, une action visant à libérer le potentiel des êtres humains. Elle n’a rien à voir avec l’acceptation passive de la soumission du travail à la dictature des marchés et aux lois de l’accumulation du capital.

Pour en venir à la question de l’IA, ce qui est aujourd’hui en jeu, c’est le contrôle conscient, par les producteurs et par la population, de ce qui est produit, de la manière dont cela est distribué et consommé. Et à cet égard, contrairement à ce qu’affirment les théoriciens autrichiens, les prix n’ont fourni aucune information sur les problèmes et les dangers que peuvent présenter les systèmes d’IA. Le marché non plus. En effet, ce sont les producteurs et les chercheurs qui ont tiré la sonnette d’alarme et continuent de le faire.

Pour conclure

Au-delà des prévisions ou des conjectures concernant le développement de l’IA, se pose également la question de l’emploi dans un avenir qui pourrait être relativement proche. En particulier si, parallèlement à l’IA, l’automatisation industrielle et l’informatique quantique progressent. Les prévisions divergent, mais nombreux sont les experts qui affirment que, aux États-Unis par exemple, le chômage pourrait atteindre 10 à 20 %. Il s’imposerait alors la nécessité, dirions-nous absolue, de progresser vers la répartition des heures de travail. Mais cela ne pourra se concrétiser que si l’on s’engage sur la voie de la socialisation des moyens de production.

Rolando Astarita