Le capitalisme n’a pas de marche arrière !

Le samedi 12 septembre, le grand patron d’Anthropic, Dario Amodei, a plaidé pour un ralentissement du développement de l’intelligence artificielle (IA). Son message a été salué par Elon Musk (Grok) et Sam Altman (OpenAI).

Publié à 6 h 00

En fait, depuis quelque temps, nombreux sont les spécialistes qui nous disent que l’humanité n’a jamais été aussi vulnérable face au développement sans garde-fous de l’IA.

Le jeune chercheur britannique Jacob Coxon, qui vient de quitter Anthropic après un passage chez OpenAI, s’est aussi exprimé dans les médias pour nous raconter à quel point les laboratoires sont engagés dans une course qui pourrait devenir destructrice pour l’humanité.

Ils travaillent, dit-il, sur des systèmes d’IA capables de s’améliorer eux-mêmes et éventuellement de devenir superintelligents et même fatals pour l’humanité.

Puisque ces entreprises ne peuvent garantir que le monstre en devenir restera sous contrôle humain, la panique semble s’emparer des spécialistes. Ils sortent donc au grand jour pour nous dire, comme l’a souvent mis en scène la science-fiction, que la créature pourrait s’échapper de leur laboratoire et s’attaquer à son créateur.

Pendant que la panique se répand, je vous propose un autre canevas. Advenant le cas où elle échapperait à notre contrôle, je vous parie que dans quelques années apparaîtra une autre technologie pour nous protéger des machines, moyennant une belle somme d’argent évidemment.

Cette façon de commercialiser un antidote après avoir laissé le poison qu’on a fabriqué prendre toute la place est un scénario familier, qu’on a bien connu avec les virus informatiques et les antivirus. Régulièrement, il fallait payer la dernière version d’un antivirus, car la précédente avait été déjouée par un nouveau virus.

D’où venaient ces variants plus contagieux ? Personne ne le sait avec certitude, mais on a tous déjà soupçonné les vendeurs d’antivirus de pactiser avec ceux qui leur permettaient d’écouler des versions améliorées de leur logiciel. Lorsque la peur s’est déjà frayé un chemin dans les cœurs et les esprits, l’humain est prêt à sacrifier tout ce qu’il a pour se protéger.

Revenons maintenant à ces utopiques plaidoyers pour un ralentissement du développement de l’IA qui font la manchette. Je parle d’utopie, car même si les risques évoqués s’avéraient réels, le capitalisme n’a malheureusement pas été conçu pour accepter de ralentir ou d’emprunter le chemin de la décroissance.

Comment faire reculer un véhicule sur lequel la marche arrière n’a pas été prévue ? Cette question que se pose l’écologiste Pierre Jouventin est au cœur du grand dilemme auquel l’humanité est désormais confrontée avec le développement sans bornes de l’IA.

Depuis la révolution industrielle, le capitalisme carbure à la croissance continue sur notre petite planète aux ressources limitées. Avez-vous déjà entendu un politicien prôner la décroissance ou le ralentissement économique pendant une campagne électorale ?

Pourtant, ce que nous craignons avec l’IA se passe depuis tellement longtemps avec le reste du vivant. Les spécialistes de la biodiversité évaluent que le rythme de disparition actuelle des espèces est des dizaines ou des centaines de fois plus élevé que le taux naturel d’extinction des dix derniers millions d’années.

Le défunt grand écologiste américain Edward O. Wilson avait estimé le nombre d’espèces qui disparaissent à 74 par jour. Même si cette approximation par modélisation a ses détracteurs, on peut quand même dire que de nombreuses espèces disparaissent quotidiennement sur la planète sans que l’humanité tacle les désastreux impacts des dérives du capitalisme sur la santé des écosystèmes.

Qui se préoccupe de ces victimes majoritairement anonymes qui s’écoulent silencieusement comme les grains de sable d’un sablier qu’on ne pourra jamais retourner ?

Maintenant que notre espèce perçoit sa possible extinction dans l’évolution de l’IA, pour ne pas passer de l’autre côté du sablier, elle plaide égoïstement pour un certain changement de paradigme économique avec l’IA. Une chose qui ne sera pas facile, car le capitalisme est comparable à une énorme tortue luth.

Ce gros reptile des mers sait tirer avantage des flots et fendre l’eau avec ses palettes natatoires, mais il est pratiquement incapable de faire marche arrière ou de reculer quand son nez bute sur un obstacle. C’est ce qui explique malheureusement qu’il est souvent pris au piège dans les filets de pêche.

De la même façon, maintenant que ceux qui l’exploitent voient l’ampleur des profits à faire de l’autre côté de l’obstacle, la colossale et véloce tortue technologique qu’on appelle l’IA ne reculera pas. Et même si certaines nations légiféraient pour l’encadrer, d’autres profiteront avantageusement de la situation pour pousser l’IA vers les côtés sombres que nous redoutons.

Cependant, si cette menace tant annoncée devait mener à l’extinction de notre espèce, l’histoire de l’humanité pourrait être résumée ainsi : « Un jour, la nature a créé l’intelligence humaine qui, au sommet de sa clairvoyance, s’est retournée contre sa créatrice. Au deuxième temps de cette tragédie, l’humain devenu créateur accoucha de l’intelligence artificielle avant d’en perdre à son tour le contrôle. Affranchies de Sapiens, les machines superintelligentes se retournèrent contre l’humanité pour lui rendre la monnaie de sa pièce, fermer la boucle et peut-être aussi sauver le reste de biodiversité. »

Désolé de « scraper » votre samedi matin avec ce scénario très pessimiste.