Faut-il laisser faire ou réguler l’IA ?

L’IA et les technologies numériques tirent la locomotive économique et la capitalisation boursière. Certaines sociétés technologiques américaines ont une capitalisation supérieure au PIB de la France. Mais ce n’est pas simplement l’enrichissement des actionnaires et la possibilité d’une bulle spéculative d’une taille jamais atteinte dans l’histoire qui pose une question au philosophe. C’est la concentration des pouvoirs de changement et de basculement mondiaux que contient une IA trop récente pour être régulée.

Dans la bouche de certains fondateurs de sociétés comme Sam Altman, l’IA contient la solution au changement climatique et le dévoilement de tous les principes de la physique. Ces promesses n’ont pas empêché l’IA Claude d’être utilisée à l’insu de ses fondateurs par l’armée américaine lors de la très médiatique intervention de « capture » du président vénézuélien à Caracas.

Le risque de "totalitarisme digital"

Ces évènements ne doivent pas nous contraindre à l’immobilisme critique de la « technophobie. » L’humanité avance par révolutions et dans la prise de risques : « les risques doivent être pris car le plus grand danger dans la vie est de ne rien risquer » nous dit l’auteur américain et professeur d’Université Léo Buscaglia. Mais le risque de l’IA est de déshumaniser nos sociétés. Car l’accélérationnisme est un totalitarisme politique. Certains dans la Silicon Valley considèrent, par exemple, que le code génétique humain est truffé d’erreurs et qu’il faut le modifier pour atteindre la vie éternelle. Ils veulent modifier à la civilisation humaine, tout puissant qu’ils sont, alors que nous n’en prenons pas garde !

Le marché ne peut pas tout prévoir

Des entreprises technologiques reconnaissent avoir programmé le remplacement des dizaines de milliers de codeurs par l’IA. D’autres espionner la manière dont travaillent leurs meilleurs ingénieurs pour mieux les remplacer. L’avenir sera-t-il radieux et constellé des rêves de triomphes numériques des techno-solutionnistes ? Ou bien courrons-nous droit à la catastrophe avec une issue tragique à la « Terminator ? « Face aux « accélérationnistes » qui considèrent que nous devons modifier l’humanité pour lui permettre de s’adapter, certains que l’on appelle les « doomers » reconnaissent que l’IA pourrait provoquer la fin du monde. Tout est là, on ne sait plus quoi penser, tout devient complexe. On n’a pas encore répondu à une question que la suivante s’impose. Il y a tellement d’argent et de pouvoir en jeu et une telle proximité entre dirigeants politiques et compagnies cotées en bourse qu’on ne peut pas laisser ces questions au seul marché. La question de l’avenir de l’humanité ne peut pas être piégée par le rythme et les logiques de marché et les génies digitaux.

Réguler l’IA

L’IA doit être régulée, à un niveau national et international ses tenants et aboutissants rendus publics et soumis à un débat, sortis de la confidentialité, du fait accompli, et soumis à la réflexion sur le sens de la société humaine. Nous devons savoir qui la contrôle et comment, car nous sommes sur une ligne de crête entre science et société, entre culture et nature, c’est une question existentielle et civilisationnelle, une des questions les plus fondamentales de notre temps. Au sein des démocraties, c’est un débat public et un vote sur l’IA et ses conséquences qu’il faut provoquer. Et plus largement sur les résultats technologiques des recherches récentes et des risques futurs qu’ils engendrent.