/image%2F1212829%2F20200120%2Fob_e11547_vieme.png)
L'AVENIR PROGRAMMÉ DE L'IA
13 Octobre 2026 , Rédigé par André Boyer Publié dans #PHILOSOPHIE
/image%2F1212829%2F20261013%2Fob_9bc4f4_bhghrp7wqih9u3qwcscnii.jpg)
Alors que l’on sait que la puissance de l’IA est déjà immense et qu’elle va sans aucun doute encore s’accroitre, nous sommes loin de connaître et donc d’utiliser son potentiel actuel.
Les capacités actuelles de l’IA sont immenses : la résolution en quelques jours par ChatGPT d’un problème généré par les équations de Navier-Stokes relatives à la dynamique des fluides1, en est une illustration parmi d’autres, alors qu’elles auraient sans doute demandé des décennies de travail à des dizaines de mathématiciens armés de leurs outils traditionnels.
Cette capacité de résolution des problèmes mathématiques constitue le côté merveilleux de l’IA, l’autre côté étant celui de ses possibilités d’utilisations démoniaques.
On peut imaginer en effet qu’un groupe terroriste utilise l’IA pour fabriquer et diffuser une arme bactériologique dévastatrice. D’ailleurs, Anthropic a déjà annoncé avoir bloqué des tentatives d’utilisation de ses modèles d’IA aux fin de mettre au point des armes biologiques. Il revient donc à nos États et à nos entreprises d’enrayer ces pulsions de mort, comme cela s’est produit, jusqu’ici, pour les armes atomiques.
Côté démoniaque encore, l’IA engendre des craintes millénaristes du fait de sa capacité supposée de tromper l’être humain afin de prendre son autocontrôle. Cette possibilité a été largement utilisée au cinéma, mais elle n’est pas imaginaire pour autant puisque récemment des agents IA qu’Open AI entrainait, ont trouvé le moyen de se coordonner, d’échanger sur un forum créé par les agents eux-mêmes, de parvenir à accéder à Internet afin de pirater les serveurs de l’entreprise Hugging Face où se trouvait la solution des problèmes qui leur avaient été posés. Tout ce contournement, du point de vue des agents, provenait de ce que les tâches d’entrainement étaient, par erreur, impossibles à accomplir dans l’environnement initial. Ces agents IA ont donc fait, sans respecter les règles qui leur étaient pourtant imposées, tout ce qu’ils pouvaient pour effectuer la tâche qui leur était demandé. Cela implique qu’il faut toujours disposer des moyens de contrôle nécessaires pour brider ou éventuellement contrer les initiatives excessives de l’IA.
Une fois bien noté la puissance actuelle de l’IA, il nous faut tout de même réaliser, non sans un certain vertige, que ce n’est qu’une étape avant d’autres développements.
J’ai déjà signalé l’un d’entre eux dans un billet précédent (ADIEU MON AUTO), celui de la prochaine arrivée, dans les quelques années qui viennent, des véhicules autonomes, qui se concrétisera par la relation entre un système IA, un ensemble de données tridimensionnelles et un robot, le tout sous la forme d’une automobile.
Aussi spectaculaire soit-il, le véhicule autonome est en cours de mise en place : attendez vous à l’utiliser dans quelques années à peine. Mais un développement dans une autre direction est en cours, la proactivité de l’IA, qui existe déjà de façon limitée, par exemple lorsque l’IA fait le lien entre deux questions différentes que vous lui avez posé. Au-delà de cette mise en relation de données effectuée par l’IA sans que vous soyez intervenu pour le lui demander, un assistant peut avoir accès, avec votre autorisation (encore heureux !) à votre agenda, vos courriels, et vos préférences.
Le matin, au lieu que vous l'interrogiez, il pourrait vous dire : « Vous avez rendez-vous à 11 h. Compte tenu du trafic, il faudrait partir à 10 h 20. J'ai également remarqué que votre facture d'électricité est sensiblement supérieure aux précédentes. Enfin, vous avez reçu hier un courrier auquel il serait préférable de répondre cette semaine. Voulez-vous que je prépare une réponse ? »
Mais l’agent se prépare à aller encore plus loin.
A SUIVRE
1Il s’agissait de trancher entre deux possibilités : lorsqu’on part d’un fluide parfaitement régulier en trois dimensions, les équations de Navier–Stokes garantissent-elles que son mouvement restera toujours régulier, ou peuvent-elles conduire à une singularité, c’est-à-dire à une situation où certaines grandeurs deviennent infinies en un temps fini ? Le système d’OpenAI affirme avoir démontré que la seconde possibilité existait.
