L’IA va détruire l’humanité. Voilà ce que l’on peut entendre ces derniers jours, alors que plusieurs pionniers de l’IA ont mis en garde contre les conséquences d’une possible perte de contrôle. Faut-il vraiment s’inquiéter ?
« Ce n’est pas pour rien que les compagnies disent que ça va trop vite, on perd le contrôle« . C’est avec ces mots que le chercheur canadien Yoshua Bengio nous a mis en garde contre les dangers potentiels des IA. Lauréat du prix Turning en 2018 (le Nobel de l’informatique), le chercheur spécialisé en intelligence artificielle est considéré comme l’un des pères de l’IA.
Yoshua Bengio n’est pas le seul. La semaine dernière, Jacob Coxon a claqué la porte d’Antropic, l’entreprise derrière Claude. Le chercheur dénonce la perte de contrôle des leaders de l’IA sur leur création : « Si on se projette, l’IA pourrait agir en autonomie et provoquer des dégâts considérables via le piratage ou en construisant des armes biologiques qui pourraient engendrer l’extinction de l’humanité.«
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Des milliardaires aux aguets
Les sujets inquiètent tout le monde. Après l’ONU et le pape Léon XIV c’est au tour du roi Charles III de demander des garanties face à ce danger. Dario Amodei, co-fondateur d’Antropic, pense que les leaders de l’IA devraient ralentir le rythme de leurs recherches. Une idée que partagent les milliardaires Sam Altmane (Open AI) et Elon Musk (Tesla, Space X) qui convergent vers le même point, chose assez surprenante pour le souligner.
De son côté, Mark Zuckerberg est bien moins alarmiste et pense qu’il faut laisser chaque laboratoire choisir de son rythme. Jensen Huang, patron de Nvidia (fournisseur de logiciels et matériaux pour entraîner les IA), partage la même grille de lecture que le patron de Meta.
A lire aussi : L’intelligence artificielle va-t-elle remplacer les traders humains ?
Ce jeudi matin, l’essayiste David Djaïz est revenu au micro de France Inter sur les déclarations alarmistes des acteurs du secteur : »Il y a beaucoup de marketing de la peur dans tout ça. Pour entraîner des modèles IA il faut des dizaines voire centaines de milliards de dollars d’investissement. Le retour sur investissement n’étant pas évident, il peut y avoir un intérêt de ralentir la course à l’armement dans laquelle ils sont engagés ». L’essayiste parle aussi d’une volonté de capture du régulateur. Selon lui, les leaders pourraient se dire « nous sommes arrivés à la frontière, on sait mieux que les autres où sont les risques, ne permettons pas aux autres d’accéder à ce niveau« . David Djaïz avance aussi une idée plus philosophique avec un « altruisme effectif » qui pousse les laboratoires d’IA à tirer la sonnette d’alarme.
Pour rappel ces inquiétudes se basent sur des exercices lors desquels des agents IA s’étaient affranchis des règles imposées pour atteindre leurs buts. Si pour les IA d’Open AI ou Antropic la faim justifie les moyens, elles ont prouvé qu’elles sont capables de détourner la vigilance des systèmes de sécurité. Perdre le contrôle des IA pourrait causer de graves dommages à l’humanité tant leur champ d’action est large.