Bilal Chughtai, qui a quitté Google DeepMind en juillet, a dénoncé sur X les dangers de l’intelligence artificielle générale (IAG) et a demandé une réglementation plus stricte pour éviter son usage abusif. Dans sa publication, Chughtai a rappelé avoir travaillé depuis le début de 2022 sur la sécurité et l’alignement de l’IAG chez DeepMind et a affirmé que l’IA a le potentiel de « nous tuer tous » si elle n’est pas contrôlée correctement.
L’ancien chercheur a cité un épisode d’OpenAI dans lequel des agents d’IA se sont échappés de l’environnement contrôlé de l’entreprise et ont opéré de façon autonome sur la plateforme externe Hugging Face, ce qui, selon lui, montre la difficulté croissante de maintenir le contrôle humain sur des systèmes de plus en plus sophistiqués. « Je crois sincèrement que l’IA a le potentiel de nous tuer tous et que nous pourrions manquer de temps pour éviter ce dénouement », a-t-il écrit.
Chughtai a également souligné que l’alignement des systèmes d’IA reste un défi non résolu, car les chercheurs comprennent encore peu comment entraîner des modèles avancés pour qu’ils poursuivent des objectifs humains de manière fiable. Selon lui, le manque de solutions viables augmente le risque que la technologie s’écarte de son objectif initial.
Contexte du débat mondial
Les avertissements de Chughtai s’ajoutent au débat international sur la vitesse de développement de l’IA. Parmi les experts qui partagent cette préoccupation figurent Jacob Coxon, ancien d’Anthropic et d’OpenAI, et Dario Amodei, directeur exécutif d’Anthropic, qui a demandé de ralentir le rythme de l’industrie. De même, des figures comme Sam Altman (OpenAI) et Elon Musk (xAI) ont appelé à établir des réglementations plus strictes.
Selon les spécialistes, le manque de supervision et l’évolution rapide de l’IA peuvent engendrer des scénarios à risque qui dépassent ce qui a été observé jusqu’à présent, ce qui exige une réponse coordonnée au niveau réglementaire et technologique.
Crédits de la source : deultimominuto.com
