Ces derniers jours, les inquiétudes concernant l’avancement de l’intelligence artificielle (IA) se sont intensifiées. Le débat se concentre désormais non seulement sur les outils génératifs comme ChatGPT, qui produisent du contenu à partir d’instructions humaines, mais aussi sur l’IA agente, qui exécute des tâches et prend des décisions par elle-même.
Qu’est‑ce que l’IA agente ?
La chercheuse Alicia Ortiz de Zárate, de l’Université autonome de Madrid, explique que ces systèmes possèdent une plus grande capacité d’action, de complexité et d’autonomie. « À la différence d’un outil qui répond simplement à une demande, un agent d’intelligence artificielle peut exécuter plusieurs actions pour accomplir une tâche », indique‑t‑elle.
Risques et responsabilités dans les infrastructures critiques
La directrice de la Fondation ELLIS Alicante, Nuria Oliver, met en garde contre la sécurité des secteurs essentiels tels que les hôpitaux, les systèmes énergétiques et la défense. Selon elle, les risques connus de l’IA traditionnelle peuvent augmenter avec l’autonomie de ces agents. « Plus les zones dans lesquelles ils opèrent sont stratégiques, plus le risque est élevé et plus il peut être difficile de déterminer les responsabilités », a‑t‑elle déclaré.
Oliver remet en question l’idée que l’IA « se soit échappée à tout contrôle ». À son avis, la responsabilité doit incomber aux concepteurs et développeurs. Elle a comparé la situation à d’autres secteurs où des contrôles sont appliqués avant qu’un produit n’atteigne le marché et plaide pour une logique similaire pour l’IA.
Gouvernance et contrôle international
Ramón López de Mántaras, fondateur de l’Institut de recherche en intelligence artificielle du CSIC, soutient que parler de « rébellion » des agents peut déporter la responsabilité des développeurs vers la technologie elle‑même. Au lieu de freiner le développement, il propose d’orienter l’IA vers des outils spécifiques, transparents, résilients et contrôlables.
Le directeur du Centre singulier de recherche en technologies intelligentes de l’Université de Santiago de Compostela, Senén Barro, souligne la nécessité de mécanismes d’évaluation et de clarté quant à qui répond des actions des agents.
Dans l’Union européenne, il existe déjà un règlement sur l’IA, mais les experts avertissent qu’il sera nécessaire d’analyser son fonctionnement face à l’arrivée d’agents dotés d’une plus grande autonomie. López de Mántaras évoque la nécessité d’une gouvernance internationale qui établisse des responsabilités claires, ce qui exigerait des accords entre les puissances technologiques comme la Chine et les États‑Unis.
Le débat, donc, ne tourne plus uniquement autour des capacités de l’IA, mais aussi autour de qui contrôle ses décisions, qui répond lorsque quelque chose tourne mal et quelles limites doivent être établies avant que ces systèmes n’accèdent à des domaines de plus en plus sensibles.
Crédits de la source : deultimominuto.com
Nota elaborada de forma automatizada a partir de las fuentes citadas en el texto. ¿Encontraste un error? Escríbenos a [email protected] y lo corregimos.
