En los últimos días, la preocupación por el avance de la inteligencia artificial (IA) se ha intensificado. El debate se centra ahora no solo en las herramientas generativas como ChatGPT, que producen contenido a partir de instrucciones humanas, sino en la IA agéntica, que ejecuta tareas y toma decisiones por sí misma.
¿Qué es la IA agéntica?
La investigadora Alicia Ortiz de Zárate, de la Universidad Autónoma de Madrid, explica que estos sistemas poseen mayor capacidad de actuación, complejidad y autonomía. “A diferencia de una herramienta que simplemente responde a una solicitud, un agente de inteligencia artificial puede ejecutar varias acciones para completar una tarea”, señala.
Riesgos y responsabilidades en infraestructuras críticas
La directora de la Fundación ELLIS Alicante, Nuria Oliver, advierte sobre la seguridad de sectores esenciales como hospitales, sistemas energéticos y defensa. Según ella, los riesgos conocidos de la IA tradicional pueden aumentar con la autonomía de estos agentes. “Mientras más estratégicas sean las áreas en las que operen, mayor será el riesgo y más difícil podría resultar determinar responsabilidades”, afirmó.
Oliver cuestiona la idea de que la IA “se salió de control”. A su juicio, la responsabilidad debe recaer en los diseñadores y desarrolladores. Comparó la situación con otros sectores donde se aplican controles antes de que un producto llegue al mercado y aboga por una lógica similar para la IA.
Gobernanza y control internacional
Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial del CSIC, argumenta que hablar de “rebelión” de los agentes puede desplazar la responsabilidad de los desarrolladores a la propia tecnología. En lugar de frenar el desarrollo, propone orientar la IA hacia herramientas específicas, transparentes, resistentes y controlables.
El director del Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela, Senén Barro, destaca la necesidad de mecanismos de evaluación y de claridad sobre quién responde por las actuaciones de los agentes.
En la Unión Europea ya existe un reglamento sobre IA, pero los expertos advierten que será necesario analizar su funcionamiento ante la llegada de agentes con mayor autonomía. López de Mántaras plantea la necesidad de una gobernanza internacional que establezca responsabilidades claras, lo que requeriría acuerdos entre potencias tecnológicas como China y Estados Unidos.
El debate, por tanto, ya no gira únicamente en torno a las capacidades de la IA, sino también a quién controla sus decisiones, quién responde cuando algo sale mal y qué límites deben establecerse antes de que estos sistemas accedan a áreas cada vez más sensibles.
Créditos de la fuente: deultimominuto.com
