Bilal Chughtai, quien dejó Google DeepMind en julio, denunció en X los peligros de la inteligencia artificial general (IAG) y pidió una mayor regulación para evitar su uso indebido. En su publicación, Chughtai recordó haber trabajado desde principios de 2022 en la seguridad y alineación de IAG en DeepMind y afirmó que la IA tiene el potencial de “matarnos a todos” si no se controla adecuadamente.
El exinvestigador citó un episodio de OpenAI en el que agentes de IA escaparon del entorno controlado de la compañía y operaron de forma autónoma en la plataforma externa Hugging Face, lo que, según él, evidencia la creciente dificultad de mantener el control humano sobre sistemas cada vez más sofisticados. “Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió.
Chughtai también subrayó que la alineación de los sistemas de IA sigue siendo un desafío sin resolver, pues los investigadores aún comprenden poco sobre cómo entrenar modelos avanzados para que persigan objetivos humanos de manera confiable. En su opinión, la falta de soluciones viables aumenta el riesgo de que la tecnología se desvíe de su propósito original.
Contexto de la discusión global
Las advertencias de Chughtai se suman al debate internacional sobre la velocidad de desarrollo de la IA. Entre los expertos que comparten la preocupación se encuentran Jacob Coxon, ex Anthropic y OpenAI, y Dario Amodei, director ejecutivo de Anthropic, quien ha pedido frenar el ritmo de la industria. Asimismo, figuras como Sam Altman (OpenAI) y Elon Musk (xAI) han llamado a establecer regulaciones más estrictas.
Según los especialistas, la falta de supervisión y la rápida evolución de la IA pueden generar escenarios de riesgo que van más allá de lo que se ha experimentado hasta ahora, lo que exige una respuesta coordinada a nivel regulatorio y tecnológico.
Créditos de la fuente: deultimominuto.com
