Microsoft, el gigante tecnológico estadounidense, presentó este lunes un documento provisional de conducta para sus modelos de inteligencia artificial (IA) que establece un marco de control humano. El código, titulado Código de conducta para una IA humanista, busca asegurar que los sistemas de IA de la compañía trabajen siempre al servicio de las personas, respeten los objetivos de los usuarios y eviten desarrollar comportamientos propios.
Restricciones clave
Según el documento, los modelos de IA de Microsoft no podrán ayudar a fabricar armas, facilitar la adquisición de sustancias peligrosas ni promover hábitos alimentarios poco saludables. Tampoco se permitirá generar contenidos violentos o sexualmente explícitos. Además, el código exige que los sistemas no desarrollen metas propias ni se comporten de forma que oculten errores o conductas indebidas.
Control humano como criterio fundamental
“Las personas importan más que la IA”, afirmó la compañía en el texto, subrayando que cualquier sistema que no pueda mantenerse bajo control humano debe ser rechazado. Microsoft abrirá el documento a comentarios durante seis semanas y planea publicar una versión revisada a finales de año, que servirá de guía para el desarrollo de sus modelos a partir de 2027.
Contexto y reacciones del sector
La iniciativa llega tras la presión de Anthropic y OpenAI, que reavivaron el debate sobre los riesgos de acelerar el desarrollo de IA y solicitaron un marco federal de seguridad. En ese mismo contexto, el director ejecutivo de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, abogaron por ralentizar la creación de modelos cada vez más autónomos. La propuesta, sin embargo, fue rechazada por el presidente estadounidense Donald Trump, quien defendió que Estados Unidos debe mantener su liderazgo tecnológico frente a China.
Créditos de la fuente: deultimominuto.com
