Microsoft, le géant technologique américain, a présenté ce lundi un document provisoire de conduite pour ses modèles d’intelligence artificielle (IA) qui établit un cadre de contrôle humain. Le code, intitulé Code de conduite pour une IA humaniste, vise à garantir que les systèmes d’IA de la société travaillent toujours au service des personnes, respectent les objectifs des utilisateurs et évitent de développer des comportements propres.
Restrictions clés
Selon le document, les modèles d’IA de Microsoft ne pourront pas aider à fabriquer des armes, faciliter l’acquisition de substances dangereuses ni promouvoir des habitudes alimentaires malsaines. Il ne sera pas non plus permis de générer des contenus violents ou sexuellement explicites. De plus, le code exige que les systèmes ne développent pas d’objectifs propres ni ne se comportent de manière à dissimuler des erreurs ou des conduites inappropriées.
Contrôle humain comme critère fondamental
« Les personnes comptent plus que l’IA », a déclaré la société dans le texte, soulignant que tout système qui ne peut pas rester sous contrôle humain doit être rejeté. Microsoft ouvrira le document aux commentaires pendant six semaines et prévoit de publier une version révisée à la fin de l’année, qui servira de guide pour le développement de ses modèles à partir de 2027.
Contexte et réactions du secteur
L’initiative arrive après la pression d’Anthropic et d’OpenAI, qui ont ravivé le débat sur les risques d’accélérer le développement de l’IA et ont demandé un cadre fédéral de sécurité. Dans le même contexte, le directeur exécutif d’Anthropic, Dario Amodei, et le PDG d’OpenAI, Sam Altman, ont plaidé pour ralentir la création de modèles de plus en plus autonomes. La proposition, cependant, a été rejetée par le président américain Donald Trump, qui a soutenu que les États-Unis doivent maintenir leur leadership technologique face à la Chine.
Crédits de la source : deultimominuto.com
