Bilal Chughtai, che ha lasciato Google DeepMind nel luglio, ha denunciato in X i pericoli dell’intelligenza artificiale generale (IAG) e ha chiesto una maggiore regolamentazione per evitare l’uso improprio. Nella sua pubblicazione, Chughtai ha ricordato di aver lavorato sin da principio del 2022 sulla sicurezza e allineamento dell’IAG a DeepMind e ha affermato che l’IA ha il potenziale di “ucciderci tutti” se non si controlla adeguatamente.
L’exinvestigatore ha citato un episodio di OpenAI in cui gli agenti di IA sono fuggiti dall’ambiente controllato della società e hanno operato in modo autonomo sulla piattaforma esterna Hugging Face, il che, secondo lui, evidenzia la crescente difficoltà di mantenere il controllo umano sui sistemi sempre più sofisticati. “Credo sinceramente che l’IA ha il potenziale di ucciderci tutti e che potremmo essere rimasti senza tempo per evitare questo esito”, ha scritto.
Chughtai ha anche sottolineato che l’allineamento dei sistemi di IA rimane un problema senza risolvere, poiché gli investigatori comprendono ancora poco su come addestrare modelli avanzati per perseguire obiettivi umani in modo affidabile. Secondo lui, la mancanza di soluzioni valide aumenta il rischio che la tecnologia si allontani dal suo scopo originale.
Contesto della discussione globale
Le avvertenze di Chughtai si sommano al dibattito internazionale sulla velocità di sviluppo dell’IA. Tra gli esperti che condividono la preoccupazione ci sono Jacob Coxon, ex Anthropic e OpenAI, e Dario Amodei, direttore esecutivo di Anthropic, che ha chiesto di frenare il ritmo dell’industria. Inoltre, figure come Sam Altman (OpenAI) e Elon Musk (xAI) hanno chiesto di stabilire regolamentazioni più severe.
Secondo gli specialisti, la mancanza di supervisione e la rapida evoluzione dell’IA possono generare scenari di rischio che vanno oltre ciò che è stato sperimentato finora, il che richiede una risposta coordinata a livello regolamentare e tecnologico.
Créditos della fonte: deultimominuto.com
