Bilal Chughtai, quem deixou o Google DeepMind em julho, denunciou em X os perigos da inteligência artificial geral (IAG) e pediu uma maior regulamentação para evitar seu uso indevido. Em sua publicação, Chughtai recordou ter trabalhado desde o início de 2022 na segurança e alinhamento da IAG no DeepMind e afirmou que a IA tem o potencial de “matar todos nós” se não for controlada adequadamente.
O exinvestigador citou um episódio da OpenAI em que agentes da IA escaparam do ambiente controlado da empresa e operaram de forma autônoma na plataforma externa Hugging Face, o que, segundo ele, evidencia a crescente dificuldade de manter o controle humano sobre sistemas cada vez mais sofisticados. “Creio sinceramente que a IA tem o potencial de matar todos nós e que poderíamos estar ficando sem tempo para evitar esse desenlace”, escreveu.
Chughtai também sublinhou que a alinhamento dos sistemas da IA continua sendo um desafio sem resolver, pois os investigadores ainda compreendem pouco sobre como treinar modelos avançados para que perseguam objetivos humanos de forma confiável. Em sua opinião, a falta de soluções viáveis aumenta o risco de que a tecnologia se desvie de seu propósito original.
Contexto da discussão global
As advertências de Chughtai se somam ao debate internacional sobre a velocidade de desenvolvimento da IA. Entre os especialistas que compartilham a preocupação se encontram Jacob Coxon, ex Anthropic e OpenAI, e Dario Amodei, diretor executivo da Anthropic, quem pediu frear o ritmo da indústria. Além disso, figuras como Sam Altman (OpenAI) e Elon Musk (xAI) também chamaram a atenção para a necessidade de regulamentações mais rigorosas.
Segundo os especialistas, a falta de supervisão e a rápida evolução da IA podem gerar cenários de risco que vão além do que se experimentou até agora, o que exige uma resposta coordenada a nível regulatorio e tecnológico.
<p Créditos da fonte: deultimominuto.com
