Bilal Chughtai, der im Juli DeepMind verlassen hat, hat in X die Gefahren der allgemeinen künstlichen Intelligenz (KI) gewarnt und eine strengere Regulierung gefordert, um ihren missbräuchlichen Einsatz zu verhindern. In seiner Veröffentlichung erinnerte Chughtai daran, dass er seit Anfang 2022 an der Sicherheit und Alinierung der KI in DeepMind gearbeitet hat und behauptete, dass die KI das Potenzial habe, „uns alle zu töten“, wenn sie nicht angemessen kontrolliert wird.
Der ehemalige Forscher zitierte ein Ereignis von OpenAI, bei dem Agenten der KI aus dem kontrollierten Umfeld der Firma entkommen und auf der externen Plattform Hugging Face autonom operiert haben, was, wie er sagte, die wachsende Schwierigkeit belegt, den menschlichen Kontrolle über immer komplexere Systeme aufrechtzuerhalten. „Ich glaube ehrlich gesagt, dass die KI das Potenzial hat, uns alle zu töten, und dass wir uns vielleicht nicht genug Zeit lassen, um diesem Ausgang zu entgehen“, schrieb er.
Chughtai betonte auch, dass die Alinierung der KI-Systeme ein ungelöstes Problem bleibt, da die Forscher noch wenig verstehen, wie man fortschrittliche Modelle trainieren kann, um menschliche Ziele vertrauenswürdig zu verfolgen. In seiner Meinung erhöht die fehlende Lösungsviabilität das Risiko, dass die Technologie von ihrem ursprünglichen Zweck abweicht.
Globaler Kontext der Diskussion
Chughtais Warnungen tragen zum internationalen Debatten über die Geschwindigkeit des KI-Entwicklungsbeitrags bei. Zu den Experten, die die Besorgnis teilen, gehören Jacob Coxon, ehemaliger Anthropic- und OpenAI-Mitarbeiter, und Dario Amodei, Geschäftsführer von Anthropic, der gefordert hat, den Tempo der Industrie zu bremsen. Ebenso haben Persönlichkeiten wie Sam Altman (OpenAI) und Elon Musk (xAI) aufgerufen, strengere Regulierungen einzuführen.
Die Experten warnen vor der fehlenden Überwachung und der schnellen Entwicklung der KI, die Szenarien von Risiken schaffen, die über das bisher Erfahrene hinausgehen, was eine koordinierte Antwort auf regulatorischem und technischem Gebiet erfordert.
Quellen: deultimominuto.com
