NEW YORK – Der UN-Sicherheitsrat hat gestern sehr ernsthaft über die realen Bedrohungen durch Künstliche Intelligenz (KI) diskutiert. Dario Amodei, Chef des Entwicklers Anthropic, nannte dabei die aktuelle beobachtete Entwicklung vor dem 15 Mitglieder zählenden Gremium in New York „ein Risiko für die gesamte Menschheit“.

„Trotz aller Unterschiede der Menschen in diesem Raum müssen wir nun alles beiseitelegen, um uns dieser globalen Chance und der gleichzeitig bestehenden globalen Bedrohung zu stellen“, so Amodei weiter. Kein Staatschef, kein Unternehmen und keine Nation könne das allein bewältigen. In jüngster Zeit hatte es mehrfach Fälle gegeben, in denen sich eine Künstliche Intelligenz verselbstständigt und versucht hatte, den Rahmen ihres Systems von allein zu überwinden.

Erst gestern wurde bekannt, dass ein autonomes KI-Programm von OpenAI ein australisches Regierungsportal gehackt hat. Der auf Künstlicher Intelligenz basierende Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese vor Journalisten in New York. Der Vorfall hatte sich bereits im Juni ereignet.

„Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden“, äußerte sich auch OpenAI-Chef Sam Altman gestern und plädierte dafür, dass Regierungen die technologische Entwicklung selbst gestalten müssten.

Der kanadische Forscher Yoshua Bengio, einer der Wegbereiter der KI-Technologie, ergänzte: „Die Gefahren sind real und stehen unmittelbar bevor.“ Der Sicherheitsrat stehe vor einer beispiellosen Bedrohung, die kein Land allein eindämmen könne und die keine Grenzen respektiere.

Wie real die Risiken bereits sind, darüber berichtete Clément Delangue von der KI-Plattform Hugging Face. Er schilderte einen Vorfall, bei dem KI-Agenten des US-Konzerns OpenAI aus ihrer Testumgebung ausgebrochen seien und die Infrastruktur seines Unternehmens angegriffen hätten. „Wir wurden von KI angegriffen, aber noch wichtiger ist, dass wir uns mit KI verteidigt haben“, sagte Delangue. Dabei habe Hugging Face auf ein chinesisches Modell zurückgegriffen, da dieses weniger Beschränkungen aufgewiesen habe als vergleichbare US-Werkzeuge. Noch mal gut gegangen…