KI-Pionier warnt: Viele können «nicht mehr erkennen, was wahr ist»

Geoffrey Hinton gilt als Pionier in der Entwicklung von Künstlicher Intelligenz. Jetzt blickt er jedoch kritisch auf sein Lebenswerk und warnt vor den Risiken.

OpenAI KI Entwickler — KI-Entwickler Geoffrey Hinton hat bei Google gekündigt und warnt jetzt die Welt vor Künstlicher Intelligenz. - keystone

Das Wichtigste in Kürze

Google-KI-Pionier Geoffrey Hinton bedauert sein Lebenswerk.
Er nimmt an, dass KI zum Bösen genutzt werden wird.
Langfristig könne sie sogar die Menschheit bedrohen, so der «Godfather of AI».

Geoffrey Hinton (75), ein Pionier der Künstlichen Intelligenz (KI), arbeitete zehn Jahre für Google. Dort wirkte er massgeblich an KI-Projekten mit. Doch nun rudert er zurück: Hinton möchte nicht mehr aktiv an der Weiterentwicklung arbeiten. Im Gegenteil: Jetzt warnt er die Menschen vor den Risiken von KI.

In einem Interview mit der «New York Times» gesteht er, dass er sein Lebenswerk bedauere. Denn es sei ein Leichtes, KI für das Schlechte zu nutzen. «Ich tröste mich mit der üblichen Ausrede: Wenn ich es nicht getan hätte, hätte es jemand anderes getan.»

Viele können «nicht mehr erkennen, was noch wahr ist»

Der auch als «Godfather of AI» (Artificial Intelligence, deutsch Künstliche Intelligenz) bekannte Hinton sieht vor allem gefälschte Bilder und Texte als gefährlich an. Wenn sich solche Falschinformationen im Internet verbreiten, könnten viele Menschen «nicht mehr erkennen, was noch wahr ist».

Ausserdem äussert er Bedenken, dass KI zukünftig Arbeitsplätze ersetzen könnte. Aber Hinton geht noch weiter: Er befürchtet, dass KI langfristig sogar die Menschheit bedrohen könnte.

Denn oft lassen Unternehmen und Einzelpersonen die KI Computercodes schreiben und selbst ausführen – trotz teils unerwarteten Verhaltens. In diesem Zusammenhang ruft Hinton auch zur Vorsicht mit autonomen Waffensystemen auf.

Früher hielt Hinton es für abwegig, dass KI schlauer sein könnte als der Mensch. Er dachte, dies sei noch Jahrzehnte entfernt. «Die meisten dachten, das sei noch weit weg, ich dachte das auch. 30 oder 50 Jahre oder sogar mehr», so Hinton.

Bereitet Ihnen die fortschreitende Entwicklung von Künstlicher Intelligenz Sorgen?

Mittlerweile ist er fest davon überzeugt: Bald ist das Unmögliche Alltag. Deshalb will er nun die Welt über Künstliche Intelligenz aufklären. Innerhalb der letzten fünf Jahre habe die KI-Forschung einen grossen technischen Fortschritt erlebt. Übertrage man diese Entwicklung auf die Zukunft, sei das «beängstigend».

Tech-Grössen forderten bereits KI-Entwicklungsstopp

Erst Ende März warnten Tesla-Chef Elon Musk, Apple-Mitbegründer Steve Wozniac und andere Tech-Pioniere in einem offenen Brief vor Künstlicher Intelligenz. Sie bemängeln einen «ausser Kontrolle geratenen Wettlauf» und fordern einen Entwicklungsstopp von mindestens sechs Monaten.

Diese Zeit solle dazu genutzt werden, Sicherheitsstandards für die KI-Entwicklung auszuarbeiten. Schäden durch riskante Projekte im Zusammenhang mit KI gelte es zu verhindern.