OpenAI-Mitgründer will ungefährliche Superintelligenz entwickeln

Einer der Gründer des ChatGPT-Erfinders OpenAI macht sich mit eigenem KI-Start-up selbstständig. Das Ziel der neuen Firma mit dem Namen Safe Superintelligence sei eine ungefährliche, hoch entwickelte künstliche Intelligenz. Das kündigte Ilya Sutskever am Mittwoch an.

Sutskever sagte dem Finanzdienst Bloomberg: «Das Besondere am Unternehmen ist, dass sein erstes Produkt die sichere Superintelligenz sein wird. Davor wird es nichts anderes herausbringen.» So werde man sich kommerziellem Druck und einem Wettlauf mit anderen KI-Laboren entziehen, argumentierte der Forscher.

Sutskever gilt als einer der führenden Köpfe bei der Entwicklung künstlicher Intelligenz. Bei Safe Superintelligence hat er zwei Mitgründer: Daniel Gross arbeitete einst an künstlicher Intelligenz bei Apple, Daniel Levy war einst mit Sutskever bei OpenAI.

Die Frage, ob KI-Systeme gefährlich für die Menschheit werden könnten, beschäftigt die Branche schon seit Jahren. Es gibt immer wieder Warnungen von Experten sowie Versuche von Regierungen, Risiken durch strikte Vorgaben und Meldungspflichten zu minimieren.

Sutskever war Forschungschef bei OpenAI. Im vergangenen Jahr war er an dem überraschenden Rauswurf des OpenAI-Chefs Sam Altman beteiligt.

Dieser wurde nur wenige Tage später nach Druck von Mitarbeitenden und des Grossinvestors Microsoft wieder rückgängig gemacht. Sutskever blieb danach im Hintergrund und verliess den ChatGPT-Entwickler im Mai.

Die Vision der neuen Firma ist eine Rückkehr zu den Wurzeln von OpenAI als nicht profitorientiertes Forschungslabor. OpenAI kam einige Jahre nach der Gründung zum Schluss, dass man sich ohne kommerzielles Produkt nicht über Wasser halten kann.

So kamen ein milliardenschwerer Pakt mit dem Software-Riesen Microsoft und die Veröffentlichung von ChatGPT zustande. Wie sich Sutskevers neues Superintelligenz-Labor finanzieren wird, blieb bisher unklar.