Forscher warnten vor Altman-Entlassung vor gefährlicher KI

Die Entlassung von Sam Altman, dem Gesicht der generativen Künstlichen Intelligenz (KI) bei OpenAI, wurde möglicherweise durch einen bisher unveröffentlichten Brief und einen KI-Algorithmus ausgelöst. Dies berichtet die Nachrichtenagentur Reuters.

Dieser Brief, verfasst von mehreren Forschern des Unternehmens, warnte den Vorstand vor einer «mächtigen Entdeckung» im Bereich der künstlichen Intelligenz. Demnach glaubten Sie, dass diese Entdeckung «die Menschheit bedrohen» könnte.

Vor Altmans Rückkehr drohten über 700 Mitarbeiter mit Kündigung und planten sich Microsoft anzuschliessen. Der Brief war nur ein Faktor unter vielen Beschwerden des Vorstands gegen Altman – darunter auch Bedenken über die voreilige Kommerzialisierung von Fortschritten.

Nachdem OpenAI von Reuters kontaktiert wurde, bestätigte das Unternehmen in einer internen Nachricht an die Mitarbeiter ein Projekt namens Q* und den besagten Brief an den Vorstand. Die Nachricht kam von Mira Murati, der langjährigen Geschäftsführerin des Unternehmens.

Einige bei OpenAI glauben nun, dass Q* ein Durchbruch in ihrer Forschung zur künstlichen allgemeinen Intelligenz (AGI) sein könnte. AGI sind autonome Systeme die Menschen bei wirtschaftlich wertvollen Aufgaben übertreffen könnten. Das neue Modell soll dank enormer Rechenressourcen sogar bestimmte mathematische Probleme lösen können.

Die Forscher wiesen in ihrem Brief auf die Fähigkeiten und potenziellen Gefahren der KI hin. Die genauen Sicherheitsbedenken wurden jedoch nicht genannt. Es gibt seit langem Diskussionen unter Computerwissenschaftlern über die Gefahr, die von hochintelligenten Maschinen ausgeht.

Forscher sehen Mathematik als eine Grenze der Entwicklung generativer KI. Generative KIs sind gut im Schreiben und Übersetzen, indem sie statistisch das nächste Wort vorhersagen. Wenn eine KI jedoch mathematische Fähigkeiten erlangt, würde sie über grössere logische Fähigkeiten verfügen, ähnlich wie menschliche Intelligenz.