openAI: Könnte eine neue AI die Menschheit bedrohen?
Nach der Rückkehr des CEO Sam Altmans zu openAI mehren sich die Berichte über die bahnbrechenden Fähigkeiten eines neuen AI-Modell namens Q*.
Das Wichtigste in Kürze
- Bei openAI mehren sich die Berichte über ein neues AI-Modell namens Q*.
- Nach Warnungen von Mitarbeitenden könne das Modell die Menschheit gefährden.
- Q* verfügt über einfache logische und konzeptionelle Fähigkeiten.
Nach den Geschehnissen um openAI-CEO Sam Altman deutet vieles darauf hin, dass das unternehmensinterne Chaos mit einem neuen AI-Modell zusammenhängt. Einem Artikel von «Business Insider» zufolge soll das neue Modell namens Q* (sprich: Q Star) erstmals auch über logische und konzeptuelle Fähigkeiten verfügen. Laut «Reuters» hätte das intern für einen Aufschrei gesorgt: Der Vorstand von openAI wurde gewarnt, dass das Modell die Menschheit bedrohen könne.
Berichten zufolge war diese Warnung Grund für die Entlassung Altmans gewesen, der am Mittwoch aufgrund interner Protestaktionen zu openAI zurückkehrte.
openAI: Bisher nur einfache mathematische Aufgaben lösbar
KI-Experten gaben gegenüber «Business Insider» zu, dass das neue AI-Modell bisher zwar nur einfache mathematische Aufgaben lösen könne. Es sei aber auch in der Lage zu verallgemeinern, könne also selbst denken. Dazu sagte Charles Higgins, Mitbegründer des KI-Trainings-Startups Tromero: «Wenn es die Fähigkeit hat, logisch zu denken und über abstrakte Konzepte nachzudenken, ist das ein ziemlich grosser Sprung.»
Sophia Kalanovska, ebenfalls Mitbegründerin von Tromero, erklärte dem Magazin, dass der Name Q* zwei bekannte KI-Techniken kombiniert: Q-Learning und A*-Search. Dies deute auf eine Verbindung von Deep-Learning-Techniken mit von Menschen programmierten Regeln hin. Dieser Ansatz könnte dagegen helfen, dass ChatGPT Informationen erfindet, was derzeit noch manchmal der Fall wäre.
Neues AI-Modell «symbolisch sehr wichtig»
«Ich denke, es ist symbolisch sehr wichtig. Auf praktischer Ebene glaube ich nicht, dass die Welt davon untergeht», so Kalanovska.
Dr. Andrew Rogoyski, Direktor am Surrey Institute for People-Centered AI: «Wenn eine KI unbekannte Probleme lösen kann und nicht nur vorhandenes Wissen wiederkäut, dann wäre das eine grosse Sache. Selbst wenn die Mathematik relativ einfach ist.»
Doch gibt es auch kritische Stimmen. KI-Experte Gary Marcus beispielsweise zweifelte daran, dass Q* einen weltbewegenden Umsturz mit sich bringen wird. «Heute funktioniert es für Grundschüler, nächstes Jahr wird es die Welt erobern», höhnte er.
