ChatGPT-Gründer warnen vor «Entmachtung der Menschheit» durch KI
In einem Blogbeitrag warnen die Gründer des beliebtesten Chatbots vor einer unkontrollierten KI – und verkündeten die Gründung eines neuen Forschungsteams an.
Das Wichtigste in Kürze
- Die Gründer warnten in einem Blog vor dem Ausmass einer unkontrollierten KI.
- Zurzeit sei niemand fähig, eine superintelligente KI zu steuern.
- Microsoft stellt enorme Ressourcen zur Problemlösung zur Verfügung.
Der Konzern hinter dem wohl beliebtesten KI-Chatbot, ChatGPT, hat angekündigt, ein neues Forschungsteam zu bilden und erhebliche Ressourcen zu investieren, um die Sicherheit der künstlichen Intelligenz für die Menschheit zu gewährleisten. Diese Ankündigung wurde am Mittwoch vom KI-Unternehmen OpenAI gemacht.
Mitbegründer wollen «Entmachtung der Menschheit» durch KI verhindern
In einem Blog-Beitrag schrieben die Mitgründer von OpenAI, Ilya Sutskever und der Leiter der Abteilung für zukünftige Ausrichtung, Jan Leike, dass die enorme Macht der «Superintelligenz» dazu führen könnte, dass die Menschheit entmachtet wird oder sogar ausstirbt.
Sie betonten, dass derzeit keine Möglichkeit besteht, eine potenziell superintelligente KI zu steuern, zu kontrollieren oder zu verhindern, dass sie ihre eigenen Wege geht.
We need new technical breakthroughs to steer and control AI systems much smarter than us.
— OpenAI (@OpenAI) July 5, 2023
Our new Superalignment team aims to solve this problem within 4 years, and we’re dedicating 20% of the compute we've secured to date towards this problem.
Join us! https://t.co/cfJMctmFNj
Microsoft stellt 20 Prozent der Rechenleistung zur Verfügung
Die Autoren des Blogs prognostizierten, dass superintelligente KI-Systeme, die intelligenter als Menschen sind, möglicherweise noch in diesem Jahrzehnt realisiert werden könnten. Um eine Kontrolle über superintelligente KI zu gewährleisten, werden bessere Techniken benötigt, als derzeit verfügbar sind.
Microsoft plant daher, in den nächsten vier Jahren 20 Prozent seiner Rechenleistung einzusetzen, um an einer Lösung dieses Problems zu arbeiten. Zudem arbeitet das Unternehmen daran, ein neues Forschungsteam namens «Superalignment Team» für diesen Zweck zusammenzustellen.
