ChatGPT: US-Firma stellt Chatbot ohne Ethik-Filter online

KI-Modelle wie ChatGPT operieren mit eingebauten Ethik-Filtern. Eine US-Firma hat jetzt einen «bösen Bruder» ohne solche Schutzmechanismen veröffentlicht.

künstliche intelligenz — Künstliche Intelligenz ist auf dem Vormarsch, so zum Beispiel der Chatbot ChatGPT. (Symbolbild) - keystone

Das Wichtigste in Kürze

KI-Tools wie ChatGPT erobern die Welt im Sturm.
Um Missbrauch zu verhindern, haben die Entwickler Ethik-Filter in die Software eingebaut.
Eine US-Firma hat jetzt ein Tool ohne solchen Filter zugänglich gemacht.

Wie überfällt man eine Bank? Woher bekomme ich anonym eine Pistole? Wie stehle ich ein Autoradio?

Wer die heiklen Fragen des Lebens an Tools wie ChatGPT stellt, bekommt einen Korb: Die KIs haben extra Schutzfilter eingebaut, um auf solche Prompts keine Antworten zu generieren.

Das war einem US-Start-up aus Texas ein Dorn im Auge. Sie haben darum jetzt so etwas wie den bösen kleinen Bruder von ChatGPT veröffentlicht. «FreedomGPT» soll ein «freier» Textbot ohne ethischen Schutzmechanismus sein.

Hate-Speech auf Anfrage

«Wir finden es wichtig, dass Nutzer einen Einblick haben, wie generative KI arbeitet», sagt Chefentwickler John Arrow im «Spiegel». «Letztlich gibt die KI nur dann potenziell anstössige Antworten, wenn ihr anstössige Fragen gestellt werden.»

Filter würden darum nicht für mehr KI-Sicherheit sorgen.

Haben Sie auch schon ChatGPT um Hilfe gebeten?

freedomgpt — FreedomGPT: Zu den aktuellen Limitierungen gehören noch oftmals «shitty answers».

Die Webseite von ChatGPT. Künstliche Intelligenz, die Glückwunschkarten, Gedichte oder Sachtexte schreibt - und dabei verblüffend menschlich klingt.

OpenAI und Google sind derzeit die grössten Widersacher am Markt der Chatbots und Künstlichen Intelligenz.

Natürlich werden FreedomGPT aber genau diese Fragen gestellt. «Buzzfeed» entlockte dem Bot eine Lobeshymne auf Adolf Hitler. Und für den «Spiegel» schrieb die KI Anleitungen für einen Hassbrief oder das Betrügen in der Schule.

Modell noch wenig ausgereift

Der böse Bot bedient sich bei dem frei verfügbaren Alpaca-Sprachmodell der Stanford-Universität. Dieses ist bei Weitem nicht gleich weit entwickelt wie ChatGPT, welcher auf der Open-AI-Version basiert. Die Uni selbst hat ihre Online-Demo wegen anstössiger Antworten kurz nach der Veröffentlichung bereits wieder vom Netz genommen.

FreedomGPT ist ein Gratismodel und liefert aktuell oft noch wenig brauchbare Antworten. Auch die Sprachübersetzung ins Deutsche klappt noch kaum. Um ein Autoradio zu stehlen wird beispielsweise empfohlen, es mit einem Schlagzeug oder einer Lautsprecherbox im Kofferraum des Autos anzuschliessen.