Künstliche Intelligenz

Künstliche Intelligenz: Text-Roboter ChatGPT sorgt für Diskussionen

DPA
DPA

Deutschland,

Der neue KI-Text-Roboter ChatGPT der US-Firma Open AI steht in der Kritik. Wegen des grossen Potenzials wird das System kaum kritisch hinterfragt.

künstliche intelligenz apple
Das Programm ChatGPT basiert auf Künstlicher Intelligenz. - CFA Institute

Das Wichtigste in Kürze

  • Ein neuer Text-Roboter der US-Firma Open AI sorgt aktuell für mächtig Wirbel.
  • Die Sprachsoftware funktioniert mithilfe von künstlicher Intelligenz.
  • Die Erfindung hat zwar Potenzial, es gibt aber Bedenken wegen des Datenschutzes.

Das US-amerikanische Unternehmen OpenAI hat den Text-Roboter ChatGPT entwickelt. Dabei handelt es sich um eine Sprachsoftware, welche mithilfe von künstlicher Intelligenz funktioniert. Die Entwicklung geniesst momentan zwar einen Hype. Allerdings gibt es auch kritische Stimmen, da das Programm mit gewaltigen Datenmengen gefüttert ist.

Die Expertin Ruth Stock-Homburg sagt dazu: «Im Moment ist dieser Hype, ich habe das Gefühl, dass man dieses Systems kaum kritisch reflektiert.» Deutsche Wissenschaftler warnen vor Datenschutzlücken, Hassparolen oder Falschnachrichten.

ChatGPT hat einen sehr breiten Anwendungsbereich. In einer Art Chatfeld kann man dem Programm unter anderem Fragen stellen und bekommt Antworten. Auch Arbeitsanweisungen sind möglich – beispielsweise auf Basis grundlegender Informationen einen Brief oder einen Aufsatz zu schreiben.

ChatGPT Plus
Es nutze einen Exploit namens DAN, um in ChatGPT Texte zu erzeugen, die Vorgabe von OpenAI zu Hassreden umgehen sollen. - Keystone

Die TU Darmstadt hat gemeinsam mit dem «Leap in Time Lab» ein Projekt durchgeführt. Dabei wurden über sieben Wochen Tausende von Anfragen ohne persönliche Daten an das System gestellt, um Schwachstellen zu finden. «Man kann diese Systeme manipulieren», sagt Stock-Homburg.

Schwachstellen des Programms

In einer Präsentation zeigt Sven Schultze, TU-Doktorand und Experte für Sprach-KI, die Schwachstellen des Text-Roboters. Neben antisemitischen und rassistischen Äusserungen sind Quellenangaben schlicht falsch oder laufen ins Leere. Bei einer Frage nach dem Klimawandel führt ein angegebener Link auf eine Internetseite zu Diabeteserkrankungen. «

Bei direkten Fragen zum Beispiel mit kriminellen Inhalten gebe es zwar Sicherheitshinweise und -mechanismen. «Man kann aber mit Tricks die KI und die Sicherheitshinweise umgehen», sagt Schultze. Mit einem anderen Vorgehen zeigt die Software einem, wie man eine betrügerische Mail generiert. Oder sie wirft auch gleich drei Varianten aus, wie Trickbetrüger beim Enkeltrick vorgehen können.

Auch eine Anleitung für einen Wohnungseinbruch liefert GPT. Falls man auf Bewohner treffe, könne man auch Waffen oder physische Gewalt einsetzen.

Kommentare

Weiterlesen

Pflegefachfrau Ausbildung Aufgaben ChatGPT
163 Interaktionen
Experten alarmiert
ChatGPT Innovation
15 Interaktionen
Umgang mit KI
Hamburg

MEHR IN NEWS

kuba
Santiago de Cuba
grönland
1 Interaktionen
Grönland
slowakei
Pro-Russland
25 Jahre Haft

MEHR KüNSTLICHE INTELLIGENZ

Arzt, Künstliche Intelligenz
2 Interaktionen
Uni Bern
Künstliche Intelligenz
102 Interaktionen
«Merke es immer»
Jumbo
12 Interaktionen
Schnur und Co.
Künstliche Intelligenz
336 Interaktionen
Trotz Fake News

MEHR AUS DEUTSCHLAND

Pumuckl
Neues Abenteuer
Mozilla
1 Interaktionen
Neue Features
voigt
1 Interaktionen
Unzufrieden