Weil Männer KI füttern: «Es werden Stereotype reproduziert»
Weil künstliche Intelligenz vermehrt durch Männer gespeist wird, entstehen Stereotype bei den generierten Daten. Wann kann man KI glauben – und wann nicht?
Das Wichtigste in Kürze
- Künstliche Intelligenz wird mehrheitlich von Männern trainiert.
- Dadurch kommen stereotypische Aussagen heraus, die an der Realität vorbeigehen.
- Was hat es mit dem sogenannten «Gender Bias» auf sich? Ein Digital-Experte ordnet ein.
In vielen Branchen wird die künstliche Intelligenz immer alltagstauglicher. Ob in Schulen oder in der Medizin – eine Unmenge an Daten ist über die Tools innert Sekunden abrufbar.
Nur: Stimmen die Informationen, welche die KI ausspuckt, auch wirklich?
Mit dieser Frage beschäftigt sich Martina Gaisch, Professorin an der Fachhochschule Oberösterreich. Sie weiss: Künstliche Intelligenz ist nur so gut wie die Daten, mit denen sie trainiert werde, wie sie gegenüber der «Kronen Zeitung» sagt.
Umfrage
Nutzt du künstliche Intelligenz im Alltag?
«Die KI ist einfach ein Spiegel unserer Gesellschaft, sie ist weder objektiv noch neutral», so Gaisch. Dass vorwiegend Männer die Systeme «füttern», habe Auswirkungen auf den Output. So kämen oft an der Realität vorbeigehende Aussagen heraus. «Es werden Stereotype reproduziert», so ihr Vorwurf.
Digital-Experte erklärt den «Gender Bias»
Wie muss man sich das als Laie vorstellen? Und wie können solche Stereotypisierungen verhindert werden? Nau.ch hat nachgefragt.
Zurzeit sei KI «ein Abbild vom Schaffen der letzten 50 oder 100 Jahre», sagt Digital-Experte Mike Schwede auf Anfrage. Das begründe diesen sogenannten «Gender Bias», der dadurch natürlich vorhanden sei.
Zur Erklärung: Der Begriff «Bias» stammt aus dem Englischen und bedeutet übersetzt «Vorurteil» oder «Voreingenommenheit». Ein Bias entsteht durch einen systematischen Fehler, der zu einem verfälschten Ergebnis führt.
Schwede macht ein Beispiel: «Wenn man via KI nach einem Bild einer erfolgreichen Geschäftsfrau sucht, kommen diese klassischen Oldschool-Business-Fotos raus. Grund dafür ist, dass halt nach wie vor die meisten existierenden Bilder von Geschäftsfrauen so aussehen.»
Künstliche Intelligenz: EU gibt Vorschläge im Umgang
Dieser menschliche oder gesellschaftliche Bias sei durchaus bekannt, sagt Schwede. «Durch die Testung von Daten versucht man, diesem Phänomen etwas entgegenzuwirken. Aber ganz ausschliessen kann man das nicht.»
Aufgrund dessen sei der sogenannte «AI-Act» (AI ist das englische Kürzel für KI, Anm. der Redaktion) der EU so wichtig, so Mike Schwede. Dieser enthält eine Verordnung, die konkrete Vorschläge zur Regelung im Umgang mit KI präsentiert.
«Der AI-Act besagt, dass man voreingenommene Informationen rausfiltern muss, wenn man eine KI macht und diese trainiert.»
Alternativ könnten zusätzlich auch künstliche Daten generiert werden, um den Bias abzuschwächen, rät Schwede.
Der Experte geht davon aus, dass der AI-Act in Zukunft stärker greifen werde. «Vielleicht gibt es auch irgendwann mal etwas Vergleichbares in der Schweiz.»
Wichtig sei zudem, dass man die künstliche Intelligenz aktuell hält und immer wieder neu trainiert. Schwede: «Es gibt ja weiterhin neue gesellschaftliche Veränderungen, die berücksichtigt werden müssen.»