Ethikrat empfiehlt nach Bereichen getrennte Vorgaben für künstliche Intelligenz
Der Ethikrat hat bei der Nutzung künstlicher Intelligenz (KI) klare und nach Einsatzbereichen getrennte Leitlinien gefordert.
Das Wichtigste in Kürze
- Stellungnahme unter anderem zu Medizin und Schule veröffentlicht.
Grundsätzlich müsse künstliche Intelligenz «menschliche Entfaltung erweitern und darf sie nicht vermindern», erklärte die Vorsitzende des Gremiums, Alena Buyx, zur Präsentation einer Stellungnahme des Ethikrates. «KI darf den Menschen nicht ersetzen.»
Eine Arbeitsgruppe des Ethikrats hatte die Stellungnahme mit dem Titel «Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz» in den vergangenen beiden Jahren ausgearbeitet. Beispielhaft wird in der fast 300 Seiten langen Stellungnahme auf vier Anwendungsbereiche eingegangen: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung.
Dies habe gezeigt, dass die Beurteilung von KI «immer kontext-, anwendungs- und personenspezifisch erfolgen muss», erklärte das Gremium. Das Delegieren von Tätigkeiten an Maschinen könne «für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben», erläuterte die Sprecherin der Arbeitsgruppe, Judith Simon. «Daher ist es wichtig, genau hinzuschauen, für wen dies mit erweiterten Handlungsspielräumen verbunden ist und wessen Handlungsmöglichkeiten eher vermindert werden.»
Für den Medizinbereich richten sich Empfehlungen des Ethikrates unter anderem auf die Qualitätssicherung bei der Entwicklung und Nutzung von KI-Produkten. Zudem müssten ärztliche Kompetenzverluste vermieden und die Privatsphäre von Patientinnen und Patienten mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden.
Der Einsatz von KI in der schulischen Bildung sollte nach den Empfehlungen nicht durch technologische Visionen gesteuert werden, sondern sich an grundlegenden Bildungsvorstellungen orientieren. Er sollte sich zudem auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern.
Im Bereich der öffentlichen Kommunikation und Meinungsbildung empfiehlt der Ethikrat unter anderem Weiterentwicklungen der Regeln für Online-Plattformen hinsichtlich der Auswahl und Moderation von Inhalten sowie zu personalisierter Werbung und zum Datenhandel. Ausserdem fordert er besseren Zugang auf Plattformdaten für die Forschung und empfiehlt, den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zu erwägen.
Für den Einsatz von KI in der öffentlichen Verwaltung rät der Ethikrat zu Ansätzen, die vor Diskriminierungen schützen und dem blinden Befolgen maschineller Empfehlungen vorbeugen. Weiterhin fordert er, dass Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.
