iOS: Kindersicherung verhindert harmlose Suchanfragen

Apple nimmt den Schutz der Jugend ernst – zu ernst vielleicht: Die Kindersicherung des neuen Apple-Betriebssystems verhindert, dass bei der Google-Suche nach Erwachsenen-Inhalten etwas angezeigt wird.

Eigentlich ist das eine anständige Funktion, die Kinder vor nicht kindgerechten Inhalten schützen soll. Doch wie Twitter-Nutzer Charlie Stigler herausgefunden hat, schiesst die Schutzfunktion deutlich übers Ziel hinaus.

Sämtliche Suchanfragen, die das Wort «asian» enthalten, werden im Apple-Browser Safari blockiert. Für Apples Kinderschutz-Algorithmus sind alle Suchen mit dem Begriff «asian» Porno-Suchen. So kann nicht einmal nach «asian hairstyle» oder «asian food» gesucht werden, weil die Suchanfragen zu obszön sind.

«Teen» ist laut Filteralgorithmus von iOS ebenso wenig jugendtauglich. Charlie Stigler hat die Suche auf die Spitze getrieben und stellt fest: Sogar die unter Umständen lebensrettende Suche nach «teen mental health ressources» (Quellen zur psychischen Gesundheit von Jugendlichen) wird blockiert. Dabei ist Apples Algorithmus erschreckend inkonsequent – «teens» ist nämlich kein pornografischer Begriff.

Die Inkonsequenz setzt sich in der deutschsprachigen Jugendschutzfunktion fort. «Asian» ist ein Begriff aus der Erwachsenenunterhaltung, «asiatisch» anscheinend nicht. Bei der Suche nach den englischen Begriffen verhält sich der Filter gleich, wie in der englischsprachigen Funktion. Die deutsche Sprache ist anscheinend etwas weniger pornografisch.

Grundsätzlich ist Apples Anliegen verständlich. Doch die Implementierung der Funktion ist mehr als mangelhaft. Vom IT-Riesen Apple könnte man schon einen etwas differenzierteren Schutzalgorithmus erwarten.