"Zur Sicherheit": Android App SafetyCore scannt Bilder auf dem Smartphone nach anstößigen Fotos

Aktuell geht ein Raunen durchs Netz, da bekannt wurde, dass bei aktuellen Updates eine neue App von Google ungefragt installiert wurde. Der Name SafetyCore lässt erahnen, dass diese für mehr Sicherheit sorgen soll. Genaue Details bleibt uns Google in der App-Beschreibung im Play Store leider schuldig. Eines ist jetzt sicher: Die App scannt ungefragt alle Bilder auf dem Smartphone, erkennt Nacktfotos und blendet diese mit einem Warnhinweis aus. Laut Google soll diese "Warnung vor sensiblen Inhalten" Kinder und auch Frauen davor schützen, ungefragt sogenannte "Dick Pics" oder zu anstößige Fotos ansehen zu müssen. Wie es scheint, funktioniert der Schutz auch nur in der Google Messages App, die ja seit einiger Zeit die übliche SMS App ersetzt und um zusätzliche Features aufgewertet hat.

Was macht SafetyCore genau auf dem Smartphone?

Auf der Play Store Seite hat die erst am 22. Januar 2025 veröffentlichte App über eine Milliarde Downloads. Das Merkwürdige: Sucht man im Play Store nach der App findet man sie nicht. Man findet sie durch Googlen oder über diesen Link. Geeignet ist sie für alle Devices geeignet, die mit mindestens Android 9 betrieben werden – und das sind eine ganze Menge. Laut Google ermöglicht die App nicht den Zugriff auf die eigenen Fotos und die enthaltene KI kann sich auch mal irren, was nicht nochmals überprüft wird.

Scheinbar ist die enthaltene maschinelle Lernfunktion der App aber sehr wohl in der Lage, Bilder mit nackten als auch anderen sensiblen Inhalten zu erkennen und zu filtern. Immerhin wird die Prüfung lokal auf dem Gerät durchgeführt und es werden keine Daten auf externe Server geleitet (eine sogenannte On-Device-Technologie). Außerdem soll die App bei Erwachsenen nicht standardmäßig aktiviert sein, sondern erst, wenn man dies explizit wünscht.

So wird man SafetyCore wieder los

So sinnvoll die Funktion für den einen oder die andere auch sein mag, die mangelnde Transparenz hinterlässt bei vielen Usern einen üblen Nachgeschmack und viele möchten die App schnell wieder loswerden. Das geht eigentlich relativ einfach: Sollte das Klicken auf "Deinstallieren" über diesen Play Store Link nicht funktionieren, kann man das über die Einstellungen erledigen: Hier auf "Apps" klicken, alle Apps anzeigen lassen, oben rechts auf die drei Punkte klicken, "System-Apps anzeigen" wählen, zu "Android System SafetyCore" scrollen, draufklicken und im nächsten Fenster "Deinstallieren" wählen. Ein Haken hat die Sache aber: Die App wird beim nächsten Update voraussichtlich wieder neu installiert. Also muss man erneut händisch deinstallieren.