Fotos ihres nackten Babys schickt sie zur Diagnose an den Arzt, Google sperrt ihr Konto

Aus Sorge um eine Infektion seines kleinen Sohnes schickte ein Vater die Fotos an einen Arzt. Zwei Tage später sperrte Google sein Konto und informierte die Polizei im Rahmen des Kampfes gegen den Besitz und das Teilen von kinderpornografischen Bildern.

Bildnachweis: Arkan Perdana über Unsplash

Die Grenzen der künstlichen Intelligenz. Ein Artikel von New York Times berichtet, dass die KI von Google in einigen Situationen etwas zu aggressiv wird und Situationen, die keine Kinderpornografie sind, als Kinderpornografie behandelt. Ein Vater zahlte den Preis, nachdem er Fotos von der Leisteninfektion seines Sohnes gemacht hatte, um sie an den Arzt zu schicken.

Google stellte fest, dass der Inhalt der Fotos gegen seine Nutzungsbedingungen verstößt und möglicherweise illegal ist. Folglich hat das amerikanische Unternehmen Google-Konto geschlossen des betroffenen Benutzers und alarmierte die Behörden, was die Eröffnung eines polizeilichen Ermittlungsverfahrens gegen ihn auslöste.

Der Kampf gegen Kinderpornografie stellt die KI vor Interpretationsprobleme

In diesem Fall war es eine Krankenschwester, die den Familienvater gebeten hatte, die Fotos vor einer Videokonsultation zu schicken, damit der Arzt sie analysieren konnte. Der Sachverhalt geht auf den Februar 2021 zurück, als einige Arztpraxen in den USA aufgrund von COVID-19 keine ärztlichen Untersuchungen mehr durchführten. Zwei Tage nach der Aufnahme der Fotos erhielt die Person eine Benachrichtigung von Google, dass ihr Konto gesperrt sei. Das hat es dann verlorener Zugriff auf E-Mails, Kontakte, Fotos… und auch seine Telefonnummer, denn er war Kunde von Google Fi, einem exklusiven virtuellen Mobilfunkanbieter in den Vereinigten Staaten.

Die polizeilichen Ermittlungen kamen nach mehreren Monaten zu dem Schluss, dass der Nutzer keine Straftat begangen hatte, das Opfer des Missverständnisses sich jedoch dazu entschließen musste, den Ermittlern Zugriff auf alle seine bei Google gespeicherten Daten und Inhalte zu gewähren. Die von GAFAM eingerichteten Überwachungssysteme zur Erkennung illegaler Inhalte werden von Datenschützern scharf kritisiert. Kürzlich hat Apple ein zuvor angekündigtes umstrittenes Kinderpornografiesystem zurückgestellt, um Änderungen vorzunehmen.

Quelle: Die New York Times

Leave a Reply

Your email address will not be published.