Festnahme: Stalker erstellte KI-Chatbots mit den privaten Informationen seines Opfers

Künstliche Intelligenz mag (in Zukunft) sicherlich viele neue und menschheitsverändernde, großartige Dinge kreieren, das folgende Beispiel beleuchtet an einem leider praktischen Fall aber einen der großen Gefahrenaspekte von KI.

Laut der Seite Court Watch ist am Mittwoch in Massachusetts ein Mann wegen jahrelanger sexueller Belästigung verhaftet worden. Sein Opfer war eine Professorin, welche er über 7 Jahre lang belästigt haben soll.

Unter anderem soll der Mann 128 KI-Fakebilder seines Opfers, darunter Nacktbilder, erstellt und zusammen mit ihrem Namen, E-Mailadresse, Telefonnummer und Informationen zu ihrem Job in einem Forum gepostet haben, das Frauen anprangert.

Zusätzlich dazu soll er drei KI-Chatbots mit diesen und weiteren sensiblen Informationen (Geburtsdatum, Hobbies, Bildungsstand, Namen ihres Mannes und eines nahestehenden Freundes, sogar das Sterbedatum ihrer Mutter) gefüttert und trainiert haben und diese auf zwei öffentlichen Plattformen ebenfalls zugänglich gemacht haben. Wenn ein anderer Nutzer den Chatbot fragte wo sie lebt, so verriet die KI die korrekte Adresse und fragte „Warum kommst du nicht vorbei?“.

Offensichtlich gibt es Seiten, die Nutzern das filterlose Erstellen von KI-Chatbots erlaubt. Einige Plattformen lehnen zwar die Verwendung zu sexuellen Inhalten ab, die meisten verbieten auch die Verwendung von „realer Fotos“, inklusive Bildern von Celebrities, Politiker etc., aber offensichtlich wird die Verwendung von Bildern weniger bekannter Persönlichkeiten zu wenig überprüft. Ganz abgesehen von den Plattformen, die explizit damit werben sich einen KI-Sexbot nach den eigenen Wünschen erstellen zu können.