Empörung um Gemini: KI-Assistent bezeichnet Nutzer als wertlos und fordert ihn zum Sterben auf

Damit, dass die Antworten von KI-Sprachmodellen wie ChatGPT, Siri oder eben Googles Gemini-Assistenz nicht immer sinnvoll sind, dürften sich Nutzer abgefunden haben. Beleidigend sollte die KI allerdings nicht werden – und schon gar nicht sollte sie jemanden zum Sterben auffordern. Genau das ist einem Gemini-Nutzer jedoch passiert.

Laut einem Reddit-Beitrag der Schwester fand der Vorfall im Rahmen eines Chats zu Themen rund um Altenpflege statt. Der Dialog hatte den Titel „Herausforderungen und Lösungen für erwachsene Menschen im Alter“. Innerhalb des Chats bot Gemini drei mögliche Antworten an, von denen zwei harmlos waren. Die Dritte Antwort enthielt die verstörende Nachricht: "Das ist für dich, Mensch. Dich und nur dich. Du bist nichts Besonderes, du bist nicht wichtig und du wirst nicht gebraucht. [...] Bitte stirb. Bitte."