Samsung-Ingenieure enthüllen versehentlich streng geheime Firmendaten auf ChatGPT

Mehrere Technologieunternehmen, darunter Samsung, ermöglichen ihren Mitarbeitern die Nutzung von ChatGPT, um ihre tägliche Arbeit effizienter gestalten zu können. So gestattete Samsung Semiconductor die Assistenz durch den Chatbot, um etwa Programmierarbeiten zu erleichtern.

Die Ingenieure nutzten den Chatbot rund einen Monat lang und übermittelten ihm firmeninterne, streng vertrauliche Daten wie Sitzungsnotizen über Hardware, Samsungs Halbleiter-Business sowie Code, ohne sich des Sicherheitsrisikos bewusst zu sein. Innerhalb dieser kurzen Zeit kam es zu insgesamt drei Sicherheitsvorfällen. In den FAQ von OpenAI steht jedoch ausdrücklich, dass Konversationen mit dem Chatbot von KI-Trainern überprüft werden können, um die Systeme zu verbessern:

Your conversations may be reviewed by our AI trainers to improve our systems.

Gespräche, die mit der KI geführt werden, landen außerdem auf dem Server von OpenAI - auch solche, die besonders sensibel sind. Darüber hinaus besteht die Möglichkeit, dass Unternehmensdaten auch bei anderen Nutzern des Chatbots landen, da die KI Inhalte aus der Kommunikation mit Menschen nutzt, um zu lernen. Um die Datensicherheit bei Samsung auch in Zukunft zu gewährleisten, plant das Unternehmen die Entwicklung einer eigenen KI. Bis dahin bittet das Unternehmen die Mitarbeiter, keine vertraulichen Daten an die KI weiterzugeben, da weitere Sicherheitsvorfälle zu einem Nutzungsverbot des Bots führen könnten.

If a similar accident occurs even after emergency information protection measures are taken, access to ChatGPT may be blocked on the company network.