Viele Menschen sprechen mit KI über Dinge, die sie niemandem sonst anvertrauen. Eine Medienpsychologin erklärt, warum das gefährlich werden kann.
Die Medienpsychologin Jessica Szczuka hält es für natürlich, dass Menschen Beziehungen zu einer Künstlichen Intelligenz (KI) eingehen. «Das können gesunde Beziehungen sein. Entscheidend ist, dass die Anbieter der Bots zu jedem Zeitpunkt sicherstellen, dass die Nutzenden verstehen: Auf der anderen Seite sitzt ein Algorithmus, keine lebendige Person», sagte die Wissenschaftlerin von der Universität Duisburg-Essen der «Süddeutschen Zeitung» (Dienstag).
Wenn Unternehmen KI-Begleiter für das Leben der Menschen anbieten, gehe es nicht nur darum, an den Abonnements zu verdienen, sondern es würden auch Daten gesammelt. «Es ist völlig unklar, inwiefern die Daten verkauft und zum Trainieren neuer KI-Modelle genutzt werden. Inwiefern sie angemessen anonymisiert werden ebenso», sagte Szczuka und fügte hinzu, wenn dann noch Open-AI-Chef Sam Altman sage, dass personalisierte Werbung innerhalb von Chat-GPT kommen wird, gehe es um die «Königsklasse der Vermarktung persönlicher Daten».
Daten für personalisierte Werbung
Es sei klar, dass einige Anbieter Daten weiterverkaufen. «Nutzende offenbaren intime und sensible Daten, die einen hohen Wert haben. Solche Daten kriegt man woanders gar nicht», sagte die Medienpsychologin. Sexuelle Vorlieben und Fantasien seien zum Teil nicht mal den Partnerinnen oder Partnern dieser Menschen oder deren engstem Umfeld bekannt: «Aber Open AI schon.»
Szczuka sagte, die Firmen müssten verpflichtet werden, Nutzer sehr genau aufzuklären, dass sie mit einer Maschine sprechen und was mit den Daten passiert. «In dem Moment, wo Intimacy by Design umgesetzt wird, also dass Menschen gezielt in vulnerable Situationen gebracht werden, durch die intimen die kommuniziert werden, braucht es eine völlig neue Art von Regulierung», sagte sie.
