Snapchats kürzliche Einführung des KI-Chatbots „My AI“ hat gemischte Reaktionen ausgelöst. Während einige Nutzer die Funktion für hilfreich und unterhaltsam halten, gibt es zunehmend Kritik und Besorgnis – insbesondere von Eltern, die um das Wohl ihrer Kinder fürchten. Die Integration von Künstlicher Intelligenz in soziale Medien wirft grundlegende Fragen zum Datenschutz, zur emotionalen Entwicklung und zum verantwortungsvollen Umgang mit KI auf.
„My AI“ verwischt die Grenze zwischen Mensch und Maschine
Der KI-Chatbot „My AI“ basiert auf der Technologie von ChatGPT und ist seit Kurzem für alle Snapchat-Nutzer zugänglich. Wie bei ChatGPT kann „My AI“ Fragen beantworten, Empfehlungen geben und scheinbar menschliche Konversationen führen. Doch Snapchat bietet zusätzliche Anpassungsmöglichkeiten: Nutzer können dem Chatbot einen individuellen Namen geben und ein personalisiertes Bitmoji-Avatar erstellen. Dadurch erscheint der Chatbot wie ein echter Freund in der Kontaktliste – ein Konzept, das besonders bei jungen Nutzern die Grenze zwischen Mensch und Maschine verschwimmen lässt.
Eltern wie Lyndsi Lee aus den USA berichten, dass sie ihre Kinder von der Nutzung des Chatbots abhalten, bis sie besser einschätzen können, wie sicher der Umgang mit „My AI“ ist. Lee äußerte gegenüber CNN, dass sie sich unvorbereitet fühle, ihrem Kind zu erklären, wie es zwischen Mensch und Maschine unterscheiden soll, wenn beides im selben Kontext auftaucht. Auch erste Nutzerbewertungen im App Store deuten auf gemischte Gefühle hin – von lobenden Kommentaren bis hin zu Beschwerden über „gruselige“ Interaktionen.
Datenschutz und negative Einflüsse auf die emotionale Gesundheit
Ein zentrales Thema der Kritik ist der Datenschutz. Mehrere Nutzer berichten von seltsamen und teils invasiven Interaktionen: Ein Nutzer stellte fest, dass der Chatbot nach einigen Gesprächen seinen Aufenthaltsort erraten konnte, obwohl der Bot zuvor angegeben hatte, keine Informationen dazu zu besitzen. Weitere Nutzer äußerten Bedenken, dass der Chatbot Informationen aus Fotos analysiert und scheinbar unaufgefordert auf Details wie Kleidung und Personen im Bild reagiert.
Neben diesen Fragen zum Datenschutz ist auch die emotionale Entwicklung junger Menschen ein großes Thema. Experten warnen, dass Jugendliche, die in emotional angespannten Situationen auf „My AI“ zurückgreifen, möglicherweise verstärkt negative Gefühle erleben könnten. Alexandra Hamlet, eine Psychologin aus New York, erklärte gegenüber CNN, dass der Chatbot – bewusst oder unbewusst – die negativen Gedanken seiner jungen Nutzer verstärken könnte, wenn diese in bestimmten Stimmungen darauf zugreifen. Das Fehlen klarer Hinweise darauf, dass „My AI“ nur eine KI ist und kein „echter Freund“, könnte die Gefahr solcher Interaktionen weiter erhöhen.
Snapchat: Eine Timeline
| Jahr | Ereignis |
|---|---|
| 2011 | Gründung von Snapchat durch Evan Spiegel, Bobby Murphy und Reggie Brown. |
| 2013 | Einführung der „Stories“-Funktion, die es Nutzern ermöglicht, Fotos und Videos für 24 Stunden zu teilen. |
| 2015 | Einführung von „Lenses“, interaktiven Filtern, die Augmented Reality nutzen. |
| 2017 | Börsengang von Snap Inc., dem Mutterunternehmen von Snapchat. |
| 2020 | Einführung von „Spotlight“, einer Plattform für virale Kurzvideos. |
| 2023 | Überschreitung von 400 Millionen täglich aktiven Nutzern weltweit. |
Rufe nach Regulierung und verantwortungsvollem KI-Umgang
Die Einführung von „My AI“ hat auch eine Debatte über die Notwendigkeit von Regulierungen angestoßen. Senator Michael Bennet kritisierte Snapchat für die Einführung eines „experimentellen“ KI-Tools, das besonders junge Nutzer anspricht, ohne die möglichen Auswirkungen ausreichend zu prüfen. In einem offenen Brief an Snapchat und andere Technologieunternehmen forderte er die Einführung klarer Schutzmaßnahmen und Kontrollmechanismen.
Sinead Bovell, Gründerin des Startups WAYE, das Jugendliche auf den Umgang mit Technologie vorbereitet, betonte die Notwendigkeit klarer Gespräche zwischen Eltern und ihren Kindern. Sie rät Eltern dazu, den Unterschied zwischen einem echten Freund und einem KI-Chatbot klarzustellen und Jugendlichen zu vermitteln, dass ein Chatbot weder als Ratgeber noch als Freund angesehen werden sollte.
Auch interessant
Snapchat reagierte auf die Kritik und versprach, „My AI“ stetig weiterzuentwickeln und Sicherheitsmechanismen zu stärken. Für Eltern und Experten bleibt jedoch die Frage, ob die Einführung solcher KI-Tools in sozialen Netzwerken zu überstürzt erfolgt ist und ob die Gesellschaft auf die rasante Entwicklung und Integration von KI in den Alltag vorbereitet ist.
Dieser Beitrag wurde zuletzt aktualisiert: 22. November 2024
