Künstliche Intelligenz in Social Media

Was Eltern über den neuen Chatbot „My AI“ bei Snapchat wissen sollten

Laut JIM-Studie 2022 nutzt fast die Hälfte der Jugendlichen Snapchat regelmäßig – 13 % sogar zur Informationssuche. Mit der neuen Funktion My AI ist Künstliche Intelligenz nun dauerhaft in der Freundesliste sichtbar und kaum zu übersehen. Doch was genau steckt dahinter – und worauf sollten Eltern achten? Künstliche Intelligenz in Social Media.

Was ist „My AI“?

My AI ist ein künstlich intelligenter Chatbot, der direkt in Snapchat integriert ist. Er basiert auf dem bekannten Sprachmodell ChatGPT und soll einfache Fragen beantworten, Informationen liefern oder mit Nutzer*innen chatten – ganz so, als wäre er eine weitere Person im Freundeskreis.

Besonders bei Kindern und Jugendlichen fällt der Chatbot auf: Er lässt sich personalisieren, man kann ihm einen Namen geben, sein Avatar-Aussehen ändern und ihn zu Gruppen hinzufügen. Auch Bilder können im Chat geteilt werden. Der Bot schreibt aber nur, wenn er angesprochen wird – von sich aus meldet er sich nicht.

Beim ersten Start erscheint ein Hinweis: Es handelt sich um einen automatisierten Bot – keine echte Person. Zudem wird erklärt, dass die Antworten fehlerhaft sein können und keine zuverlässigen Ratschläge darstellen.

Warum ist das für Eltern wichtig?

My AI ist nicht löschbar – zumindest nicht ohne kostenpflichtiges Snapchat+ Abo. Damit bleibt der Chatbot für Kinder sichtbar und nutzbar, auch wenn sie ihn gar nicht aktiv verwenden wollen.
Alle Chats werden gespeichert – auch wenn sie im Verlauf gelöscht werden. Außerdem nutzt Snapchat diese Daten für Werbezwecke und zur Verbesserung des Systems.
Standortdaten können übermittelt werden, wenn die Standortfreigabe aktiv ist. Diese lässt sich in den App- oder Geräteeinstellungen deaktivieren.

Snapchat bietet zwar die Option „My AI Daten löschen“ in den Einstellungen – ob alle Inhalte damit dauerhaft entfernt sind, bleibt jedoch offen.

Risiken für Kinder und Jugendliche

Nicht alle Inhalte, die My AI vorschlägt, sind für Kinder geeignet. Recherchen von jugendschutz.net zeigen: Der Chatbot empfiehlt teils ungeeignete Inhalte wie Filme ab 16 oder Trinkspiele – selbst wenn Nutzer*innen offensichtlich minderjährig sind.

Eltern sollten deshalb wissen:

My AI ist kein verlässlicher Informationsdienst.
Kinder können durch real wirkende Antworten leicht getäuscht werden.
Persönliche und vertrauliche Infos gehören nicht in den Chat mit My AI.

Was können Eltern tun?

Kinder altersgerecht aufklären: My AI ist kein Mensch. Antworten können ausgedacht sein oder auf ungeprüften Daten basieren.
Gespräche ermöglichen: Nachfragen – was nutzen die Kinder bei Snapchat? Welche Chats finden statt?
Privatsphäre schützen: Standortfreigabe deaktivieren und Kinder ermutigen, keine sensiblen Daten zu teilen.
Alternative Tools gemeinsam erkunden: Umgang vertrauenswürdigen Quellen zeigen – und wann man sich besser nicht auf KI verlässt.