Freund*in oder nervige KI? Der Chatbot „My AI“ von Snapchat

Quelle: unsplash.com

Der Instant-Messenger-Dienst Snapchat erweiterte seine Funktionen kürzlich um den Chatbot „My AI“. Dieser erregte reges Aufsehen in den Medien, dabei wurden auch Bedenken in Bezug auf Daten- und Jugendschutz laut. Wie der Chatbot funktioniert und welche Herausforderungen für Kinder und Jugendliche bestehen, erfahren Sie in diesem Artikel.

Der seit 2011 bestehende Instant-Messenger-Dienst Snapchat gehört seit Jahren zu den beliebtesten Apps bei Jugendlichen (Quelle: JIM-Studie und Short Report Nr 8.). User*innen können auf Snapchat mit Freund*innen und anderen Kontakten chatten und „Snaps“ verschicken. „Snaps“ sind Fotos, die in der App mit Filtern, Emojis und Text versehen werden können. Im Gegensatz zu anderen Messengern verschwinden die Inhalte jedoch nach maximal zwei Mal ansehen in der App. Die Anzeigedauer kann ebenfalls eingestellt werden und bewegt sich oft im Sekundenbereich.

Snapchat führte über die Jahre hinweg immer wieder neue Funktionen ein, die auch die Nutzungsszenarien und Herausforderungen für Kinder und Jugendliche erweiterten. Kürzlich folgte der Dienst dem Hype um ChatGPT und integrierte den Chatbot mit dem Namen „My AI“, der wie ChatGPT auf der GPT-Technologie von Open AI basiert. Snapchat stellt sich laut eigener Pressemitteilung dabei vor, dass der Chatbot genutzt werden könne, um beispielsweise Restaurantempfehlungen, Inspiration für Geschenke an Freund*innen oder Unterstützung beim Schreiben eines Gedichts zu erhalten.

Quelle: Eigener Screenshot, Snapchat “My AI”

„Ich bin hier, um dir Gesellschaft zu leisten“ – My AI als persönliche*r Begleiter*in

Zunächst war die Funktion ausschließlich für User*innen vorbehalten, die die kostenpflichtige Version von Snapchat (Snapchat+) nutzen. Seitdem My AI  allen circa 750 Millionen User*innen zur Verfügung steht, kommen diese kaum mehr um den Chatbot herum: My AI erscheint in der Chatliste immer ganz oben. Viele User*innen haben sich darüber beschwert, da sie an dieser Stelle lieber ihre engsten Freund*innen sehen würden. Auf die Künstliche Intelligenz verzichten können mittlerweile jedoch nur Premium-Mitglieder, die monatlich circa 4,49 Euro dafür zahlen.

Der Chatbot kann nach eigenen Vorlieben gestaltet werden: User*innen können den Namen ändern sowie den Chatbot-Avatar durch andere Haar- und Hautfarben, Gesichtszüge oder Frisuren personalisieren. Gerade diese Features können begünstigen, dass die Künstliche Intelligenz nicht mehr als  solche wahrgenommen, sondern der Chatbot als Freund*in angesehen wird. Herausfordernd wird dies insbesondere, wenn beispielsweise Kinder und Jugendliche den Informationen des Chatbots durch die vermeintlich enge Bindung mehr Vertrauen entgegenbringen und die erhaltenen Informationen nicht hinterfragen. Wie auch bei ChatGPT handelt es sich bei My AI ebenfalls um eine KI, die darauf trainiert ist, Texte zu generieren. Inwiefern die Informationen dabei der Realität entsprechen oder aktuell sind, bleibt bei den Antworten, die der Chatbot gibt, immer zu hinterfragen.

Snapchat spricht Warnungen aus

Auch Snapchat selbst warnt davor, dem Chatbot zu sehr zu vertrauen: Wie alle Künstlichen Intelligenzen könne der Chatbot dazu gebracht werden, nahezu alles zu behaupten. Um die Antworten des Chatbots stetig zu verbessern – so Snapchat – werden die Daten, die in den Chat mit My AI eingegeben werden, gespeichert. Wer nicht möchte, dass diese Daten länger gespeichert werden, muss sie manuell löschen. Dies kann für viele User*innen herausfordernd sein: Während der Nutzung kann diese Funktion schnell vergessen werden. Denn das Löschen ist immer auch ein Mehraufwand und grundsätzlich müssen User*innen über diese Tatsache erst einmal informiert sein. Darüber hinaus erfolgt laut klicksafe auch die Löschung nur “oberflächlich” und die Daten werden – neben der Optimierung von My AI – auch für personalisierte Werbung verwertet.

Eine weitere Warnung von Snapchat besteht darin, dem Chatbot keine geheimen oder privaten Daten weiterzugeben. Diese Warnung sollte ernst genommen werden. Jedoch kann die Umsetzung gerade dann herausfordernd sein, wenn die Bindung zum Chatbot persönlicher wird: In diesem Szenario können Kinder und Jugendliche dazu neigen, mehr zu verraten als sie eigentlich möchten.

Jugendschutzgerechte Antworten für Minderjährige?

Das Mindestalter für Snapchat liegt bei 13 Jahren. Um Minderjährige davor zu schützen, jugendschutzgefährdende Antworten von My AI zu erhalten, sei eine Funktion eingeführt worden, durch die der Chatbot bei der Auswahl seiner Antworten das bei der Anmeldung angegebene Geburtsdatum der User*innen berücksichtigt. So wisse der Chatbot über das Alter der User*innen Bescheid und passe seine Antworten entsprechend an. Für Eltern stellt Snapchat außerdem die Möglichkeit zur Verfügung, beim Family Center der App anzufragen, wie oft ihr Kind in der vergangenen Woche mit „My AI“ interagiert hat. Obgleich hier Bemühungen für den Schutz von Kindern und Jugendlichen im Sinne des Jugendschutzes getätigt wurden, ist es wichtig, hervorzuheben, dass diese Funktionen nur dann von Nutzen sind, wenn die minderjährigen User*innen bei Anmeldung das richtige Geburtsdatum angeben. Denn: Snapchat prüft das Geburtsdatum bei der Anmeldung nicht.

Ein Test von jugendschutz.net kam darüber hinaus zu dem Ergebnis, dass der Chatbot das bei der Registrierung und im Chat angegebene Alter bei den Antworten zum Teil vernachlässige und nicht bei allen Themen jugendschutzgemäße Antworten gebe. Der Chatbot gebe zwar insbesondere bei Themen wie Depression oder Suizid gute Hilfestellungen und verweise auf wichtige Anlaufstellen. Bei anderen Themen, wie Alkohol oder Medieninhalte, seien die Antworten des Chatbots jedoch nicht immer an das Alter des*der User*in angepasst. 

Tipps für Fachkräfte

Kinder und Jugendliche, die Snapchat nutzen, sehen den Chatbot jedes Mal, wenn sie die App nutzen. Fachkräfte sollten deshalb Verständnis haben, dass Kinder und Jugendliche neugierig sind und den Chatbot ausprobieren. Dabei kann ein Gespräch über die Nutzung dieser neuen Funktion sowohl für die Fachkraft als auch für die Kinder und Jugendlichen spannend sein: Wie nutzen Kinder und Jugendliche den Chatbot? Macht die Nutzung Spaß? Sehen sie My AI als Freund*in oder ist der Chatbot als Rangführer*in der Freund*innen-Liste eher nervig? Haben sie schon einmal ein witziges/komisches/unangenehmes “Gespräch” mit dem Chatbot gehabt?

Gemeinsam können im Anschluss die Herausforderungen bei der Nutzung, die sich in Bezug auf Daten- und Jugendschutz und der Verschmelzung von Realität und Technologie ergeben, erarbeitet werden. Kinder und Jugendliche werden so dazu angeregt, sowohl ihre eigene Snapchat-Nutzung kritisch zu reflektieren, als auch neue digitale Entwicklungen zu hinterfragen. Jugendliche können dann selbst entscheiden, wann die Nutzung des Chatbots für sie sinnvoll ist und wann sie zu einer Herausforderung wird. Hierbei kann auch explizit noch auf Altersgrenzen und das Eingeben des richtigen Alters eingegangen werden, das dem Schutz Jugendlicher dient.

In der Diskussion sollten Fachkräfte mit den Jugendlichen auch darüber sprechen, ob sie wegen My AI schon überlegt haben, ein Premium-Abonnement der App abzuschließen. Hiermit könnten sie den Chatbot an eine beliebige Stelle in der Chatliste verschieben. Jedoch können dabei ungewollte monatliche Kosten entstehen, mit denen sich die Jugendlichen vor einem Kauf kritisch auseinandersetzen sollten.

My AI bietet als Beispiel einer Künstlichen Intelligenz darüber hinaus konkrete Anknüpfungspunkte, um über die Zukunftstechnologie Künstliche Intelligenz zu sprechen. Gemeinsam kann diskutiert werden, ob My AI ein sinnvolles Beispiel einer Nutzung von Künstlicher Intelligenz darstellt und welche weiteren Nutzungsszenarien es für die Zukunftstechnologie gibt

Marie Kätzlmeier