• Künstliche Intelligenz ist längst kein abstraktes Konzept mehr, sondern hat Einzug in die digitalen Alltagswelten von Kindern und Jugendlichen gehalten – sei es durch KI-gestützte Chatbots wie My AI auf Snapchat oder durch ausgeklügelte Beauty-Filter. Laut Studien nutzen bereits 74 Prozent der Jugendlichen KI-Tools, wobei dies häufig aus Eigeninitiative geschieht. Diese frühe Adaption bietet Chancen zur Entwicklung wichtiger Zukunftskompetenzen, wirft jedoch auch Herausforderungen auf, wie den kritischen Umgang mit KI, Datenschutzfragen und die ethische Nutzung dieser Technologien.


      In sozialen Medien sind Filter und Bearbeitungstools, die auf KI basieren, beliebt. Diese ermöglichen es Jugendlichen, ihre Fotos und Videos mit Effekten, Beauty-Filtern und AR-Elementen zu verschönern oder zu verändern, bevor sie sie teilen.  


      Im Erklärvideo des LMZ erfahren Sie mehr zu diesem Thema:  


      Chatbots in Kommunikationsapps – Beispiel My AI von Snapchat

      Frau sitzend auf einer Treppe mit einem Smartphone in der Hand, auf dem die App Snapchat geöffnet ist

      • My AI ist ein Chatbot, der in Snapchat integriert ist und Nutzerinnen und Nutzern eine interaktive Gesprächspartnerin bietet.
      • Man kann My AI als Freund hinzufügen und mit ihr wie mit einem normalen Snapchat-Kontakt interagieren.
      • Um mit My AI zu interagieren, können Nutzer/-innen eine Unterhaltung starten, indem sie Nachrichten senden, Fragen stellen oder nach Unterstützung zu verschiedenen Themen suchen. My AI antwortet daraufhin automatisch und bietet Informationen oder Unterhaltung basierend auf dem Chatverlauf.

      Tipps für den Umgang, die Lehrkräfte an Eltern und SuS weitergeben können:
      • My AI ist fehleranfällig, Informationen können erfunden oder Fakten durcheinandergebracht werden. Informationen von Chatbots müssen deshalb kritisch hinterfragt und mit anderen Quellen abgeglichen werden. 
      • Als Inspirationsquelle und für einfache Fragen können Chatbots wie My AI aber nützlich sein.
      • In den AGB gibt Snapchat die Nutzung ab 13 Jahren an, fordert dabei aber ein, dass bei einem Alter von 13 bis 18 Jahren die Erziehungsberechtigten zugestimmt haben. Laut Recherche von jugendschutz.net ist My AI aber nur unzureichend auf die Nutzung durch Kinder und Jugendliche ausgerichtet. Es gab z.B. Empfehlungen für Trinkspiele oder Filme ab 16 oder 18 Jahren. 
      • Verdeutlichen Sie Kindern, dass man My AI keine vertraulichen oder persönlichen Informationen senden sollte. Gespräche mit My AI können ausgewertet werden und sind daher nicht privat. 
      • Weitere Informationen: Was müssen Eltern zum neuen Chatbot My AI bei Snapchat wissen?

    • Jugendschutz.net. (24.07.2023). My AI – Snapchats KI-Chatbot. Verfügbar unter: https://www.jugendschutz.net/themen/social-media/artikel/my-ai-snapchats-ki-chatbot (Zugriff am: 20.08.2024).
      Medienanstalt Rheinland-Pfalz (Hrsg.). (01.09. 2023). Was müssen Eltern zum neuen Chatbot My AI bei Snapchat wissen? Verfügbar unter: https://www.klicksafe.de/news/was-muessen-eltern-zum-neuen-chatbot-my-ai-bei-snapchat-wissen (Zugriff am: 20.08.2024).