Wenn die KI das Sagen hat …

Immer mehr Kinder und Jugendliche nutzen, nach einfacher Anmeldung, frei verfügbare Chatbots inzwischen als besonders praktische Suchmaschinen. Die Antwort wird, ohne die Quelle dahinter anzuschauen, als richtig angenommen. Doch die Chatbots erfinden nicht selten einfach Antworten, die dann falsch sind. Das Fachwort dazu ist übrigens „halluzinieren“. Herzlich willkommen in der neuen Welt der Künstlichen Intelligenz!

Während Menschen, die höchstens mittelmäßig technikaffin sind (also die Mehrheit), wohl immer noch rätseln, was sich alles hinter dem Begriff KI versteckt (mitfühlende Roboter, fiese Jobkiller, unschlagbare Schachcomputer?), werden Texte, Bilder und Filme von „generativen“, also selbst Inhalte produzierenden KI-Anwendungen von immer mehr Menschen genutzt.

Das geschieht immer mehr auch in Bereichen, die Kindern und Jugendlichen zugängig sind: in der Toniebox, die Geschichten nach Wunsch erzählt („Bitte erzähle ein Märchen mit einem Hubschrauber und einem Frosch und wie beide die Welt retten!“); auf YouTube wo schnell per KI generierte und wenig lehrreiche „Lernvideos“ für Kinder millionenfach geklickt werden; auf der Gaming­Plattform Roblox, die nach Eingabe von Stichworten neue Welten erschafft, und auch mit „My AI“ bei Snapchat.

Letztere KI-Funktion ist ein gutes Beispiel dafür, wie KI die Kinder- und Jugendzimmer erobert. Sie basiert auf ChatGPT, dient zum Chatten und zur einfachen Recherche. Es ist eine abgespeckte Version, die kürzere Texte schreibt, sich dabei als Freund*in ausgibt, Fragen beantwortet und sogar bereits fest installiert als Nummer eins auf der Freundesliste steht – ganz oben. Bei der ersten Nutzung sagt der Bot noch, dass er kein Mensch ist und dass seine Ratschläge auch falsch sein können. Doch denken die jungen Nutzer*innen dann beim dritten, vierten, hundertsten Mal noch daran?

Oft sind Antworten auch unpassend: So weist „jugendschutz.net“ darauf hin, dass My AI unzureichend auf die Nutzung durch Kinder und Jugendliche ausgerichtet ist. Der Dienst empfahl Minderjährigen beispielsweise Trinkspiele und Filme mit einer Freigabe ab 16 oder 18 Jahren. Das ist nur ein Beispiel dafür, (Schutz-)Bedürfnisse von Kindern und Jugendlichen bei der „nächsten großen Welle“ nicht mitgedacht werden. In der öffentlichen Diskussion stehen eher andere Bedenken: Zum Beispiel, dass die Schüler*innen Chatbots zum Mogeln nutzen und dabei auf lange Sicht „verblöden“. Lehrer*innen erzählen zwar tatsächlich, dass heute kaum noch eine Hausaufgabe ohne KI-Einsatz entsteht. Hier gibt es aber bereits viele kreative Lösungsansätze, die den unterstützenden Einsatz von Chatbots im Unterricht nutzen. Das LI in Hamburg verzeichnet jedenfalls eine riesige Nachfrage, was KI-Weiterbildungen für Lehrende betrifft. Wie sich die Dinge hier entwickeln werden – für eine solche Prognose ist es wohl noch zu früh.

Klar ist: Alle großen Tech-Unternehmen binden jetzt neue KI-Systeme in ihre Angebote ein. Täglich kommen neue Produkte auf den Markt. Diese werden aber in den meisten Fällen ohne spezielle Prüfung und Erkenntnisse über potenzielle Risiken für alle unter 18 Jahren veröffentlicht. Jede*r kann diese Angebote nutzen. Meistens reicht auch eine einfache Registrierung aus. Kindern und Jugendlichen stehen die Anwendungen dann meist ohne jede Altersprüfung off en – sie werden in dieser Weise generierten Inhalten immer öfter begegnen. Die werden wie die schon bald das „neue Normal“ sein.

KI kann so vieles, auch vieles Gutes: Krankheiten frühzeitig erkennen zum Beispiel, Altersverifikationen übernehmen, ganz allgemein Arbeit erleichtern. Sie kann aber auch Schaden anrichten, insbesondere für Kinder und Jugendliche. So sind KI-Fakes von angeblich „jugendlichen“ Profilen so leicht wie nie produziert. Sie öffnen Tür und Tor für Kindesmissbrauch auf vielen Plattformen mit Chat-Funktion.

Auf alle diese negativen wie positiven Ausprägungen müssen die Erwachsenen den Nachwuchs ausreichend vorbereiten. Das geht aber nur, wenn Eltern und Schulen sich selbst so früh wie möglich mit dem Thema auseinandersetzen, die Probleme von KI erkennen und im Gespräch mit dem Nachwuchs benennen. Das kann übrigens auch Spaß machen: wenn man mal abends, statt Serien zu schauen, gemeinsam einen Chatbot mit kniffligen Fragen austrickst. Kinder und Jugendliche werden KI nur dann sinnvoll und sicher nutzen können, wenn sie die dahinterliegenden Mechanismen und deren Logik hinterfragen und verstehen lernen. So gesehen sind Medienbildung und Jugendmedienschutz wichtiger denn je. Wir wollen mit diesem Heft den Blick auf Risiken und Chancen schärfen, vor allem aber auch ein paar verheißungsvolle Ansätze von Medienarbeit rund um KI vorstellen.

Dieser Text wurde übrigens von einem Menschen geschrieben. Wie er aussehen würde, wenn ChatGPT oder Gemini in die Tasten gehauen hätten, können Sie HIER lesen.