„Bei KI wünsche ich mir ein Zusammenrücken von Medienpädagogik und politischer Bildung!“

scout: Können Sie Ihr Projekt „KI and ME“ kurz vorstellen?

Viktoria Magnucki: KI and ME ist ein Filmworkshop für Jugendliche, in dem wir dem Thema „Künstliche Intelligenz“ auf zwei Weisen begegnen: Wir drehen zusammen mit den Schüler*innen Filme über eine Zukunft, die durch KI bestimmt ist. Und wir verwenden dabei in allen Schritten der Filmproduktion generative KI. Besonders wichtig ist uns dabei, eine Praxis einzuüben, in der wir KI nicht nur zum Generieren verwenden, sondern die Ergebnisse immer kritisch reflektieren und bearbeiten. Ich denke, dass die Bildgenerierung dabei ein sehr gutes Tool sein kann, um über „Biased Data“ (voreingenommene Daten) aufzuklären. Denn die Bilder, die entstehen, sind oft von Stereotypen und Klischees geprägt.

Nach Ihrer Erfahrung: Kennen sich die Jugendlichen besser oder schlechter aus mit KI, als Sie gedacht hatten?

Eher besser, denn das Bearbeiten von Hausaufgaben mit ChatGPT ist mittlerweile Alltag. Wir haben erlebt, dass in jeder Klasse einige Jugendliche in ihrer Freizeit schon Erfahrung mit generativer KI wie Bildgenerierung oder Soundbearbeitung gemacht haben. es auf diese Datensätze ankommt und diese fehlerhaft und voreingenommen sein können. In der Anwendung der Tools haben sie kaum Berührungsängste. Die Theorie dahinter und das Verständnis über die Funktionsweisen der KI sind allerdings ein anderes Thema. Dieses Wissen müssen wir vermitteln.

Grundsätzlich: Wie wichtig ist das Thema für Kinder und Jugendliche?

Ich denke, dass das Thema sehr wichtig für junge Menschen ist und Gegenstand medienpädagogischer Arbeit sein sollte. Noch fasziniert das Thema Jugendliche. Sie gewöhnen sich aber auch sehr schnell an die neuen Möglichkeiten. Im Filmprojekt wird dann von den Jugendlichen schon mal angenommen, dass die KI „alles kann“ – im Sinne von: „Das klärt dann später die KI, jetzt machen wir erst mal weiter.“ In den Momenten merken wir Medienpädagog*innen, dass sich die Jugendlichen auch gerne auf eine effektive Lösung verlassen, anstatt selbst eigene kreative Lösungen zu suchen.

Was müssen Kinder und Jugendliche über KI wissen?

Kinder und Jugendliche müssen ein Grundverständnis dafür haben, wie KI lernt, Stichwort „Deep Learning“. Deep Learning beschreibt das eigen­ ständige Lernen neuronaler Netze auf Grundlage riesiger Datenmengen. Erst dann können sie verstehen, dass es auf diese Datensätze ankommt und diese fehlerhaft und voreingenommen sein können. Außerdem sollten sie lernen, dass prominente Anwendungen wie ChatGPT und Midjourney zu Unternehmen gehören, denen es in erster Linie um Gewinnmaximierung geht – und nicht um Datensicherheit, Fairness oder Demokratie.

Wenn Jugendliche TikTok oder YouTube öffnen, werden sie mit einem Empfehlungsalgorithmus konfrontiert, der sie möglichst lange auf der Plattform halten soll. Gleichzeitig verstärkt KI die Möglichkeiten, Desinformation und Fake News, auch zu politischen Themen, zu verbreiten. Ich wünsche mir deswegen ein engeres Zusammenrücken von Medienpädagogik und politischer Bildung!

Was sollen Lehrer*innen in diesem Kontext erkennen und beherzigen?

Ich denke, dass Lehrer*innen gemeinsam mit ihren Klassen heraus­ finden sollten, welche Potenziale die Anwendungen für die Schüler*innen und deren individuelle Bedürfnisse haben könnten: Es geht also um das Bereitstellen und ebenso das kritische Reflektieren von Anwendungen. Natürlich können KI­Systeme auch für die Lehrer*innen sehr hilfreich sein, zum Beispiel bei der Erstellung von Materialien und deren Anpassung an die verschiedenen Voraussetzungen der Schüler*innen. Schule muss zeitgemäße Aufgabenstellungen und Methoden bereitstellen, die einen produktiven Umgang mit KI fördern, ohne dass die Aufgaben komplett durch ChatGPT und Co. gelöst werden können.

Was muss aus medienpädagogischer und aus Jugendschutzsicht zukünftig passieren, damit KI-Inhalte sich nicht negativ auf Jugendliche auswirken?

Einerseits denke ich, dass ein produktiver Umgang mit KI der einzige sinnvolle Weg ist. Die Technik ist im Alltag angekommen und wird bleiben. Gleichzeitig dürfen wir nicht den Fehler machen und die Jugendlichen mit dem Thema alleinlassen. Nur weil sie die Tools oftmals selbst­ verständlich nutzen, heißt das nicht, dass sie die gesellschaftliche Bedeutung abschätzen können. Außerdem müssen wir als pädagogische Fachkräfte auch hier die Chancengleichheit berücksichtigen und Zugänge für alle Jugendlichen schaffen. Fachkräfte und Institutionen müssen jetzt KI als Thema der Medienpädagogik wahrnehmen. Sie müssen neue Konzepte und Methoden entwickeln, diese erproben. Die gesellschaftlichen Auswirkungen von KI sollten dabei im Fokus stehen. Künstlich intelligente Systeme dürfen nicht nur als Hilfswerkzeuge und technische Entwicklungen verstanden werden: Sie prägen ja, wie wir jetzt und zukünftig kommunizieren und in Gemeinschaft leben werden.