Das Interesse an der Blackbox KI

Im Rahmen der „AI Education Week“ konnten Schüler*innen, (angehende) Lehrkräfte und Studierende ein niedrigschwelliges und forschend-entdeckendes Format zum Verstehen der Funktionsweise von KI-Systemen ausprobieren. Möglich wurde dies durch die Kooperation von Schülerforschungszentrum (SFZ) Hamburg und Universität Hamburg sowie durch die Förderung des Medienbildungsfonds Hamburg.

Es ist aus der Idee heraus entstanden, alltägliche KI-Phänomene für die Zielgruppen erklärbar zu machen – seien es Text-, Bild- oder Audio-Erkennung oder Generierung, Empfehlungsdienste auf Social Media oder Musik- und Videostreaming-Plattformen, Navigationssysteme oder aber auch smarte Haushaltsgeräte. Ziel war es, den Blick über die bloße Benutzung von Systemen hinaus zu weiten und die dahinterliegenden Mechanismen zu entmystifizieren.

Dafür haben wir das das mobile Lernlabor „Künstliche Intelligenz in der Kiste“ (KIKi) nach Hamburg geholt. Es wurde entwickelt durch das Schulmuseum Nürnberg und die Professur für Didaktik der Informatik der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) in Zusammenarbeit mit dem Lehrstuhl für Informatik 3 der FAU. Es deckt verschiedene Stationen ab, die spielerisch und größtenteils „unplugged“ (also ohne Computer und Strom) die genannten Mechanismen beleuchten.

Wir haben die Lerner*innen gleichzeitig dazu angeregt, eigene KI-Projektideen und
-Lösungsansätze für Alltagsprobleme zu entwickeln. Besonders spannend war, dass viele der Schüler*innen so motiviert waren, dass sie später an ihren Projektideen weiterarbeiten wollten, was wir dann durch das SFZ Hamburg im sogenannten „freien Forschen“ realisieren können.

Die positive Resonanz zeigt, dass es großes Interesse gibt, das Lernlabor erneut nach Hamburg zu bringen. Wir haben gelernt, dass außerschulische Lernorte eine sehr gute Möglichkeit bieten, die Motivation und Kreativität der Jugendlichen anzuregen, indem sie Inhalte in einem größeren Zusammenhang erarbeiten. Anschließend konnten sie Ressourcen und Unterstützung nutzen, um ihre eigenen Ideen und Schwerpunkte forschend-entdeckend in Projekten zu vertiefen. Die interaktiven und praktischen Stationen halfen dabei, das Interesse an der „Blackbox“ KI zu wecken. Wir denken, dass es sinnvoll wäre, das Format langfristig in Hamburg zu etablieren. Mit der Unterstützung von anderen Bildungseinrichtungen oder Stiftungen könnte dieses wertvolle Angebot dauerhaft hier bei uns im Norden zugänglich gemacht werden und so die KI-Bildung in und um Hamburg praxisnah bereichern.

Das kommt natürlich ganz darauf an: Sprechen wir von Schüler*innen der Grundschule, Mittelstufe oder Oberstufe? Sprechen wir von Schüler*innen welche keinen, wenig oder viel Informatikunterricht in der Schule haben? Und wie ist die Sozialisation, der sozioökonomische Status der Schüler*innen oder auch deren Zugang zu Medien und Informatiksystemen? Logisch scheint: Nach Lerngelegenheiten mit, durch oder über KI zum Beispiel im Schulunterricht wissen Schüler*innen mehr als vorher.

Die Forschung zeigt, dass Schüler*innen mit vielen unterschiedlichen Vorstellungen und Erklärungen für KI-Systeme im Unterricht ankommen. Viele davon basieren auf Beobachtungen, die sie vor allem über Darstellungen in den (sozialen) Medien erworben haben. Hinzu kommen eigene Erfahrungen im Umgang mit „intelligent“ wirkenden Systemen, wie beispielsweise Empfehlungen von ähnlichen Musiktiteln in Streaming-Apps.

Das Aufsehen um generative Machine-Learning-Systeme wie ChatGPT hat dieses Bild noch einmal stark verzerrt. Deshalb beziehen sich viele Erkläransätze von Schüler*innen nun häufig auf Beobachtungen text- oder bildgenerierender Systeme.

Wenn im Unterricht nicht explizit über KI gelernt wird, dann kann trotzdem mit oder auch durch KI gelernt werden. Und das passiert auch: viele der Apps und Software, welche heutzutage im Unterricht eingesetzt werden, enthalten bereits Komponenten, welche auf Basis verschiedener sichtbarer aber auch unsichtbarer Daten individualisiertes Lernen und Feedback erlauben, um Inhalte und Materialien so auf die Bedürfnisse der Lernenden zuzuschneiden.

Das sollte den Schüler*innen natürlich auch transparent gemacht werden. Im Sinne einer umfassenden KI-Bildung sollte bestenfalls an solchen direkten Anwendungsfällen auch das Lernen über KI stattfinden. Natürlich gibt es aber auch noch die menschliche Komponente: Lehrkräfte erfreuen sich der neuen technologischen Möglichkeiten generativer Machine-Learning-Systeme und nutzen entsprechende Systeme für Unterrichtsplanung und Differenzierung von Lernmaterialien. So spielt KI in diesen Fällen vielleicht sogar eher indirekt eine Rolle im Schulalltag der Schüler*innen.

Negative Effekte entstehen vor allem dann, wenn Schüler*innen KI-Systeme unreflektiert einsetzen und durch fehlende KI-Bildung ein fehlerhaftes Verständnis darüber noch verstärkt wird. Ich spreche hier nicht über Täuschungsversuche bei Hausaufgaben oder gar bei Prüfungen (auch wenn dies natürlich auch seine berechtigte Debatte verdient).

Mir geht es vielmehr um Fälle, bei denen Sprachmodelle von Schüler*innen fälschlicherweise wie Suchmaschinen verwendet werden, um an Informationen zu gelangen und Tools wie ChatGPT zum „neuen Google“ werden.

Zunächst einmal gibt es genauso wenig „die KI“, wie es „den Algorithmus“ gibt, weil es unzählige Systeme gibt, die für unterschiedliche Probleme und Szenarien entwickelt wurden. Ebenso unterschiedliche Herausforderungen haben Schulen, wenn es um das Lehren und Lernen in der digitalen Transformation geht.

Generell gilt: Schulen müssen sich technologischen Fortschritten öffnen, die jeweiligen Chancen, die damit einhergehen, für sich nutzen und negativen Konsequenzen mit Haltung begegnen.

„AI Literacy“ bezeichnet vor allem die Auseinandersetzung mit den allgemeinbildenden Aspekten des Themenfelds Künstliche Intelligenz, im Sinne einer Grundbildung. Wir stellen uns also die Frage: Was ist das Minimum an Kompetenzen, die es braucht, damit eine Person in einer Lebensrealität, umgeben von KI-Systemen in verschiedensten Anwendungsfeldern, souverän kommunizieren, zusammenarbeiten und mitgestalten kann? Dabei sollte sie gleichzeitig stets eine kritisch-reflektive Haltung bewahren.

Im gesellschaftlichen Diskurs dominiert eine offensichtlich lebenspraktisch relevante Anwendungsperspektive. Wichtig ist, dass eine KI-Bildung in der Schule daneben auch immer die technologischen und gesellschaftlich-kulturellen Aspekte in den Blick nimmt. Und demnach eben nicht nur zum Ziel hat, dass Schüler*innen in der Lage sind, Tools kritisch zu bewerten, auszuwählen und wissen, wie man diese zu welchem Zweck effektiv einsetzt. Sondern auch KI-Systeme und Anwendungsfelder im Alltag zu identifizieren. Und erklären zu können, wie Systeme von einer Eingabe zu einer Ausgabe kommen, welche Daten dabei wie verarbeitet werden. Ebenfalls, wie „Bias“ in Daten das Ergebnis maschineller Lernprozesse beeinflussen kann.

Informatische Bildung ist der Schlüssel zur Teilhabe an unserer zukünftigen und auch schon jetzigen digital-vernetzten Gesellschaft. KI-Bildung braucht die informatische Bildung vor allem, um die Kompetenzen zu den Funktionsweisen der dahinterstehenden Technologien bei den Lernenden auszubilden. Andernfalls ist es den Lernenden auch nicht möglich, die ethischen und gesellschaftlichen Implikationen von KI zu antizipieren und zu reflektieren, wodurch ebenso wenig digitale Souveränität sichergestellt werden kann.

Ohne grundlegendes Verständnis für Informatik fehlt den Lernenden also ein wichtiges Fundament, um die Funktionsweise von KI-Systemen zu verstehen, was zu einem oberflächlichen Verständnis von KI führen kann.

Informatische Bildung stellt die Fähigkeiten und Fertigkeiten sicher, die notwendig sind, um KI-Systeme zu verstehen, zu implementieren und weiterzuentwickeln. Dies wird auf dem zukünftigen Arbeitsmarkt von größter Relevanz sein. Auch könnten durch das Fehlen von informatischem Wissen innovative Ansätze zur Lösung von Problemen oder zur Weiterentwicklung von KI-Anwendungen nur eingeschränkt entwickelt werden.

Daher meine abschließenden Worte: Damit eben keine Kinder und Jugendlichen hier abgehängt werden, müssen die Möglichkeiten, sich informatisch zu bilden, für alle gleichermaßen geschaffen werden. Dies funktioniert nur mit einem eigenständigen verpflichteten Lernbereich in der Schule einerseits, was einem inklusiven Gedanken von digitaler Bildung folgt – und dem Zugang zu Technologie unabhängig der sozialen Herkunft andererseits.