Model Collapse
Hauptinhalt und Beschreibung des Lernszenarios
In diesem Szenario setzen sich die Lernenden mit dem Phänomen Model Collapse auseinander. Sie untersuchen, was passieren kann, wenn generative KI-Systeme zunehmend mit KI-generierten Daten trainiert werden. Im Mittelpunkt steht die Frage, warum dabei Vielfalt, kreative Abweichungen und seltene Muster verloren gehen können. Die Lernenden verstehen, dass KI-Systeme häufig statistisch wahrscheinliche Muster bevorzugen und dass rekursives Training auf synthetischen Daten langfristig zu homogeneren, vorhersehbareren und weniger vielfältigen Ergebnissen führen kann.
Das Szenario verbindet technische, gesellschaftliche und psychologische Perspektiven. Die Lernenden analysieren anhand der Fallstudie „Project Echo-Chamber“, wie eine fiktive Plattform durch KI-generierte Inhalte immer gleichförmigere Memes, Texte und News produziert. Sie untersuchen dabei Rückkopplungsschleifen, algorithmische Verstärkung, sinkende Varianz und mögliche Folgen für digitale Kultur, Meinungsvielfalt und Ambiguitätstoleranz.
Methodisch arbeiten die Lernenden als Data Forensics Team. Sie analysieren problematische Trainingsdaten, entwerfen Kriterien zur Erkennung kontaminierter Datensätze und entwickeln Governance-Strategien, um algorithmische Vielfalt zu erhalten. Die Präsentation unterstützt dies durch Beispiele zu algorithmischer Vereinheitlichung, dem Fotokopierer-Prinzip, Perplexity, Echo-Kammern und kulturellen Folgen homogener KI-Inhalte.
| Erstellerin | Lana Sattelmaier |
| Fach | Informatik, Ethik, Medienbildung, Sozialwissenschaften |
| Länge | 90–120 Min. |
| Pedagogischer Ansatz | Partizipatives lernen |
| Kompetenzen |
C58 – GAI social implications |
| Schuljahr | Informatik-Oberstufe, Ethik-Kurse mit Technikbezug |
| Technologien | Beamer, Präsentation, Arbeitsblatt, Stifte, Papier oder digitales Whiteboard, optional Internetzugang für Recherche und Diskussion |
| Evaluation |
Die Lernenden werden auf Grundlage ihrer aktiven Teilnahme, der Bearbeitung der Fallstudie, der Qualität ihrer Analyse von Rückkopplungsschleifen und der Entwicklung begründeter Governance-Strategien bewertet. Wichtig ist insbesondere, ob sie technische, gesellschaftliche und psychologische Folgen von Model Collapse nachvollziehbar miteinander verbinden können. |
Lernaktivitäten
LA1: Einstieg – Das Fotokopierer-Prinzip verstehen (15 min)
Die Lehrkraft eröffnet mit der Analogie einer Fotokopie, die immer wieder kopiert wird. Gemeinsam wird besprochen, dass mit jeder Kopie kleine Details verloren gehen können. Diese Analogie wird auf rekursives KI-Training übertragen: Wenn ein Modell zunehmend von KI-generierten Daten lernt, können seltene Merkmale, kreative Randbereiche und Vielfalt schrittweise verschwinden.
LA2: Fachlicher Input – Was ist Model Collapse? (15–20 min)
Die Lehrkraft erklärt das Konzept Model Collapse. Die Lernenden erfahren, dass generative KI-Systeme mit Wahrscheinlichkeiten arbeiten und häufig statistisch sichere, durchschnittliche oder bekannte Muster bevorzugen. Dadurch können Varianz und kreative Abweichungen sinken. Begriffe wie synthetische Daten, Ground Truth, Varianz und Perplexity werden eingeführt und anhand einfacher Beispiele erklärt.
LA3: Fallstudie – Project Echo-Chamber analysieren (25–30 min)
Die Lernenden bearbeiten das Szenario „Project Echo-Chamber“. Sie analysieren eine fiktive Plattform, die im Jahr 2028 personalisierte Memes, Texte und News generiert, deren Inhalte nach einiger Zeit als gleichförmig empfunden werden. Die Lernenden untersuchen, welche Trainingsdaten problematisch sein könnten, welche Rückkopplungsschleifen entstehen und warum Nutzer:innen langfristig weniger vielfältige Inhalte sehen könnten.
LA4: Forensik – Kontaminierte Daten erkennen (20 min)
Die Lernenden entwickeln drei Kriterien, mit denen ein Algorithmus erkennen könnte, dass ein Datensatz möglicherweise durch KI-generierte Inhalte kontaminiert ist. Sie beziehen dabei Aspekte wie niedrige Perplexity, wiederkehrende Formulierungen, geringe stilistische Vielfalt, fehlende Randfälle oder ungewöhnlich starke Musterähnlichkeit ein. Ziel ist es, Model Collapse nicht nur als abstraktes Problem, sondern als datenanalytische Herausforderung zu verstehen.
LA5: Governance – Einen Circuit Breaker entwickeln (25–30 min)
Die Lernenden übernehmen die Rolle eines Ethik-Rats der Plattform VibeNet. Sie wählen eine Strategie gegen den kulturellen Verfall durch algorithmische Vereinheitlichung und begründen deren Chancen und Risiken. Mögliche Strategien sind die gezielte Injektion von Rauschen, die Nutzung von Human-only-Vaults oder die stärkere Sichtbarkeit von Inhalten, die vom KI-Mainstream abweichen. Dabei diskutieren sie auch, warum rein technische Lösungen neue Probleme erzeugen können.
LA6: Transfer und Reflexion – Digitale Vielfalt erhalten (10–15 min)
Zum Abschluss reflektieren die Lernenden, wo sie heute bereits Anzeichen algorithmischer Vereinheitlichung sehen, z. B. bei TikTok-Trends, YouTube-Thumbnails, Spotify-Empfehlungen oder KI-generierten Texten. Sie diskutieren, wie sich digitale Räume verändern könnten, wenn Menschen immer seltener mit Mehrdeutigkeit, Widerspruch und ungewöhnlichen Perspektiven konfrontiert werden.
Materialien


