Märchen-GPT
Schreibt gemeinsam ein Märchen – Wort für Wort, genau wie ein Sprachmodell!
🎯 Worum geht's? Klasse 6 · 2 Unterrichtsstunden
Nach dieser Seite kannst du …
- erklären, wie ein Sprachmodell das nächste Wort nach Wahrscheinlichkeiten auswählt
- ein kleines Modell mit Märchenanfängen trainieren und testen
- Grenzen von KI-Texten erkennen (Erfundenes, Abhängigkeit von Trainingsdaten)
Vorwissen: keines
1. Worum geht es?
Große Sprachmodelle wie ChatGPT wirken oft, als könnten sie „denken" oder „verstehen". Tatsächlich berechnen sie aber bei jedem Schritt nur eine Sache: Welches Wort passt mit welcher Wahrscheinlichkeit als nächstes am besten? Diese Wahrscheinlichkeiten haben sie vorher aus riesigen Textmengen trainiert (gelernt).
Auf dieser Seite baust du dein eigenes, sehr kleines „Märchen-GPT". Statt Milliarden Texten aus dem Internet trainierst du es nur mit ein paar Märchenanfängen der Gebrüder Grimm – Wort für Wort, per Mausklick. So siehst du live, wie ein Netz aus Wörtern und Wahrscheinlichkeiten entsteht (ein sogenannter Graph), und wie dieses Netz danach Text „generiert".
2. So funktioniert die Seite
3. Gemeinsam trainieren: Mehrspieler-Raum (optional)
Ihr könnt euch zu mehreren in einem Raum zusammenschließen: Jede Person trainiert weiter unten ihren eigenen Wortgraphen – im Hintergrund wird er automatisch mit allen im Raum geteilt. Beim Generieren könnt ihr unten optional die Option „Auf alle Graphen im Raum zugreifen" aktivieren: Das Modell darf dann, sobald ein Wort in mehreren Graphen vorkommt, in irgendeinem dieser Graphen weitermachen – ganz ähnlich wie ein echtes LLM, das gleichzeitig aus vielen unterschiedlichen Quellen gelernt hat!
Noch in keinem Raum – Training funktioniert auch ohne Raum ganz normal, nur eben nicht geteilt.
4. Trainiere dein Märchen-GPT
🕸️ Wortgraph (das „Gedächtnis" deines Modells)
Startmarke · Dickere, dunklere Pfeile = höheres Gewicht · Zahl an der Kante = aktuelles Gewicht · Knotenfarbe = Herkunft aus Märchen · Graph zoomt automatisch.
📖 Trainingsdaten: Grimm-Märchenanfänge
Wähle oben einen Märchenanfang aus.
5. Statistik & dein Märchen-GPT testen
📊 Trainingsstatistik
| # | Märchen | Lernrate | Anzahl |
|---|
🤖 Märchen-GPT ausprobieren
Tipp: Groß-/Kleinschreibung und Satzzeichen müssen zum Training passen!
💡 Die Vorschläge oben zeigen – genau wie die Autovervollständigung eines echten LLMs – die wahrscheinlichsten nächsten Wörter deines trainierten Graphen (bzw. aller Graphen im Raum, wenn unten aktiviert). Klicke einen Vorschlag an, um ihn zu übernehmen.
Tritt weiter oben einem Raum bei, um diese Option zu nutzen. Ist sie aktiv, zeigt der Tooltip eines generierten Wortes auch, welche Mitspieler:innen zu diesem Wort beigetragen haben.
Fügt 1000 automatisch generierte Märchenanfänge hinzu.
Generierung läuft fortlaufend. Bei aktivem „Mehrere Sätze" markiert ⏎ einen neuen Satz. 🔂 zeigt eine abgeschwächte Wiederholung. Fahre mit der Maus über ein farbig hinterlegtes Wort, um zu sehen, aus welchen Märchenanfängen es stammt!
Noch keine Ausgabe – trainiere zuerst deinen Graphen.
6. Hintergrundwissen & Reflexion
🔒 Datenschutz & Urheberrecht
Wenn du ohne Mehrspieler-Raum trainierst, läuft alles komplett lokal in deinem Browser – es werden keine Daten irgendwohin gesendet.
Sobald du oben einen Mehrspieler-Raum erstellst oder beitrittst, werden folgende Daten an den Server übertragen und dort für die Dauer des Raums in einer Datenbank gespeichert:
- Der eingegebene Name – bitte nutzt dafür ein Pseudonym statt eures echten Namens.
- Eine vom Server zufällig erzeugte, technische Kennung und ein geheimes Sicherheits-Token für deine Sitzung (ohne Bezug zu deiner echten Identität).
- Der Raum-Code sowie dein trainierter Wortgraph (Wörter und deren Verbindungen), damit er mit den anderen im Raum geteilt werden kann.
Speicherdauer: Ein Raum wird spätestens 4 Stunden nach der letzten Aktivität automatisch vollständig gelöscht.
IP-Adresse: Wird zum Schutz vor Missbrauch kurzzeitig nur in gehashter, anonymisierter Form verarbeitet und spätestens nach 1 Stunde gelöscht.
Es werden keine Cookies gesetzt, kein Tracking durchgeführt und keine Daten an Dritte oder Werbenetzwerke weitergegeben.
Was passiert beim „Training" wirklich?
Jedes Wort wird zu einem Knoten im Graph. Wenn im Text ein Wort auf ein anderes folgt, wird eine gerichtete Kante gezogen. Das Gewicht dieser Kante steigt jedes Mal, wenn diese Wortfolge im Training vorkommt. Die Lernrate bestimmt, wie stark eine einzelne Beobachtung das Gewicht verändert. Die Farbe eines Knotens zeigt, aus welchem Märchen das Wort stammt – wenn es in mehreren Märchen vorkommt, wird die Farbe gemischt!
⚠️ Warum entstehen manchmal unsinnige Wortkombinationen?
Dein Märchen-GPT kennt bei jedem Schritt nur das eine unmittelbar vorherige Wort – nicht den ganzen bisherigen Satz! Das nennt man ein Bigramm-Modell. Wenn ein Wort wie „ein" in ganz unterschiedlichen Sätzen vorkommt, verschmelzen alle Zusammenhänge zu einem Knoten – einem „Hub-Wort".
🔂 Was ist die „Wiederholungsstrafe" (Repetition Penalty)?
Ohne Gegenmaßnahme würde ein Greedy-Modell immer wieder exakt denselben Pfad wählen. Echte Sprachmodelle wie ChatGPT nutzen eine Wiederholungsstrafe (repetition penalty): Bereits benutzte Verbindungen werden künstlich abgeschwächt. Dein Märchen-GPT tut genau das: Jede Kante wird bei wiederholter Nutzung mit Faktor 0,45 multipliziert.
Wie hängt das Modell mehrere Sätze aneinander?
Endet ein Wort auf einen Punkt, ein Ausrufe- oder Fragezeichen und gibt es keine trainierte Fortsetzung mehr, springt das Modell zurück zum Startknoten.
Was bedeutet die Knotenfarbe?
Jedes der 30 Grimm-Märchen hat eine eindeutige Farbe. Ein Knoten im Graph übernimmt die Farbe des Märchens, aus dem sein Wort stammt. Wurde das Wort in mehreren Märchen trainiert, werden die Farben additiv gemischt.
Bias: Was passiert, wenn man nur mit ähnlichen Texten trainiert?
Dein Modell kann nur das wiedergeben, was es „gesehen" hat. Bei echten KI-Modellen spiegeln sich einseitige Trainingsdaten ebenso in den Antworten wider – das nennt man Bias.
7. Arbeitsaufträge
- Trainiere dein Märchen-GPT mit mindestens drei verschiedenen Märchenanfängen und der Lernrate 0.5. Beschreibe, wie sich der Graph dabei verändert. Welche Farben erkennst du?
- Lade den vortrainierten Graphen und generiere anschließend Text. Fahre mit der Maus über die farbig hinterlegten Wörter: Welche Wörter tauchen in vielen verschiedenen Märchen auf?
- Gib als Prompt „Es war einmal" ein. Erkläre mithilfe des Graphen, warum das Modell genau dort weitermacht, wo es weitermacht.
- Aktiviere „Mehrere Sätze generieren" und finde die ⏎- und 🔂-Symbole im technischen Pfad. Erkläre, was dort jeweils passiert.
- Hub-Wort-Detektiv: Suche im Graphen einen Knoten, der von besonders vielen Märchen gemeinsam genutzt wird. Warum ist gerade dieser Knoten ein „Hub-Wort"?
- Setze den Graphen zurück, trainiere nur einen einzigen Märchenanfang mit Lernrate 1.0. Was passiert – und welche Farbe hat der generierte Text?
- Transferaufgabe: Erkläre in 3–4 Sätzen, wie ChatGPT im Prinzip funktioniert – gehe dabei auch auf Wiederholungsstrafe und Satzverkettung ein.
- Diskussion: Warum ist es problematisch, wenn ein Sprachmodell nur mit sehr ähnlichen Texten trainiert wird? Finde ein Beispiel aus der echten Welt.
- Mehrspieler: Tretet zu zweit oder mehr einem gemeinsamen Raum bei, trainiert unterschiedliche Märchenanfänge und generiert dann mit aktivierter Option. Findet eine Stelle, an der das Modell von eurem Graphen in den Graphen einer/eines Mitspieler:in „wechselt". Woran erkennt ihr das?
8. Glossar
- Token
- Kleinste Texteinheit, mit der ein Sprachmodell arbeitet (hier: ganze Wörter).
- Knoten (Node)
- Ein Punkt im Graph – hier: ein Wort.
- Kante (Edge)
- Eine gerichtete Verbindung zwischen zwei Knoten.
- Gewicht
- Zahl an einer Kante – wie häufig diese Verbindung trainiert wurde.
- Lernrate
- Wert, um den ein Gewicht bei jedem Trainingsschritt erhöht wird.
- Bigramm-Modell
- Berücksichtigt für die nächste Vorhersage nur das unmittelbar vorherige Wort.
- Hub-Wort
- Ein Wort, das in vielen verschiedenen Sätzen vorkommt und dadurch im Graph zu einem Knoten mit vielen Kanten wird – erkennbar an einem gemischten Farbton.
- Wiederholungsstrafe (Repetition Penalty)
- Abschwächung bereits benutzter Verbindungen, damit keine Wiederholungsschleifen entstehen.
- Vortraining (Pre-Training)
- Training mit sehr großen Datenmengen vor der eigentlichen Nutzung.
- Greedy-Suche
- Wählt immer den Pfad mit dem höchsten (effektiven) Gewicht.
- Sampling / Zufälliger Pfad
- Wählt zufällig, wobei stärkere Kanten wahrscheinlicher sind.
- Satzverkettung
- Rücksprung zum Startknoten nach einem Satzende, um einen neuen Satz anzuhängen.
- Prompt
- Eingabe, mit der man ein Sprachmodell auffordert.
- LLM
- „Large Language Model" – großes Sprachmodell, z. B. ChatGPT.
- Bias
- Verzerrung der Ausgaben durch einseitige Trainingsdaten.
- Inferenz
- Nutzung des trainierten Modells zur Erzeugung neuer Ausgaben.
- Mehrspieler-Raum
- Mehrere Personen trainieren gleichzeitig eigene Graphen, die im Hintergrund über einen gemeinsamen Raum-Code geteilt werden.
- Geteilter/kombinierter Graph
- Beim Generieren werden die Kanten aller Graphen im Raum an jedem Wort zusammengeführt (Gewichte addiert) – das Modell kann so „quer" durch mehrere trainierte Graphen laufen.