KI verstehen.
Selbst bauen.
Entdecke, wie Sprachmodelle funktionieren. Mit kurzen Lektionen, echten Aufgaben und einem klaren Weg vom ersten Token zum eigenen Modell.
- Abschnitte
- Lektionen
- Übungen
- Lernräume
- Deutsch & EnglischKurssprachen
Gebaut fürs Durchhalten.
Tägliche Routine
Dein Tagesziel: eine Lektion. Die Streak zählt deine Lerntage am Stück, XP deinen Fortschritt.
Deinen ersten Schritt findenVerstehe deinen nächsten Schritt
Ausprobieren, Rückmeldung bekommen und das Warum verstehen. Übungen prüfen deine Antworten. Offene Aufgaben wie Erklärungen schätzt du selbst ein.
Ein Beispiel ausprobierenEin echtes Projekt für deinen Rechner
Mit Plus lädst du tiny-gpt-cpu herunter: ein Python-Projekt in 10 Schritten vom Tensor bis zum kleinen GPT, geprüft mit lokalen CPU-Tests. Getestet auf macOS mit Apple Silicon.
Plus kennenlernen
Schau rein. Probier es aus.
Aus einem Satz werden Tokens. Attention verbindet sie. Folge den einzelnen Schritten und probiere das interaktive Beispiel direkt hier aus.
Vom Satz zum nächsten Token.
Beispieleingabe
KI lernt aus Daten.
Ein Satz. Drei Schritte. Schau dir an, welche Bausteine dahinterstecken.
„KI lernt aus Daten.“
- kiID 1
- lerntID 2
- ausID 3
- datenID 4
- .ID 5
Der Tokenizer zerlegt den Text in Tokens und gibt jedem eine ID.
Was du hier lernst
Text wird berechenbar.
Ein Sprachmodell arbeitet mit Zahlen. Die Token-IDs verbinden die Textbausteine mit dem Vokabular.
Ein Thema baut auf dem nächsten auf.
10 Abschnitte250 Lektionen
Kostenlos: Abschnitt 1–2Mit Plus: Abschnitt 3–10
Grundlagen großer Sprachmodelle
KostenlosWas ist ein Sprachmodell? Anwendungen und Grenzen, Phasen beim Bauen und Nutzen eines LLM
7 Einheiten, 21 Lektionen
PyTorch-Grundlagen
KostenlosPython-Bereitschaft und Kursumgebung, Skalare, Vektoren, Matrizen und Tensoren, Tensor-Operationen und Broadcasting
9 Einheiten, 27 Lektionen
Lernraum: Ein Modell lernt Kostenlos, 18 Min.Arbeiten mit Textdaten
PlusWort- und Token-Embeddings, Text tokenisieren, Tokens und Token-IDs
8 Einheiten, 24 Lektionen
Lernraum: Text wird zu Tokens Plus, 12 Min.Attention-Mechanismen implementieren
PlusDas Problem langer Sequenzen, Abhängigkeiten und Attention, Self-Attention ohne trainierbare Gewichte
11 Einheiten, 33 Lektionen
Lernraum: Wer darf wen sehen? Plus, 15 Min.Ein GPT-Modell implementieren
PlusModellkonfiguration und Architektur, Layer-Normalisierung, GELU-Feedforward-Netze
7 Einheiten, 21 Lektionen
Pretraining auf unbeschrifteten Daten
PlusText während der Evaluation erzeugen, Kreuzentropie-Verlust, Trainings- und Validierungsverlust
9 Einheiten, 27 Lektionen
Fine-Tuning für Klassifikation
PlusKategorien des Fine-Tunings, Datensatz vorbereiten, Data Loader erstellen
8 Einheiten, 24 Lektionen
Fine-Tuning für Instruktionen
PlusEinführung ins Instruction-Fine-Tuning, Instruction-Datensatz vorbereiten, Daten in Batches organisieren
9 Einheiten, 27 Lektionen
Effizientes Training und PEFT
PlusLernraten-Warmup, Cosine Decay, Gradient Clipping
10 Einheiten, 30 Lektionen
Lernraum: Passt das Modell? Plus, 15 Min.Capstone: Projektplan und lokale Rechenchecks
PlusProjektauftrag und Abnahmekriterien, Datensatz auswählen und dokumentieren, Tokenizer bauen oder auswählen
8 Einheiten, 16 Lektionen
Einzelne Schritte selbst ausprobieren.
Text in Tokens zerlegen, eine Attention-Maske bauen, kleine Gewichte trainieren oder ein Speicherbudget planen: Die 4 Lernräume ergänzen die passenden Kursabschnitte mit überschaubaren Experimenten.
Diese Experimente laufen im Browser. Für eigene Python- und PyTorch-Projekte brauchst du eine passende lokale Umgebung oder ein Notebook.
Tokenisierung
Text wird zu Tokens
Zerlege Text, verfolge Token-IDs und repariere ein kleines Vokabular.
12 Min.Plus
Causal Attention
Wer darf wen sehen?
Baue eine Attention-Maske und verhindere, dass das Modell die Zukunft sieht.
15 Min.Plus
Modellspeicher
Passt das Modell?
Plane Gewichte, Laufzeitreserve und Kontext für ein festes Speicherbudget.
15 Min.Plus
Training & Evaluation
Ein Modell lernt
Trainiere echte Gewichte im Browser und lerne, was eine Metrik wirklich belegt.
18 Min.Kostenlos
Bevor du loslegst.
Welche Vorkenntnisse brauche ich?
Für den Einstieg brauchst du kein Vorwissen über LLMs. Python-Grundkenntnisse helfen dir bei den anschließenden Code-Aufgaben. Tensoren, Autograd und Trainingsschleifen lernst du im PyTorch-Abschnitt kennen.
In welchen Sprachen kann ich lernen?
Wähle Englisch oder Deutsch für deine Lernsitzung. Übernimm zitierte Texte und vorgegebene Code-Werte in einer Aufgabe genau wie angezeigt, auch wenn diese Werte in einer anderen Sprache stehen.
Führe ich hier ein vollständiges PyTorch-Training aus?
Der Kurs vermittelt Python und PyTorch mit Erklärungen und Aufgaben. Im Browser laufen ausgewählte JavaScript-Übungen und kleine Experimente. Ein vollständiges PyTorch-Training führst du in deiner eigenen Umgebung aus.
Was kann ich kostenlos lernen?
LLM- und PyTorch-Grundlagen sind mit Free enthalten: 16 Einheiten und 48 Lektionen samt Guides, dazu der Lernraum „Ein Modell lernt“. Plus öffnet den vollständigen Lernpfad und alle 4 Lernräume. Preise und Verfügbarkeit ansehen
Starte mit den Grundlagen.
Die LLM- und PyTorch-Grundlagen sind kostenlos: 16 Einheiten und 48 Lektionen.