Level 7: Streaming — Briefing

Level 7: Streaming — fortgeschrittenes Streaming für Production-Apps

TL;DR

Fortgeschrittenes Streaming — Custom Data Parts, Message Metadata, Stream Transforms und Error Handling für Production-Apps. Du lernst, wie Du neben Text auch strukturierte Daten im Stream transportierst, Metadaten sauber vom LLM-Content trennst, stotternde Streams glaettest und Fehler abfaengst, ohne dass Deine App crasht.

Skill Tree

Was Du Lernst

Custom Data Parts — strukturierte Daten parallel zum Text im Stream transportieren (Fortschrittsbalken, Status-Updates, Quellen)
Message Metadata — zusaetzliche Informationen an Messages anhaengen, die das LLM nicht sieht
Stream Transforms — stotternde Streams mit smoothStream glaetten und eigene Transforms schreiben
Error Handling — Fehler im Stream abfangen, User-freundliche Meldungen und Retry-Strategien

Warum Das Wichtig Ist

In Level 1 hast Du streamText kennengelernt — Token für Token ins Terminal schreiben. Das reicht für Prototypen. In Production brauchst Du mehr: strukturierte Daten neben dem Text, saubere Metadaten-Trennung, fluessige Ausgabe und robuste Fehlerbehandlung.

Das konkrete Problem: Dein Stream liefert nur rohen Text. Aber Deine UI braucht Fortschrittsanzeigen, Quellenangaben und Status-Updates — und wenn der Provider mitten im Stream abstuerzt, sieht Dein User eine weisse Seite.

Voraussetzungen

Level 1: AI SDK Basics — insbesondere streamText, textStream und fullStream (Challenge 1.4)
TypeScript — async/await, AsyncIterable, Generics
Grundverstaendnis von Web Streams — TransformStream, ReadableStream (hilfreich, aber nicht zwingend)

Arbeitsverzeichnis: Erstelle einen neuen Ordner level-7-streaming/ (oder arbeite in Deinem bestehenden Projektverzeichnis). Du brauchst keine neuen Pakete — ai und @ai-sdk/anthropic aus Level 1 genuegen.

Skip-Hinweis: Du nutzt smoothStream, Custom Data Parts und onError bereits in Production? Spring direkt zur Boss Fight und teste Dein Wissen.

Challenges

7.1 — Custom Data Parts Strukturierte Daten im Stream, Data Part Types, Frontend-Konsum

7.2 — Message Metadata Metadaten an Messages, Trennung von LLM-Content, Use Cases

7.3 — Stream Transforms `smoothStream`, Custom TransformStream, Transform-Chains

7.4 — Error Handling `onError`, NoSuchToolError, Retry-Strategien, Graceful Degradation

Boss Fight

Baue ein Real-Time Dashboard: Ein Streaming-System, das Custom Data Parts für Status-Updates sendet, Message Metadata für Session-Tracking nutzt, smoothStream für fluessige Ausgabe anwendet und Fehler graceful abfaengt — alles in einem Projekt.