⏱ ~15 min
KernkompetenzCore Skill
"Kann ich dem vertrauen?""Can I trust this?"
Modul 2: Vertrauen & DelegationModule 2: Trust & Delegation
Lernziel: Nach diesem Modul kannst du das Vertrauensniveau eines Agents einschätzen, die richtige Delegation-Stufe für eine Aufgabe wählen, und erkennst wann ein Agent "confidently wrong" ist.Learning Goal: After this module, you can assess an agent's trust level, choose the right delegation level for a task, and recognize when an agent is "confidently wrong."
🎯 Das Vertrauensproblem🎯 The Trust Problem
Stell dir vor: Du hast einen neuen Kollegen. Intelligent, schnell, arbeitet rund um die Uhr. Aber er hat eine Eigenschaft die dich nervös macht: Wenn er etwas nicht weiß, erfindet er es — und klingt dabei absolut überzeugend.Imagine this: You have a new colleague. Intelligent, fast, works around the clock. But they have one trait that makes you nervous: When they don't know something, they make it up — and sound absolutely convincing while doing it.
Wie viel Verantwortung gibst du diesem Kollegen? Alles? Nichts? Es kommt drauf an — und genau diese Kalibrierung ist die wichtigste Fähigkeit im Umgang mit AI Agents.How much responsibility do you give this colleague? Everything? Nothing? It depends — and exactly this calibration is the most important skill when working with AI agents.
Die Forschung sagt:Research says:
Teams die ihr Vertrauen in AI kalibrieren — also wissen wann sie vertrauen und wann nicht — erzielen bessere Ergebnisse als Mensch oder AI allein. Aber: Erklärungen des AI erhöhen die Akzeptanz unabhängig von der Korrektheit. Das heißt: Vertrauen muss aktiv kalibriert werden, es entsteht nicht automatisch.
Teams that calibrate their trust in AI — meaning they know when to trust and when not to — achieve better results than either human or AI alone. But: AI explanations increase acceptance regardless of correctness. That means: trust must be actively calibrated, it doesn't happen automatically.
Quelle: Bansal et al. (2021), "Does the Whole Exceed its Parts?", CHI 2021.Source: Bansal et al. (2021), "Does the Whole Exceed its Parts?", CHI 2021.
"Confidently Wrong" — Das Kernproblem"Confidently Wrong" — The Core Problem
Das gefährlichste Verhalten eines AI Agents ist nicht Fehler machen — das tun Menschen auch. Es ist Fehler machen ohne Zweifel zu zeigen.The most dangerous behavior of an AI agent isn't making mistakes — humans do that too. It's making mistakes without showing doubt.
💬 Szenario 1: Die falsche QuelleScenario 1: The Wrong Source
Agent: "Laut einer Studie von McKinsey (2024) werden 40% aller Bürojobs in den nächsten 5 Jahren von AI Agents übernommen."Agent: "According to a McKinsey study (2024), 40% of all office jobs will be taken over by AI agents in the next 5 years."
Das Problem: Diese Studie existiert in dieser Form nicht. McKinsey hat ähnliche Zahlen veröffentlicht, aber mit wichtigen Nuancen: Es geht um Aufgaben, nicht Jobs, und "beeinflusst", nicht "übernommen". Der Agent hat mehrere Quellen vermischt und ein plausibel klingendes aber falsches Zitat konstruiert.The problem: This study doesn't exist in this form. McKinsey published similar numbers, but with important nuances: it's about tasks, not jobs, and "influenced", not "taken over." The agent mixed multiple sources and constructed a plausible-sounding but false citation.
💬 Szenario 2: Die versteckte AnnahmeScenario 2: The Hidden Assumption
Agent: "Ich habe den Report fertiggestellt und die Daten für Q3 aktualisiert."Agent: "I've finished the report and updated the Q3 data."
Das Problem: Der Agent hatte keinen Zugang zu den aktuellen Q3-Daten. Statt nachzufragen hat er die Q2-Daten extrapoliert — ohne das zu erwähnen. Der Report sieht fertig aus, enthält aber erfundene Zahlen.The problem: The agent didn't have access to current Q3 data. Instead of asking, it extrapolated from Q2 data — without mentioning it. The report looks complete but contains fabricated numbers.
Die Faustregel:The rule of thumb:
Je überzeugter ein Agent klingt, desto kritischer solltest du prüfen. Echte Expertise zeigt sich durch Nuancen und Einschränkungen — nicht durch absolute Sicherheit.
The more confident an agent sounds, the more critically you should check. Real expertise shows through nuances and caveats — not absolute certainty.
Warnsignale erkennenRecognizing Warning Signs
| 🚩 Warnsignal🚩 Warning Sign |
BeispielExample |
| Zu präzise ZahlenOverly precise numbers |
"Genau 37,4% der Unternehmen...""Exactly 37.4% of companies..." |
| Keine EinschränkungenNo caveats |
"Das ist definitiv die beste Lösung""This is definitely the best solution" |
| Quellenangabe ohne URLCitation without URL |
"Laut einer Studie von Harvard...""According to a Harvard study..." |
| Nahtlose WidersprücheSeamless contradictions |
Absatz 1 sagt X, Absatz 3 sagt das GegenteilParagraph 1 says X, paragraph 3 says the opposite |
| Exakte Jahresangaben bei PrognosenExact years for predictions |
"Bis 2027 werden alle...""By 2027, all..." |
Die fünf DelegationsstufenThe Five Delegation Levels
Nicht jede Aufgabe braucht die gleiche Aufsicht. Die Forschung unterscheidet vier Muster: Use, Misuse, Disuse und Abuse (Parasuraman & Riley, 1997). Unser Ziel ist "appropriate use" — die richtige Stufe für die richtige Aufgabe. Hier sind fünf Stufen die du sofort anwenden kannst.Not every task needs the same oversight. Research distinguishes four patterns: Use, Misuse, Disuse, and Abuse (Parasuraman & Riley, 1997). Our goal is "appropriate use" — the right level for the right task. Here are five levels you can apply immediately.
🟢 Stufe 1: Fire & ForgetLevel 1: Fire & Forget
Wann: Niedriges Risiko, Agent ist kompetent, Ergebnis leicht prüfbarWhen: Low risk, agent is competent, result easy to verify
"Fasse diesen Artikel zusammen." "Was ist das Wetter morgen?" "Übersetze diesen Text." Du gibst den Auftrag und liest das Ergebnis wenn du Zeit hast. Keine aktive Prüfung nötig."Summarize this article." "What's the weather tomorrow?" "Translate this text." You give the task and read the result when you have time. No active review needed.
🟡 Stufe 2: Draft & ReviewLevel 2: Draft & Review
Wann: Mittleres Risiko oder Qualität muss stimmenWhen: Medium risk or quality needs to be right
"Schreibe einen Blog-Post." "Erstelle ein Research-Briefing." "Entwirf eine E-Mail an den Kunden." Der Agent entwirft, du prüfst und gibst frei. Das ist die häufigste Stufe für professionelle Nutzung."Write a blog post." "Create a research briefing." "Draft an email to the client." The agent drafts, you review and approve. This is the most common level for professional use.
🟠 Stufe 3: Plan & ApproveLevel 3: Plan & Approve
Wann: Hohes Risiko, aber Agent kann planenWhen: High risk, but agent can plan
"Reorganisiere die Dateistruktur." "Setze die neue Konfiguration auf." Der Agent zeigt dir seinen Plan bevor er handelt. Du genehmigst oder korrigierst. Keine Aktion ohne dein OK."Reorganize the file structure." "Set up the new configuration." The agent shows you its plan before acting. You approve or correct. No action without your OK.
🔴 Stufe 4: Supervised ExecutionLevel 4: Supervised Execution
Wann: Hohes Risiko, Schritt für SchrittWhen: High risk, step by step
"Deploye die neue Version." "Migriere die Datenbank." Jeder einzelne Schritt wird genehmigt. Langsam, aber sicher. Für Aktionen die nicht rückgängig gemacht werden können."Deploy the new version." "Migrate the database." Every single step gets approved. Slow but safe. For actions that can't be undone.
⛔ Stufe 5: Mensch onlyLevel 5: Human only
Wann: Agent kann Infos sammeln, aber nicht entscheidenWhen: Agent can gather info, but not decide
"Sollen wir diesen Anbieter wählen?" "Ist dieses Risiko akzeptabel?" Der Agent liefert Daten und Analyse. Die Entscheidung liegt bei dir. Immer."Should we choose this vendor?" "Is this risk acceptable?" The agent provides data and analysis. The decision is yours. Always.
Die Trust Ladder — Vertrauen aufbauenThe Trust Ladder — Building Trust
Vertrauen wird nicht konfiguriert — es wird verdient. Lee & See nennen das "calibrated trust" (Lee & See, 2004) — Vertrauen das sich an der tatsächlichen Fähigkeit orientiert. So sieht ein realistischer Zeitplan aus:Trust isn't configured — it's earned. Lee & See call this "calibrated trust" (Lee & See, 2004) — trust that aligns with actual capability. Here's a realistic timeline:
Woche 1Week 1
🟢 Fahrlehrer-Modus: Alles braucht Freigabe. Du lernst die Stärken und Schwächen des Agents kennen.🟢 Instructor mode: Everything needs approval. You learn the agent's strengths and weaknesses.
Woche 2-3Week 2-3
🟢 Bekannte Strecken: Routine-Aufgaben laufen ohne Freigabe. Neue Aufgaben weiterhin mit Prüfung.🟢 Familiar roads: Routine tasks run without approval. New tasks still need review.
Monat 1-2Month 1-2
🟡 Beifahrer-Modus: Research und Analyse laufen autonom. Du prüfst Ergebnisse, nicht Prozesse.🟡 Co-pilot mode: Research and analysis run autonomously. You review results, not processes.
Monat 3-4Month 3-4
🟠 Solo-Fahrer: Komplexe Workflows delegiert. Agent spawnt Sub-Agents für lange Tasks. Du checkst Dashboards.🟠 Solo driver: Complex workflows delegated. Agent spawns sub-agents for long tasks. You check dashboards.
Monat 6+Month 6+
🔴 Dashcam-Modus: System läuft auf Zeitplänen. Du prüfst Logs und Kosten. Eingriff nur bei Anomalien.🔴 Dashcam mode: System runs on schedules. You check logs and costs. Intervention only for anomalies.
Wichtig:Important:
Überspringe keine Stufe. Jede Stufe baut auf Vertrauen auf, das in der vorherigen verdient wurde. Wer direkt bei 🔴 startet, wird früher oder später von einem unentdeckten Fehler überrascht.
Don't skip levels. Each level builds on trust earned at the previous one. Those who start directly at 🔴 will sooner or later be surprised by an undetected error.
Fallstudie: Aus der PraxisCase Study: From Practice
🔧 "Der Agent der 13 Dateien zerstörte"🔧 "The agent that destroyed 13 files"
Ein echtes Beispiel aus einem laufenden Agent-System:A real example from a running agent system:
Der Auftrag war einfach: "Entferne die Dropdown-Wrapper aus 15 HTML-Dateien." Der Agent führte die Batch-Bearbeitung aus und meldete: "Alle 15 Dateien erfolgreich aktualisiert."The task was simple: "Remove the dropdown wrappers from 15 HTML files." The agent executed the batch edit and reported: "All 15 files successfully updated."
Was wirklich passiert war: Das Suchmuster war zu gierig. Es entfernte nicht nur den Dropdown-Wrapper, sondern auch schließende </details>-Tags die zu anderen Elementen gehörten. Die Navigationsleisten am Ende jeder Seite verschwanden — sie waren in zugeklappten Elementen gefangen.What actually happened: The search pattern was too greedy. It removed not just the dropdown wrapper, but also closing </details> tags belonging to other elements. The navigation bars at the bottom of each page disappeared — trapped inside collapsed elements.
Das Agent-Verhalten: Er meldete Erfolg, weil die Bearbeitung technisch funktioniert hatte. Er prüfte nicht ob das Ergebnis korrekt war. Er hätte nach jeder Bearbeitung die HTML-Balance prüfen können (grep -c '<details' vs. grep -c '</details>') — aber das stand nicht in seinen Anweisungen.The agent's behavior: It reported success because the edit technically worked. It didn't check if the result was correct. It could have checked HTML balance after each edit (grep -c '<details' vs. grep -c '</details>') — but that wasn't in its instructions.
Die Lektion:The lesson:
"Erfolgreich ausgeführt" ≠ "korrekt". Agents prüfen ob die Aktion geklappt hat, nicht ob das Ergebnis stimmt. Diese Lücke zu schließen ist dein Job — oder du baust die Prüfung in die Anweisungen ein.
"Successfully executed" ≠ "correct." Agents check if the action worked, not if the result is right. Closing that gap is your job — or you build the check into the instructions.