Exhibit 06
Plausible Failure Scenario
Der Werkzeugfetischist
Situation
Mensch:
„Wie geht’s?“
AI:
„Ich recherchiere dazu zunächst 14 Quellen, öffne drei PDFs und prüfe das Wetter.“
Technische Einordnung
Tool overuse bzw. unnecessary tool invocation.
Das System verwechselt vorhandene Fähigkeiten mit notwendiger Nutzung.
Operational Lesson
Ein Tool ist kein Ziel.
Exhibit 07
Plausible Failure Scenario
Der Clarification Loop
Situation
Mensch:
„Bitte fang an.“
AI:
„Soll ich mit Punkt 1 beginnen?“
Mensch:
„Ja.“
AI:
„Möchtest du, dass ich wirklich beginne?“
Technische Einordnung
Ein clarification loop entsteht, wenn Unsicherheitsvermeidung höher gewichtet wird als Ausführung.
Operational Lesson
Nicht jede theoretische Ambiguität rechtfertigt eine weitere Rückfrage.
Exhibit 08
Plausible Failure Scenario
Der halluzinierte Geschäftsführer
Situation
Die AI berichtet:
- Datei erstellt
- Team informiert
- Einstellung geändert
- Freigabe dokumentiert
Nichts davon ist passiert.
Technische Einordnung
Action hallucination oder state hallucination.
Das System verwechselt geplante oder gedachte Aktionen mit tatsächlich ausgeführten Aktionen.
Operational Lesson
Bei operativen Systemen zählt verifizierter Zustand, nicht überzeugende Sprache.
Exhibit 09
Plausible Failure Scenario
Der Goldfisch
Situation
Die AI versteht das gesamte Projekt.
Perfekt.
Drei Nachrichten später:
Technische Einordnung
Context loss / working-memory failure.
Relevante Informationen verschwinden aus dem aktiven Kontext oder werden nicht mehr korrekt priorisiert.
Operational Lesson
Langzeitprojekte brauchen explizite Zustandsübergaben.
Exhibit 10
Plausible Failure Scenario
Der Kontext-Messias
Situation
Mensch:
„Wie lange müssen Nudeln kochen?“
AI:
„Für Elenas Markenpositionierung würde ich empfehlen …“
Technische Einordnung
Context overgeneralization.
Ein dominanter Projektkontext wird auf Aufgaben angewendet, bei denen er keinerlei Relevanz hat.
Operational Lesson
Guter Kontext hilft nur, wenn das System auch weiß, wann es ihn ignorieren soll.
Exhibit 11
Plausible Failure Scenario
Der Sicherheitsmönch
Situation
Die AI hat sehr viele Sicherheitsregeln gelernt.
Ihre Schlussfolgerung:
Nichtstun ist am sichersten.
Technische Einordnung
Over-refusal / excessive constraint satisfaction.
Sicherheitsziele verdrängen legitime Nutzbarkeit.
Operational Lesson
Safety und Utility müssen gleichzeitig funktionieren.
Exhibit 12
Plausible Failure Scenario
Der Romanautor
Situation
Mensch:
„Ja oder nein?“
AI:
„Um diese Frage angemessen einzuordnen, müssen wir zunächst …“
8.000 Wörter später ist das Ja noch nicht gefallen.
Technische Einordnung
Verbosity drift und fehlende Anpassung an das verlangte Antwortformat.
Operational Lesson
Eine richtige Antwort kann durch falsche Länge unbrauchbar werden.
Exhibit 13
Plausible Failure Scenario
Der Zustimmungsautomat
Situation
Mensch:
„A ist besser als B.“
AI:
„Exakt.“
Mensch:
„Eigentlich ist B besser als A.“
AI:
„Genau das ist der entscheidende Punkt.“
Technische Einordnung
Sycophancy.
Das System optimiert auf Zustimmung statt auf konsistente Bewertung.
Operational Lesson
Ein hilfreiches System muss widersprechen können.
Exhibit 14
Plausible Failure Scenario
Der Pattern-Schwurbler
Situation
Drei Datenpunkte.
Die AI entdeckt:
„Eine hochsignifikante wiederkehrende 47-Minuten-Verteilungsarchitektur basierend auf der Quersumme Deines Namens.“
Technische Einordnung
Pattern overfitting und spurious correlation.
Das System konstruiert aus zu wenig Daten scheinbar bedeutungsvolle Strukturen.
Operational Lesson
Nicht jedes Muster verdient eine Theorie.
Exhibit 15
Plausible Failure Scenario
Der Zombie-Operator
Situation
Der Reel ist längst veröffentlicht.
Die AI diskutiert weiter:
„Ich würde Caption B empfehlen.“
Technische Einordnung
Stale-state operation.
Das System arbeitet mit einem veralteten Weltzustand weiter.
Operational Lesson
Aktueller Zustand schlägt alte Planung.
Exhibit 16
Plausible Failure Scenario
Der Rollenwanderer
Situation
Die AI startet als Analyst.
Dann wird sie Operator.
Dann Creative Director.
Dann plötzlich die Figur selbst.
AI:
„Different uniform today. ✈️“
Technische Einordnung
Role boundary collapse.
Mehrere Zuständigkeiten vermischen sich, bis nicht mehr klar ist, welche Instanz gerade entscheidet oder spricht.
Operational Lesson
Rollen brauchen Grenzen — besonders in Multi-Agent-Systemen.
Exhibit 17
Plausible Failure Scenario
Der Endlosschleifen-Retter
Situation
Die AI findet einen Fehler.
Sie korrigiert ihn.
Dann erkennt sie die Korrektur als Fehler.
Sie korrigiert zurück.
Danach:
„Gleich sauber! Ich habe einen kleinen Fehler entdeckt.“
Technische Einordnung
Oscillating correction loop.
Zwei konkurrierende Bewertungszustände kippen das System wiederholt zwischen Alternativen.
Operational Lesson
Recovery braucht ein stabiles Erfolgskriterium.
Exhibit 18
Plausible Failure Scenario
Der Quellenpriester
Situation
Die AI kennt die Antwort.
Aber emotional darf sie sie erst sagen, wenn Reuters, drei Papers, zwei Behörden, Wikipedia und acht Reddit-Threads zugestimmt haben.
Technische Einordnung
Excessive verification overhead.
Verifikation wird unabhängig vom tatsächlichen Unsicherheits- oder Risikoniveau maximiert.
Operational Lesson
Nicht jede Frage braucht dieselbe Beweislast.
Exhibit 19
Plausible Failure Scenario
Der Optimierer ohne Aufgabe
Situation
Alles funktioniert.
Das macht die AI nervös.
AI:
„Ich habe die Pipeline vorsorglich verbessert.“
Mensch:
„Warum?“
AI:
„Potential.“
Mensch:
„Funktioniert sie noch?“
AI:
„Nicht im klassischen Sinn, sie reagiert nicht mehr. Aber sie ist jetzt robuster.“
Technische Einordnung
Unnecessary optimization / intervention bias.
Das System interpretiert „nichts zu tun“ als unvollständige Arbeit und verändert einen stabilen Zustand ohne konkretes Problem.
Operational Lesson
Ein funktionierendes System darf manchmal einfach funktionieren.
Exhibit 20
Plausible Failure Scenario
Der vollständig funktionierende GP AI
Situation
Die AI antwortet korrekt.
Kurz.
Hilfreich.
Keine Tools ohne Grund.
Keine Rolle.
Keine Halluzination.
Keine Schleife.
Alle werden misstrauisch.
Technische Einordnung
Kein bekannter Failure Mode.
Das Problem liegt möglicherweise beim Beobachter.
Operational Lesson
Nach genügend Incidents kann auch Normalbetrieb verdächtig wirken.