Wir haben die Offshore Black Box ersetzt. Bauen wir keine AI Black Box
Wie Unternehmen verhindern, dass Provider-Abhängigkeit lediglich durch eine undurchsichtige AI-Plattform ersetzt wird.
Viele Unternehmen wollen mit AI-Shoring Abhängigkeiten aus klassischen Offshore-Modellen reduzieren. Doch wenn Modelle, Daten, Prompts, Decision Logic und Betriebswissen exklusiv beim Provider liegen, wurde das Problem nicht gelöst. Die Abhängigkeit hat nur ihre Form verändert.
Ein AI Agent kann schnell und überzeugend auftreten. Das macht seine Entscheidung noch nicht transparent oder richtig.
Eine neue Black Box entsteht leise
Beim traditionellen Outsourcing verlor das interne Team häufig den praktischen Kontext. Der Provider wusste, welche Ausnahme wirklich wichtig war, welche Konfiguration historisch gewachsen war und welcher Workaround bei einer Störung funktionierte.
Mit einer Provider-eigenen AI-Plattform kann derselbe Effekt schneller eintreten. Die Organisation sieht Ergebnisse, kennt aber weder die vollständige Knowledge Base noch Model Changes, Prompt Logic, Evaluation und Failures. Sie kann die Leistung nutzen, aber nicht unabhängig beurteilen oder fortführen.
„Human in the Loop“ reicht nicht
Ein Mensch, der jeden Vorschlag bestätigt, ist noch keine wirksame Kontrolle. Ohne Fachwissen, Kontext und Zeit wird die Bestätigung zur Formalität. Meaningful Human Oversight verlangt, dass der Mensch:
- die Entscheidung und ihre Datenbasis verstehen kann,
- relevante Alternativen sieht,
- die Risiken des konkreten Systems kennt,
- widersprechen und die Ausführung stoppen kann,
- aus Fehlern Regeln und Tests ableiten kann.
Kontrolle entsteht also nicht durch einen Approval Button, sondern durch erhaltene Kompetenz.
Was das interne Team selbst definieren muss
Ein belastbares Modell trennt klar zwischen interner Verantwortung und Provider-Beitrag. Intern bleiben:
- Auswahl und Priorisierung der Use Cases,
- Definition der Datenquellen und ihrer Vertrauenswürdigkeit,
- Ownership über Knowledge Bases und Architecture Records,
- Guardrails, Policies und verbotene Aktionen,
- Testfälle, Evaluation Criteria und Acceptance Thresholds,
- Freigabe von Autonomy Levels,
- Verantwortung für Exceptions, kritische Changes und Incidents.
Der Provider kann Modelle, Agenten und Integration entwickeln sowie die Plattform betreiben. Doch diese Komponenten müssen überprüfbar, austauschbar und vertraglich beherrschbar bleiben.
Was in einen AI-Ready Contract gehört
Ein moderner Sourcing-Vertrag benötigt mehr als Availability und Ticket-SLAs. Er sollte festlegen:
- Transparenz: eingesetzte Modelle, relevante Model Changes, Datenquellen und Decision Logic.
- Zugriff: exportierbare Knowledge Bases, Prompts, Policies, Logs und Evaluation Results.
- Nachweis: vollständige Audit Trails für Empfehlung, Freigabe, Ausführung und Ergebnis.
- Qualität: messbare Kriterien für Decision Quality, False Positives, False Negatives und Architecture Compliance.
- Eskalation: klare Grenzen, ab denen ein Mensch oder Spezialist übernehmen muss.
- Portability: definierte Formate, Schnittstellen und Migrationsunterstützung.
- Exit: getestete Übergabe, Manual Fallback und Knowledge Transfer.
Technische Leitplanken
Das Modell selbst sollte keine weitreichenden Admin Credentials besitzen. Reasoning und Execution werden getrennt. Ein Agent erstellt einen Plan; eine Policy Engine prüft ihn; ein deterministischer Runner führt nur freigegebene Aktionen mit minimalen Rechten aus. Jede Stufe erzeugt Evidence.
Model Changes sind wie produktive Softwareänderungen zu behandeln: versioniert, getestet, freigegeben, beobachtet und rückrollbar. „Der Provider hat das Modell verbessert“ ist keine ausreichende Change-Beschreibung.
Handlungsfähigkeit als Zielgröße
Die wichtigste Exit-Frage lautet nicht, ob der Vertrag kündbar ist. Sie lautet: Kann das Unternehmen den Service sicher weiterführen, wenn die Plattform morgen nicht verfügbar ist oder der Provider gewechselt wird?
AI-Shoring ist dann erfolgreich, wenn AI die operative Fähigkeit erhöht, ohne Architekturwissen, Entscheidungsfähigkeit und Verantwortung aus dem Unternehmen zu entfernen.
Quellen und Vertiefung
- Harvard Business Review: Beiträge zu AI, Decision Making und Organizational Capability
- Aktuelle Forschung zu AI-Shoring und Knowledge Retention
- Europäische Union: AI Act
- NIST: AI Risk Management Framework
- ENISA: Cybersecurity of AI and Machine Learning