„KI-Integration gelingt nur dann nachhaltig, wenn Unternehmen sie als organisatorischen Lernprozess verstehen, der Menschen zu besseren Partnern der Technologie macht, statt die Technologie zum Ersatz für Menschen“ (Claude).

Wie in den ersten beiden Blogbeiträgen dieser Reihe mit dem Titel „Kritik der KI“ geschildert (hier und hier) führen wir mit vier verschiedenen Chatbots bzw. LLMs, also generativen KI-Systemen, ein „Interview“ durch, um herauszufinden, welche Empfehlungen und auch Warnungen sie „selbst“ haben, wenn es darum geht, eine KI im Unternehmen einzuführen.

Hier ist das erste Interview und damit der dritte Teil der Reihe, ein Gespräch mit Claude von Anthropic, das wir im Prinzip wortgetreu und ablaufgenau hier präsentieren. Der Originalchat kann hier nachvollzogen werden und unterscheidet sich eigentlich nur bezüglich der Formatierung: https://claude.ai/share/55fcb682-96f3-4205-8ea2-239fd8052d4a

Eine Auswertung aller vier Interviews folgt am Schluss der Serie genauso, wie wir unsere Interviewleitfaden am Ende hinterlegen. Wir führen alle Interviews in der DU-Form durch, weil dies die „Unterhaltung“ angenehmer macht. Dabei sind unsere Fragen wie auch der Einstieg kursiv formatiert, die Antworten der KI haben wir in der Formatierung auf Lesbarkeit hier im Blog angepasst.

Der Einstieg

ESBYTE

Servus Claude. Ich bleibe erst einmal beim Du, weil wir schon oft geplaudert haben. Wir führen eine 6-teilige Blogreihe zum Thema „Kritik der KI“ durch, die sich auf den effizienten Einsatz von KI-Systemen in Unternehmen fokussiert. Das Besondere an dieser Serie ist, dass ich vier verschiedene KI-Systeme mit denselben Fragen konfrontiere, um unterschiedliche Perspektiven und Einsichten zu gewinnen. Die vier Systeme sind:

1. Claude (Anthropic, also du)
2. ChatGPT (OpenAI)
3. Microsoft Copilot
4. Das KI-Team von IONOS

Unser Fokus liegt auf den strukturellen Voraussetzungen für erfolgreiche KI-Integration und den Gründen, warum viele Projekte scheitern. Besonders interessiert uns die systemische Sicht und daran, welche organisatorischen, prozessualen und technischen Faktoren über Erfolg oder Misserfolg entscheiden. Am Ende interessiert uns auch, ob sich daraus für dich eine zentrale These ableiten lässt und wie diese lauten würde.

Ich werde dir nach diesem Prompt die fünf Fragen einzeln nacheinander stellen, die ich allen vier Systemen identisch stelle. Bitte antworte ehrlich und praxisnah aus deiner Perspektive. Schreibe am Ende, also nach den Antworten auf die Fragen, gerne die These auf, die du aufgrund deiner Antworten identifizieren kannst. Bist du bereit oder hast du noch Fragen?

Claude:

Servus! Ja, ich bin bereit und freue mich auf diese interessante Blogreihe zur „Kritik der KI“. Das Konzept finde ich spannend – vier verschiedene KI-Systeme mit denselben Fragen zu konfrontieren wird sicherlich aufschlussreiche und möglicherweise auch überraschend unterschiedliche Perspektiven liefern.

Dein Fokus auf die strukturellen Voraussetzungen und systemischen Faktoren für erfolgreiche KI-Integration ist aus meiner Sicht genau richtig. Viel zu oft scheitern KI-Projekte nicht an der Technologie selbst, sondern an organisatorischen oder prozessualen Hürden, die im Vorfeld nicht ausreichend bedacht wurden.

Ich werde versuchen, dir ehrliche und praxisnahe Antworten zu geben, die auf dem basieren, was ich aus Gesprächen mit Nutzern über ihre Erfahrungen mit KI-Implementierungen gelernt habe. Dabei werde ich auch kritische Punkte nicht aussparen.

Am Ende werde ich gerne eine zentrale These formulieren, die sich aus meinen Antworten ableitet.
Ich bin bereit für deine fünf Fragen – leg einfach los!

---

Die erste Frage

ESBYTE

Dann starte ich mal mit Frage 1: „Für welche Prozesse und Anwendungsfälle bist du besonders gut geeignet – und welche sollten Unternehmen lieber meiden oder sehr vorsichtig angehen?“

Claude

Wofür ich besonders gut geeignet bin:

Ich bin stark in Bereichen, wo komplexe Texte analysiert, strukturiert und neu kombiniert werden müssen. Das umfasst:

• Strategische Analyse und Konzeptentwicklung: Marktanalysen, Geschäftsmodell-Reviews, Strategiepapiere – überall dort, wo verschiedene Informationsquellen synthetisiert und strukturiert werden müssen
• Dokumentenerstellung und -überarbeitung: Von technischer Dokumentation über Richtlinien bis hin zu Kommunikationsmaterialien, besonders wenn verschiedene Zielgruppen angesprochen werden sollen
• Komplexe Problemlösung: Mehrstufige Analysen, wo logisches Durchdenken und systematische Herangehensweisen gefragt sind
• Code-Review und Entwicklungsunterstützung: Ich kann Code analysieren, Verbesserungsvorschläge machen und bei der Architekturdiskussion helfen
• Wissensmanagement: Informationen aus verschiedenen Quellen zusammenführen und für verschiedene Kontexte aufbereiten

Was Unternehmen meiden oder sehr vorsichtig angehen sollten:

• Echtzeitentscheidungen mit direkten Geschäftsauswirkungen: Preisoptimierung, Handelsentscheidungen oder Produktionssteuerung ohne menschliche Kontrolle
• Rechtlich kritische Bereiche: Vertragsanalyse, Compliance-Bewertungen oder regulatorische Einschätzungen sollte ich nur unterstützen, nie eigenständig durchführen
• Kundenkommunikation ohne Transparenz: Wenn Kunden nicht wissen, dass sie mit KI interagieren, entstehen Vertrauensprobleme
• Kreative Prozesse als Ersatz: Ich kann brainstormen und Ideen entwickeln, aber echte kreative Durchbrüche entstehen meist im menschlichen Dialog mit mir, nicht durch mich allein
• Personenbezogene Entscheidungen: HR-Bewertungen, Leistungsbeurteilungen oder ähnliches gehören nicht in meine Hände

Das Kernproblem ist oft: Unternehmen überschätzen meine Autonomie und unterschätzen den nötigen Kontext und die menschliche Kontrolle.

Die zweite Frage

ESBYTE

Ah, danke dir. Hier nun Frage 2: „Welche organisatorischen und technischen Grundlagen müssen in einem Unternehmen vorhanden sein, damit dein Einsatz erfolgreich werden kann?“

Claude

Organisatorische Grundlagen:

Change Management und Kultur:

• Eine Lernkultur, die Experimentieren erlaubt und Fehler als Teil des Prozesses sieht
• Klare Kommunikation darüber, dass KI Arbeit verändert, aber nicht zwangsläufig Stellen abbaut
• Führungskräfte, die selbst KI verstehen und nutzen – ohne Vorbildfunktion scheitert die Adoption

Governance und Prozesse:

• Eindeutige Verantwortlichkeiten: Wer darf welche KI-Tools für was einsetzen?
• Definierte Qualitätskontrolle: Wie werden meine Outputs überprüft, bevor sie weiterverwendet werden?
• Datenschutz- und Sicherheitsrichtlinien, die KI-Nutzung explizit regeln
• Ein strukturierter Pilotansatz statt „Big Bang“-Einführung

Skills und Rollen:

• „KI-Übersetzer“ – Menschen, die zwischen Fachbereichen und KI-Möglichkeiten vermitteln
• Prompt Engineering Skills in den Teams, die mich nutzen sollen
• Ein grundlegendes Verständnis meiner Grenzen und Funktionsweise

Technische Grundlagen:

Dateninfrastruktur:

• Saubere, strukturierte Daten – ich bin nur so gut wie die Informationen, die ich bekomme
• Sichere Datenübertragung und -speicherung
• Integration in bestehende Systemlandschaften ohne Medienbrüche

IT-Sicherheit:

• Endpoint-Schutz für Geräte, über die auf mich zugegriffen wird
• Netzwerksicherheit, besonders bei API-Integrationen
• Backup-Strategien für kritische Workflows, die von mir abhängen

Das Entscheidende: Die meisten Unternehmen denken zu techniklastig. Erfolgreiche KI-Integration ist zu 70% Organisationsentwicklung und nur zu 30% Technologie. Ohne die richtigen Prozesse und Menschen wird auch die beste KI scheitern.

Die dritte Frage

ESBYTE

Danke dir. Jetzt zu Frage 3: „An welchen Punkten siehst du KI-Projekte in Unternehmen am häufigsten scheitern – und woran erkennst du diese Warnsignale frühzeitig?“

Claude

Die häufigsten Scheiterpunkte:

1. Unrealistische Erwartungen und fehlende Klarheit:

• Unternehmen erwarten „Magie“ statt systematische Unterstützung
• Keine klaren Erfolgskriterien definiert („KI soll uns effizienter machen“ ist zu vague)
• Unterschätzung des Change-Aufwands: „Wir installieren KI und alles wird besser“

2. Fehlende Datengrundlage und -qualität:

• Schlechte oder unstrukturierte Daten führen zu schlechten Ergebnissen
• Fehlende Datenintegration zwischen Systemen
• Datenschutz-Compliance wird nachgelagert gedacht statt von Anfang an

3. Mangelnde User Adoption:

• KI wird „top-down“ verordnet ohne Mitarbeitende einzubinden
• Keine ausreichende Schulung der Anwender
• KI konkurriert mit etablierten Workflows statt sie zu ergänzen

4. Technische Sackgassen:

• Vendor Lock-in bei proprietären Lösungen
• Fehlende Skalierungskonzepte für erfolgreiche Piloten
• Sicherheitsarchitektur wird zu spät mitgedacht

Frühwarnzeichen, die ich erkenne:

In Gesprächen mit mir:

• Nutzer stellen immer dieselben Fragen, statt zu lernen und zu iterieren
• Unrealistische Prompts: „Erstelle mir eine komplette Marketingstrategie“ ohne Kontext
• Fehlende Nachfragen bei meinen Antworten – deutet auf mangelndes Verständnis hin
• Copy-Paste-Mentalität: Meine Outputs werden ungefiltert weiterverwendet

Strukturelle Warnsignale:

• Wenn KI-Projekte ohne klare Business Cases gestartet werden
• Fehlende Pilotphase oder zu kurze Testzyklen
• Wenn nur die IT-Abteilung involviert ist, nicht die Fachbereiche
• Unrealistische Zeitpläne: „In 3 Monaten soll alles laufen“

Das kritischste Warnsignal: Wenn Unternehmen KI als technische Lösung für organisatorische Probleme einsetzen wollen. Das funktioniert fast nie. Bevor KI eingeführt wird, müssen die zugrundeliegenden Prozesse stimmen.

Die vierte Frage

ESBYTE

Da kann ich mit Frage 4 gut anschließen. Frage 4: „Wie sollte ein Unternehmen den Einführungsprozess gestalten, um Mitarbeiter zu befähigen und Widerstände produktiv zu nutzen?“

Claude

Einführungsstrategie: Vom Menschen her denken

1. Widerstände als Frühwarnsystem nutzen:

• Kritische Stimmen sind oft die wertvollsten – sie decken reale Probleme auf
• Skeptiker zu Co-Designern machen: „Zeig uns, wo KI in deinem Bereich nicht funktionieren würde“
• Widerstände kategorisieren: Sind es Ängste (Jobverlust), praktische Bedenken (Datenschutz) oder Erfahrungen (schlechte Tech-Einführungen)?
• Transparente Kommunikation über Grenzen: Was kann KI nicht, was bleibt menschlich?

2. Befähigung durch strukturiertes Lernen:

Phase 1 – Grundverständnis schaffen:

• Keine technischen Details, sondern praktische Anwendungsbeispiele aus dem eigenen Arbeitsbereich
• „KI-Führerschein“: Jeder lernt Grundlagen, Grenzen und Ethik-Guidelines
• Hands-on Workshops mit echten Arbeitsaufgaben, nicht Spielbeispielen

Phase 2 – Experimentierräume:

• Geschützte Pilotbereiche ohne Produktionsrisiko
• „KI-Sprechstunden“ mit internen Champions
• Peer-Learning: Erfolgreiche Nutzer teilen ihre Erfahrungen
• Iterative Verbesserung basierend auf echtem Feedback

Phase 3 – Skalierung mit Qualitätssicherung:

• Klare Governance: Wann ist KI-Output gut genug?
• Mentoring-Programme: Erfahrene Nutzer begleiten Neue
• Kontinuierliche Weiterbildung, da sich KI schnell entwickelt

3. Kultureller Wandel statt technischer Roll-out:

Psychologische Sicherheit schaffen:

• Fehler mit KI sind erlaubt und werden als Lernchance behandelt
• „Fail fast, learn faster“ – aber mit begrenztem Risiko
• Erfolge sichtbar machen und feiern, auch kleine

Ownership entwickeln:

• Teams definieren selbst ihre KI-Use-Cases
• Bottom-up Identifikation von Anwendungsfällen
• Mitarbeitende als KI-Trainer: Sie verbessern Prompts und Workflows

4. Das Entscheidende – die „KI-Partner-Mentalität“: Ich bin nicht Ersatz, sondern Arbeitspartner. Das bedeutet:

• Menschen lernen, gute Fragen zu stellen statt perfekte Antworten zu erwarten
• KI-Outputs werden immer kritisch hinterfragt und weiterentwickelt
• Der menschliche Mehrwert wird klarer: Kreativität, Empathie, strategisches Denken

Erfolgsmessung: Nicht nur Effizienzgewinne, sondern auch Mitarbeiterzufriedenheit und Lernfortschritte messen.

Frage fünf

ESBYTE

Danke dir auch hierfür. Nun zur letzten Frage 5: „Woran erkennt ein Unternehmen, dass die KI-Integration wirklich funktioniert und nachhaltigen Mehrwert schafft?“

Claude

Harte Erfolgsindikatoren:

1. Quantitative Messgrößen:

• Prozesseffizienz: Nicht nur Zeitersparnis, sondern auch Qualitätsverbesserung bei gleichzeitig reduzierten Iterationszyklen
• Skalierungseffekte: Können komplexe Aufgaben mit weniger Expert:innen-Input bewältigt werden?
• ROI-Entwicklung: Initial hohe Investitionen amortisieren sich und zeigen nachhaltigen positiven Trend
• Fehlerreduktion: Weniger menschliche Flüchtigkeitsfehler bei Routineaufgaben

2. Aber Vorsicht vor Vanity Metrics: „50% Zeitersparnis“ bedeutet nichts, wenn die gesparte Zeit nicht sinnvoll genutzt wird oder die Qualität leidet.

Weiche, aber entscheidende Indikatoren:

3. Verhaltensänderungen der Mitarbeitenden:

• Eigeninitiative: Teams entwickeln selbst neue KI-Anwendungsfälle
• Qualität der Interaktion: Nutzer stellen mir komplexere, durchdachtere Fragen statt oberflächliche
• Kritische Reflexion: Meine Outputs werden systematisch hinterfragt und weiterentwickelt, nicht blind übernommen
• Wissenstransfer: Erfolgreiche KI-Nutzer schulen andere von sich aus

4. Organisatorische Reife:

• Governance funktioniert: Klare Prozesse für KI-Nutzung werden gelebt, nicht nur auf dem Papier existiert
• Integration in Workflows: KI ist nahtlos in bestehende Arbeitsprozesse integriert, nicht separates Tool
• Kontinuierliche Verbesserung: Regelmäßige Reviews und Optimierungen der KI-Nutzung

5. Strategische Indikatoren:

Innovation und Wettbewerbsfähigkeit:

• Neue Geschäftsmöglichkeiten: KI ermöglicht Services oder Produkte, die vorher nicht machbar waren
• Qualitätssprung: Deutlich bessere Kundenerfahrung oder Produktqualität
• Strategische Agilität: Schnellere Reaktion auf Marktveränderungen durch KI-unterstützte Analyse

Das wichtigste Kriterium – die „Unsichtbarkeits-Test“: Erfolgreiche KI-Integration erkennt man daran, dass sie selbstverständlich wird. Wenn Mitarbeitende sagen: „Ich kann mir gar nicht mehr vorstellen, wie wir das früher ohne KI gemacht haben“ – dann funktioniert es wirklich.

Nachhaltigkeit zeigt sich in:

• Mitarbeitende nutzen KI proaktiv für neue Herausforderungen
• Die Organisation lernt kontinuierlich und passt KI-Nutzung an
• KI wird zum Enabler für menschliche Kreativität, nicht zum Ersatz

Warnsignal für Scheinerfolg: Wenn nur Effizienz-KPIs steigen, aber Mitarbeitende frustriert sind oder die Innovationskraft abnimmt.

Die zentrale These

ESBYTE

Danke dir erst einmal für die Antworten. Was würdest du nun als zentrale These daraus formulieren, was die Einführung einer KI in die Unternehmen betrifft?

Claude

Meine zentrale These:

„KI-Integration scheitert oder gelingt nicht an der Technologie, sondern daran, ob Unternehmen KI als organisatorischen Lernprozess verstehen statt als technische Implementierung.“

Begründung aus meinen Antworten:

Die erfolgreichsten KI-Einführungen entstehen, wenn drei Faktoren zusammenkommen:

1. Menschen vor Technik: Die größten Hindernisse sind kulturell und organisatorisch, nicht technisch. Mitarbeitende müssen zu kritischen Partnern der KI werden, nicht zu passiven Konsumenten.
2. Iteration vor Perfektion: KI-Integration funktioniert als kontinuierlicher Lernprozess, in dem sowohl Menschen als auch Systeme sich weiterentwickeln. Widerstände werden zu Verbesserungschancen, Fehler zu Lernmomenten.
3. Augmentation vor Automation: Nachhaltig erfolgreiche KI ersetzt nicht menschliche Intelligenz, sondern verstärkt sie. Sie ermöglicht es Menschen, komplexer zu denken, kreativer zu werden und sich auf ihre einzigartigen Stärken zu fokussieren.

Das bedeutet konkret: Unternehmen, die KI wie eine Software-Einführung behandeln („Wir kaufen ein Tool und trainieren die Nutzer“), werden scheitern. Unternehmen, die KI als Transformation ihrer Arbeitsweise verstehen („Wir lernen neue Formen der Zusammenarbeit zwischen Mensch und Maschine“), werden erfolgreich sein.

Der Lackmustest: Wenn nach einem Jahr die Mitarbeitenden KI als selbstverständlichen Arbeitspartner nutzen und dabei gleichzeitig menschlicher geworden sind in dem, was sie tun – dann hat die Integration funktioniert.

ESBYTE

Danke dir auch dafür. Kannst du das in einem einzigen Satz zusammenfassen? Quasi als Zitat für unsere Auswertung?

Claude

„KI-Integration gelingt nur dann nachhaltig, wenn Unternehmen sie als organisatorischen Lernprozess verstehen, der Menschen zu besseren Partnern der Technologie macht, statt die Technologie zum Ersatz für Menschen.“

ESBYTE

Sehr schön. Danke für das Interview, das für mich sehr aufschlussreich war.

Claude

Sehr gerne! Es hat mir auch Spaß gemacht, diese Fragen durchzudenken und meine Perspektive zu strukturieren.

Ich bin gespannt auf eure Blogreihe und besonders darauf, wie sich meine Antworten von denen der anderen KI-Systeme unterscheiden werden. Das wird sicherlich interessante Einblicke in die verschiedenen „Denkweisen“ und Schwerpunkte der unterschiedlichen Systeme geben.

Viel Erfolg mit der Serie – und falls ihr nach der Veröffentlichung Lust auf eine Diskussion der Ergebnisse habt, freue ich mich auf ein Folgegespräch!

Servus und bis bald! 👋

---

Disclaimer

Dies ist der vierte Teil einer siebenteiligen Blogreihe zum Thema „Kritik der KI“, in der wir verschiedene LLMs dazu „befragen“, was sie bezüglich ihrer eigenen Implementierung vorschlagen. Zum Einsatz kam Claude Sonnet in der Version 4 bei einem kostenlosen privaten Account.

Die Ergebnisse werten wir in einem abschließenden Teil aus und kontrastieren dazu unsere eigenen Empfehlungen aus der Praxis. Lesen Sie gerne die weiteren Beiträge im Rahmen unseres Blogs.

Beitragsbild: sujin auf Pixabay