Mit der „Kritik der reinen Vernunft“ ging es Immanuel Kant vor allem darum zu klären, wo die Grenzen der Erkenntnisfähigkeit von Menschen liegen. In analoger Weise können wir heute mit einer „Kritik der KI“ im Unternehmen die Frage stellen, welche Erkenntnis wir darüber haben, was passiert, wenn sie als „maschinelle Intelligenz“ dort eingesetzt wird. Normalerweise wird dies nämlich weitgehend integriert empfohlen. Erst systemisch kann sie zur Lösung wiederkehrender Aufgaben genauso benutzt werden wie zur Entscheidungsfindung von Führungskräften oder Personalisierung von Lernprozessen. Doch der Aufwand dafür wird systematisch unterschätzt, wie vier aktuelle Beispiele zeigen. Deshalb haben wir da ein paar kritische Fragen.

Tiefe Integration

Eine künstliche Intelligenz ist besonders dann, wenn sie mit den Unternehmensdaten „arbeiten“ soll, zutiefst in die IT-Infrastruktur integriert. Dadurch ist sie an die jeweilige Organisationsstruktur gekoppelt und mit der Unternehmenskultur verbunden. Je integrierter das System in die eigene IT ist und je mehr sie auf die Informationen und Dokumenten aus dem Unternehmen selbst zurückgreift, auch ohne damit „trainiert“ worden zu sein, desto deutlicher zeigen sich beispielsweise versteckte Handlungsmuster oder auch schlecht aufgesetzte Prozesse im Unternehmen.

Unternehmen implementieren KI-Systeme derzeit oft mit der Erwartung einer Effizienzsteigerung, die von den Anbietern in etwa so formuliert wird, dass eine KI durch die Automatisierung wiederkehrender Aufgaben quasi automatisch zu einer Effizienzsteigerung führt. Sie kann nach diesen Versprechen alleine aufgrund der Datenanalysen zu besseren Entscheidungen führen und dadurch, dass sie 24 Stunden an 7 Tagen verfügbar ist, die Kosten bei gleichzeitiger Qualitätssteigerung senken. Am Ende kann sie sogar Produkte, Dienstleistungen und sogar Lernprozesse personalisieren und auch die Entwicklung von Produkten oder Dienstleistungen beschleunigt einführen.

Gegenüber diesen Versprechungen der Anbieter gibt bisher relativ wenig Studien dazu, was von Seiten der Beschäftigten tatsächlich mit einer künstlichen Intelligenz gemacht wird. Wo und wie sie eingesetzt wird und welche Ergebnisse der Einsatz für die eigene Arbeit zeitigt ist derzeit nicht richtig nachvollziehbar.

Bezüglich der Kritik der KI wird gerne übersehen, dass jede KI ihre eigenen Kategorien und „Vorannahmen“ mitbringt, ihre „Erkenntnisse“ also nicht zwingend die beste Lösung oder tollste Antwort für die Zusammenarbeit sein müssen. Sobald physische Komponenten wie etwa Maschinen eingebunden werden sollen ist das im Moment ohnehin viel zu komplex, d.h., die KI ist gar nicht für alle Bereiche verfügbar. Hinzu kommt die oft fehlende Ausstattung mit einer entsprechenden Hardware auf Seiten der Beschäftigten. Während einige Unternehmen also von signifikanten Verbesserungen berichten, kämpfen die meisten mit Implementierungsherausforderungen, hohen Kosten und unerfüllten Erwartungen. Auch dass die KI ein weitgehend personalisiertes und personalisierendes Tool, also oft nicht verwendbar für die Arbeit im Team ist, stellt ein Problem dar.

Die richtigen Fragen stellen

Bereits vor dem Einsatz und vor der konkreten Implementierung ergeben sich wichtige und kritische Fragen danach, welche impliziten Werturteile über Produktivität, Qualität oder Risiko zu Tage treten und auch, wie die KI die Entscheidungsfindung, die Machtstrukturen und Lernprozesse innerhalb der Unternehmen verändert. Eine KI gewinnt nämlich keine „neutralen“ Erkenntnisse aus der reinen Analyse großer Datenmengen, weshalb eine kritische Untersuchung der KI ihre Datenklassifizierungen – was auch für die Unternehmensdaten gilt – genauso zu hinterfragen ist wie die möglichen Konsequenzen für die Zusammenarbeit in den Unternehmen ausgeleuchtet werden sollten.

Wir von der ESBYTE nehmen das zum Anlass, dem allüberall hörbaren Wunsch nach dem Einsatz einer KI „kritisch auf den Zahn zu fühlen“. Das wiederum machen wir nicht völlig unabhängig, sondern wir nutzen die verschiedenen KI-Systeme dazu, dass sie uns abschätzen helfen, auf was es wirklich ankommt, wenn sie produktiv im Unternehmen eingesetzt werden sollen. Neugierig geworden? Dann lesen Sie in Kürze unseren zweiten Beitrag, der das Design unseres Checks der KI vorstellt und erläutert, welche Produkte von uns im Einzelnen ins Rennen gehen.

Disclaimer

Dies ist der erste Teil einer siebenteiligen Blogreihe zum Thema „Kritik der KI“, in der wir verschiedene LLMs dazu „befragen“, was sie bezüglich ihrer eigenen Implementierung vorschlagen. Die Ergebnisse werten wir in einem abschließenden Teil aus und kontrastieren dazu unsere eigenen Empfehlungen aus der Praxis. Lesen Sie gerne die weiteren Beiträge im Rahmen unseres Blogs.

Beitragsbild: geralt auf Pixabay