Gestaltungsprinzipien

Für eine erfolgreiche menschengerechte KI-basierte Prozessdigitalisierung muss das komplexe Zusammenspiel von Menschen, Aufgaben und sogenannten Software Robotern betrachtet werden. Zentrale Akteure im MeKIDI-Projekt waren daher die Arbeitnehmer:innen (AN), es werden aber auch AN-Vertreter und Arbeitgeber betrachtet. Software Roboter im Sinne von MeKIDI übernehmen nicht nur Aufgaben von Menschen im Sinne einer Automatisierung, sondern ermöglichen auch die Möglichkeit KI-basierter Erweiterung menschlicher Fähigkeiten (z. B. durch individualisierte Weiterbildung). Durch die Einführung KI-basierter Prozessdigitalisierung unter Verwendung von Software Robotern entfallen nicht nur Aufgaben, sondern es ergeben sich auch neue Möglichkeiten. Untersuchungsgegenstand von MeKIDI war daher das komplexe Zusammenspiel von Menschen, Aufgaben und Software Robotern mit dem Ziel, die KI-basierte Prozessdigitalisierung menschengerecht zu gestalten. Im Rahmen des Projektes MeKIDI wurden konkrete KI-basierte Lösungen in drei Experimentierräumen umgesetzt und auf dieser Basis Gestaltungsprinzipien für die konkreten KI-Lösungen als auch eine sozio-technische Einführungsmethode erarbeitet.

Eine kompakte Darstellung der Gestaltungsprinzipien finden Sie hier zum Download: MeKIDI_Gestaltungsprinzipien.pdf

Die Abbildung stellt das Rahmenwerk der Ergebnisse der Begleitforschung von MeKIDI dar.

In Summe wurden fünf Prinzipien abgeleitet. Die beiden ersten Prinzipien fokussieren auf die zu entwickelnden KI-Lösungen, die restlichen 3 Prinzipien beschreiben Eigenschaften der Einführungsmethode.

Prinzip I: Bereitstellung von vertrauenswürdigen Software Robotern

Vertrauenswürdigkeit technischer Systeme kann durch verschiedenste Merkmale beschrieben werden. Bereits 2018 wurden die „Ethik-Leitlinien für eine vertrauenswürdige KI“, welche im Rahmen einer Expertengruppe im Auftrag der Europäischen Union erarbeitet wurden, veröffentlicht. Vertrauenswürdige KI soll rechtmäßig, ethisch und robust sein. Die vier ethischen Grundsätze: 1) Achtung der menschlichen Autonomie, 2) Schadensverhütung, 3) Fairness und 4) Erklärbarkeit sollten konsequent umgesetzt werden. Konkret sollten bei der Realisierung und Nutzung sieben Anforderungen berücksichtig werden: 1) Vorrang menschlichen Handelns und menschliche Aufsicht, 2) technische Robustheit und Sicherheit, 3) Schutz der Privatsphäre und Datenqualitätsmanagement, 4) Transparenz, 5) Vielfalt, Nichtdiskriminierung und Fairness, 6) gesellschaftliches und ökologisches Wohlergehen sowie 7) Rechenschaftspflicht.

Prinzip II: Verfolgung eines partizipativen Ansatzes mit Human-in-the-Loop Paradigma

Kommerzielle Lösungen von Software Robotern müssen immer auf den konkreten Anwendungsfall angepasst und kontinuierlich verbessert werden. Das Prinzip II betont die Bedeutung eines partizipativen Ansatzes. Im partizipativen Ansatz nehmen die Arbeitnehmer:innen in der Anpassung und Verbesserung eine aktive Rolle ein, d.h. sie sind nicht nur Nutzer:innen, sondern Mitgestalter:innen. Unter Verfolgung des sogenannten Human-in-the-Loop Paradigmas nehmen Menschen eine aktive Rolle in der Ausgestaltung der KI-Lösung wahr.

Die folgenden drei Prinzipien beschreiben zentrale Eigenschaften einer sozio-technischen Einführungsmethode für Software Roboter.

Prinzip III: Analyse von Bedürfnissen/Zielen der AN und Nutzungskontext

Im Sinne des menschzentrierten Gestaltungsprozesses nach DIN EN ISO 9241-210 ist es für die erfolgreiche Bereitstellung menschengerechter Systeme entscheidend, den konkreten Nutzungskontext und Nutzungsanforderungen aus Sicht der Arbeitnehmer:innen zu verstehen. Nur auf dieser Basis können menschengerechte Gestaltungsalternativen abgeleitet und passende Gestaltungslösungen identifiziert werden.

Prinzip IV: Kontinuierliche Erfassung von Reaktionen der Arbeitnehmer:innen

Die Einführung von Software Robotern in Organisationen löst bei Arbeitnehmer:innen unterschiedliche emotionale, kognitive, und verhaltensorientierte Reaktionen aus. Für eine erfolgreiche Einführung ist es entscheidend, diese Reaktionen kontinuierlich zu erfassen und entsprechende Maßnahmen abzuleiten. Das im Projekt MeKIDI entwickelte Messinstrument und der zugehörige Software Roboter Barometer bieten hier einen Lösungsansatz.

Prinzip V: Proaktive Reallokation von Aufgaben und individualisiertes Kompetenzmanagement

Die Einführung von Software Robotern verändert die Aufgaben von Arbeitnehmer:innen. Im Fokus entsprechender Einführungsprojekte sollte daher immer auch eine Analyse der Aufgabenveränderung stehen. Mit der proaktiven Reallokation von Aufgaben und einem individualisierten Kompetenzmanagement können Potenziale von Arbeitnehmer:innen entfaltet werden.

Die Lösungsansätze wurden in drei, sich ergänzenden, Experimentierräumen praktisch umgesetzt und evaluiert. Dabei wurden die KI-Technologien unter Berücksichtigung der Bedürfnisse aller Akteure aktiv gestaltet und eingeführt.

In unseren drei Experimentierräumen entwickelten Arbeitgeber und Arbeitnehmer:innen gemeinsam KI-basierte Lösungen für die Arbeitswelt 4.0 in der Energiewirtschaft. Dabei lag der Fokus immer auf der Balance zwischen Menschlichkeit und Produktivität: Der Mensch soll im Mittelpunkt bleiben – die KI soll die Arbeitnehmer:innen bei ihren Aufgaben gewinnbringend unterstützen.

Die MeKIDI-Experimentierräume hatten folgende Schwerpunkte: