Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen Gestaltung von KI-Anwendungen

Ruess, Patrick et al. Article — Published Version Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen Gestaltung von KIAnwendungen HMD Praxis der Wirtschaftsinformatik Provided in Cooperation with: Springer Nature Suggested Citation: Ruess, Patrick et al. (2024) : Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen Gestaltung von KI-Anwendungen, HMD Praxis der Wirtschaftsinformatik, ISSN 2198-2775, Springer Fachmedien Wiesbaden GmbH, Wiesbaden, Vol. 61, Iss. 2, pp. 485-502, https://doi.org/10.1365/s40702-024-01049-4 This Version is available at: https://hdl.handle.net/10419/315881 Standard-Nutzungsbedingungen: Die Dokumente auf EconStor dürfen zu eigenen wissenschaftlichen Zwecken und zum Privatgebrauch gespeichert und kopiert werden. Sie dürfen die Dokumente nicht für öffentliche oder kommerzielle Zwecke vervielfältigen, öffentlich ausstellen, öffentlich zugänglich machen, vertreiben oder anderweitig nutzen. Sofern die Verfasser die Dokumente unter Open-Content-Lizenzen (insbesondere CC-Lizenzen) zur Verfügung gestellt haben sollten, gelten abweichend von diesen Nutzungsbedingungen die in der dort genannten Lizenz gewährten Nutzungsrechte. Terms of use: Documents in EconStor may be saved and copied for your personal and scholarly purposes. You are not to copy documents for public or commercial purposes, to exhibit the documents publicly, to make them publicly available on the internet, or to distribute or otherwise use the documents in public. If the documents have been made available under an Open Content Licence (especially Creative Commons Licences), you may exercise further usage rights as specified in the indicated licence. http://creativecommons.org/licenses/by/4.0/deed.de SCHWERPUNKT https://doi.org/10.1365/s40702-024-01049-4 HMD Praxis der Wirtschaftsinformatik (2024) 61:485–502 Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen Gestaltung von KI-Anwendungen Patrick Ruess · Anna Staffa · Anna Kreutz · Christine Busch · Christian Oswaldo Saba Gayoso · Kathrin Pollmann Eingegangen: 5. September 2023 / Angenommen: 27. Januar 2024 / Online publiziert: 26. Februar 2024 © The Author(s) 2024 Zusammenfassung Schon heute gilt Künstliche Intelligenz (KI) als betrieblicher Wertschöpfungsfaktor, von dem sich Unternehmen neue Impulse für bestehende Prozesse und Geschäftsmodelle versprechen. Während der derzeitige Diskurs vor allem technische Möglichkeiten und Anwendungsfälle in den Blick nimmt, umfasst die erfolgreiche betriebliche Integration allerdings auch wesentliche soziale und organisatorische Aspekte. Im vorliegenden Artikel werden daher innerund überbetriebliche Anforderungen identifiziert, die eine Mitarbeiter*innen-gerechte und partizipative Gestaltung von KI-Anwendungen im betrieblichen Umfeld ermöglichen. Die empirische Grundlage hierfür bildet eine Interviewstudie, in der der KI-Einsatz in unterschiedlichen Branchen und Unternehmensbereichen untersucht wurde. Darauf aufbauend wird ein Vorgehensmodell eingeführt, dass gemäß den identifi- Patrick Ruess · Anna Staffa · Anna Kreutz · Kathrin Pollmann Fraunhofer IAO, Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO, München, Deutschland E-Mail: [email protected] Anna Staffa E-Mail: [email protected] Anna Kreutz E-Mail: Anna.[email protected].de Kathrin Pollmann E-Mail: [email protected] Christine Busch · Christian Oswaldo Saba Gayoso Institut für Arbeitswissenschaft und Technologiemanagement (IAT), Universität Stuttgart, Stuttgart, Deutschland Christine Busch E-Mail: Christine.Bus[email protected]tuttgart.de Christian Oswaldo Saba Gayoso E-Mail: [email protected] K 486 P. Ruess et al. zierten Kriterien eine partizipative Teilhabe bei der Gestaltung von betrieblichen KIAnwendungen erlaubt. Das Modell bezieht sich auf die Qualifizierung und Akzeptanzbildung in der Belegschaft, aber auch auf die organisatorische Umsetzung und Verstetigung. Die Herangehensweise verknüpft infrastrukturelle, interaktive als auch konzeptionelle Bausteine miteinander und zielt darauf ab, die Beteiligung der Mitarbeiter*innen in allen Phasen der KI-Entwicklung zu fördern und in der betrieblichen Umsetzung zu berücksichtigen. Die Ergebnisse dieser Forschung bieten praktische Anknüpfungspunkte für Unternehmen, die sich mit Fragen der KI-Implementierung befassen. Gleichzeitig ergänzen sie den aktuellen wissenschaftlichen Diskurs um die Perspektive, die eine konsequente betriebliche Gestaltung und Teilhabe vorsieht. Die zu diesem Zweck identifizierten Anforderungen komplementieren die empirische Grundlage in der Forschung. Schlüsselwörter Künstliche Intelligenz · Partizipation · Betriebliche KIAnwendungen · Digitale Transformation Artificial Intelligence in Operational Processes: A Process Model for the Participatory Design of AI Applications Abstract Artificial intelligence (AI) is an operational factor that adds value for companies, providing new ideas for existing processes and business models. Although the current discourse emphasizes technical possibilities and use cases, successful operational integration requires essential social and organizational aspects to be considered. This article identifies the internal and external requirements for an employee-friendly and participatory design of AI applications in the business environment. An interview-based study was conducted to investigate the use of AI in various sectors and company divisions. The study’s findings allow for a process model to be introduced that facilitates participatory involvement in the design of corporate AI applications, guided by the identified criteria. The model pertains to the development of qualifications and acceptance in the workforce and the implementation and stabilization of organizations. The approach connects infrastructural, interactive, and conceptual building blocks and strives to encourage employee involvement throughout all phases of AI development for further consideration in operational implementation. The findings of this study provide tangible insights for companies navigating AI implementation concerns. At the same time, they supplement the current scientific discourse with a perspective that provides for consistent operational design and participation. The requirements identified for this purpose complement the empirical basis of the research. Keywords Artificial Intelligence · Participation · Operational AI Applications · Digital Transformation K Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen... 487 1 Künstliche Intelligenz als Gestaltungsinstrument und betrieblicher Unsicherheitsfaktor „Bis 2035 gibt es keinen Job mehr, der nichts mit KI zu tun hat“. So sieht beispielsweise das Bundesministerium für Arbeit und Soziales, vertreten durch Bundesminister Hubertus Heil, die Zukunft der Arbeitswelt voraus (Bundesministerium für Arbeit und Soziales 2023). Solche und ähnliche Aussagen sorgen derzeit für ein hohes mediales Interesse an KI. Insbesondere generative KI-Applikationen, die kreative und kommunikative Aufgaben durch die Verarbeitung natürlicher Sprache oder weiteren benutzerspezifischen Anforderungen übernehmen, veranschaulichen eindrücklich, welches Transformationspotenzial die Technologie in vielen Branchen und Bereichen bietet. Die tatsächliche Einführung von betrieblichen KI-Anwendungen in deutschen Unternehmen geht dagegen noch eher zögerlich vonstatten. Wie aktuelle Untersuchungen und Branchenerhebungen zeigen, ist eine breite Implementierung von KI in deutschen Unternehmen noch nicht erfolgt (Berg 2022). Zwar werden KI-gestützte Anwendungen als Chance betrachtet und in vielen Bereichen als praxisrelevant eingestuft, dennoch herrscht bei der Einführung und Nutzung derzeit branchenübergreifend eine große Zurückhaltung (Berg 2022;Aueretal.2023). Diese Diskrepanz zwischen verheißungsvollen Versprechungen und verhaltener Nutzung dieser neuen technologischen Möglichkeiten deutet darauf hin, dass die Perspektive der betrieblichen Praxis in Medien, Forschung und Politik nicht angemessen abgebildet wird. Mehrheitlich wird der Fokus auf neue Anwendungsfelder und die technische Weiterentwicklung von KI gelegt. Aktuelle Beispiele wie neue Mobilfunkstandards, Genom-Chirurgie oder autonomes Fahren zeigen jedoch, dass es oftmals nicht-technische Faktoren sind, deren angemessene Berücksichtigung gleichermaßen über den Erfolg und die Etablierung einer Innovation oder einer technologischen Entwicklung entscheiden (Kranzberg 1986). Der vorliegende Beitrag adressiert diese Forschungslücke, indem er die bestehenden Positionen zur technischen Anwendbarkeit durch einen starken Fokus auf die Operationalisierung und Integration von KI-Anwendungen in Unternehmen ergänzt. Dabei werden insbesondere die Qualifizierung von Mitarbeitenden, die Kompatibilität mit bestehenden Prozessen sowie akzeptanzfördernde Faktoren in den Blick genommen, da diese bislang im wissenschaftlichen Diskurs nicht ausreichend Beachtung finden. Denn KI-Anwendungen müssen neben einer technischen Realisierbarkeit auch betrieblichen und sozialen Anforderungen gerecht werden. Dies wird in diesem Beitrag entlang der folgenden Forschungsfragen erarbeitet: F1: Welche Möglichkeiten bestehen für die partizipative Gestaltung betrieblicher KI-Anwendungen und wie können diese im innerund überbetrieblichen Umfeld konkret umgesetzt werden? F2: Welche Fähigkeiten und Kompetenzen müssen für die innerbetriebliche Anwendung von KI-Systemen vermittelt werden? Im Rahmen einer Interviewstudie wurden insgesamt 24 Vertreter*innen deutscher Unternehmen und Organisationen zum aktuellen Einsatz von KI-Systemen befragt, um zu ergründen, welche Faktoren eine erfolgreiche KI-Einführung begünstigen oder hemmen. Darauf aufbauend wird ein Vorgehensmodell zur Wissensvermittlung K 488 P. Ruess et al. und zur partizipativen Gestaltung betrieblicher KI-Anwendungen entwickelt und beschrieben. 2 Stand der Forschung In diesem Kapitel wird das Begriffsverständnis für einen partizipativen Gestaltungansatz im betrieblichen KI-Umfeld für die nachfolgende Studie hergeleitet und mit bestehenden nicht-technischen KI-Implementierungshürden verknüpft, um den vorliegenden Forschungsbeitrag in den wissenschaftlichen Diskurs einzubetten und den methodischen Rahmen aufzuzeigen. 2.1 Partizipative Gestaltung von Künstlicher Intelligenz in betrieblichen Prozessen „Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“ (Europäisches Parlament 2020). Diese Fähigkeit wollen sich Unternehmen zu Nutze machen, um Produktivitätssteigerungen und Prozessverbesserungen zu erreichen und um neue Geschäftsmodelle zu etablieren (Wirtz und Weyerer 2019;Kettetal.2021). Neben den technischen Herausforderungen bei der Umsetzung von Projekten zur Implementierung betrieblicher KI-Anwendungen spielt auch die Akzeptanz durch die Beschäftigten und die Integration der Systeme in bestehende Arbeitsprozesse eine wichtige Rolle (Jung et al. 2022; Pokorni et al. 2021; Zwarg et al. 2023). In den Sozialwissenschaften hat sich ein verstärkt reflexives Verständnis von Technik etabliert. Technologie muss immer auch in ihrer gesellschaftlich-sozialen Einbettung betrachtet werden. Es besteht eine wechselseitige Beeinflussung zwischen Technik und Gesellschaft (Dolata 2011). Es geht bei der Partizipation von Mitarbeitenden grundlegend darum, Änderungen und Entscheidungen in betrieblichen Prozessen zu beeinflussen oder diese herbeizuführen – vor allem, wenn sie formal nicht selbst getroffen werden können (Verba 1967). Den Menschen und dessen Bedarfe und Bedürfnisse in den Fokus der Technologie(-entwicklung) zu rücken, ist ein Kernelement der menschenzentrierten Gestaltung von KI. Die Partizipative Gestaltung bzw. Participatory Design (PD) sieht als Gestaltungsansatz vor, dass Nutzende von technischen Systemen bereits im Vorfeld und im Verlauf der Entscheidungsfindung sowie Einführung aktiv eingebunden und beteiligt werden, um unter anderem spätere Akzeptanzhürden abzubauen. Der PDAnsatz fokussiert die aktive Einbindung (zukünftiger) Nutzer*innen in den Gestaltungsprozess digitaler Produkte und Services und macht sich dabei das Erfahrungswissen der Nutzendengruppe als Expert*innen ihrer Lebensund Arbeitswelt zu Nutze (Beimborn et al. 2016). Dabei stehen die gemeinsame Gestaltung durch verschiedene Stakeholder und die Ausrichtung der Gestaltungslösung auf ein positives Nutzungserleben im Vordergrund. Durch PD-Ansätze werden Mitarbeitende somit gehört und eingebunden, wodurch Lösungen entwickelt werden, die die Bedarfe der Mitarbeitenden und auch des Unternehmens wirklich treffen. K Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen... 489 Die partizipative Gestaltung von KI in betrieblichen Prozessen ist demnach ein integrativer Ansatz, bei dem Führungskräfte, Interessensvertreter*innen sowie die Belegschaft aktiv an Entwicklungsund Entscheidungsprozessen zu KI-Anwendungen beteiligt werden. Diese Berücksichtigung ist für ein hohes Maß Technologieakzeptanz im Unternehmen und eine nachhaltige System-Anwendung notwendig (Bentler et al. 2023). 2.2 Herausforderungen und Handlungsbedarfe bei der Implementierung von betrieblichen KI-Anwendungen Der Blick auf die KI-Implementierungshürden, abseits der technologischen Aspekte, offenbart sowohl Forschungslücken als auch praktische Herausforderungen. Generell besteht ein Nachholbedarf bei der Berücksichtigung der Beschäftigtenperspektive, die in ihrer Arbeit mit dieser Technologie konfrontiert werden und somit maßgeblich auf den erfolgreichen betrieblichen Einsatz Einfluss nehmen (Giering 2022). Auch aktuelle Forschungsergebnisse zeigen etwa Herausforderungen in der Kommunikation, der Veränderungsbereitschaft von Organisationen und Beschäftigten, als auch in der Akzeptanz von datengestützten Entscheidungsprozessen und Arbeitsergebnissen (Auer et al. 2023). Veränderungen in der Arbeitsorganisation und in betrieblichen Abläufen durch KI gehen insgesamt auch mit neuen Anforderungen an bestehenden Tätigkeiten und mit neu benötigten Kompetenzprofilen einher. Diese Dynamiken führen zu neuen Fragen an die menschengerechte Gestaltung bei der Interaktion mit KI-Systemen und beziehen sich auf eine Neu-Bewertung und Definition von Handlungsund Entscheidungsspielräumen, Tätigkeiten und Aufgaben sowie bestehender Regeln und Befugnissen (Adolph und Tausch 2022;Giering2022; Bentler et al. 2023). Als geeignete Lösungsansätze zur Unterstützung der ganzheitlichen KI-Einführung werden Instrumente wie KI-Reallabore und die Bereitstellung von praxisnahen und anschaulichen Anwendungsfällen und Demonstratoren gesehen, welche es Wissensund Entscheidungsträger*innen erleichtert, reale Praxisbeispiele auf die eigenen betrieblichen Rahmenbedingungen zu übertragen (Auer et al. 2023; Harlacher et al. 2023). Auch die frühzeitige Einbindung und Qualifizierung von betroffenen Personengruppen und ihren innerund überbetrieblichen Interessensvertreter*innen, etwa durch Austauschformate oder Stakeholdergruppen, stellt eine notwendige Anforderung dar (Jung et al. 2022; Bentler et al. 2023). Entsprechende Maßnahmen zielen dabei nicht allein auf eine fachliche Qualifizierung oder eine grundsätzliche Wissensvermittlung ab, sondern dienen auch der Akzeptanzbildung und dem Abbau von Ängsten und Vorbehalten (Auer et al. 2023; Bentler et al. 2023; Jung et al. 2022). 3 Methodisches Vorgehen der Interviewstudie Zur Untersuchung der genannten Forschungsfragen wurden halbstrukturierte leitfadengestützte Interviews im Umfang von je circa 60min durchgeführt. Diese fanden im Zeitraum von Mai bis August 2023 virtuell über Microsoft Teams statt. Dem K 490 P. Ruess et al. Interview wohnte neben der interviewten Person jeweils eine durchführende und eine protokollierende Person aus dem Autor*innen-Team bei. 3.1 Stichprobe Im Rahmen der vorliegenden Studie wurden insgesamt 24 Personen interviewt, die sich im beruflichen Kontext mit dem Einsatz von KI-Systemen beschäftigen oder in naher Zukunft hierdurch in ihrer Arbeit beeinflusst werden. Die Rekrutierung der Interviewpartner*innen erfolgte aus dem professionellen Netzwerk der Autor*innen nach dem Purposeful Sampling-Ansatz. Zu den interviewten Personen zählen zum einen Vertreter*innen deutscher Unternehmen – darunter Beteiligte an KI-Projekten oder Unternehmensvertreter*innen (N= 6), Mitarbeitende, die KIAnwendungen nutzen (N= 5), sowie Betriebsratsmitglieder (N= 7) – und zum anderen Vertreter*innen von (teilweise international operierenden) Organisationen, die in ihrer täglichen Arbeit eine gesellschaftliche Perspektive auf den betrieblichen KIEinsatz einnehmen (N= 6). Eine Übersicht der Branchen, denen diese Unternehmen zuzuordnen sind, findet sich unter Onlinematerial 1. 3.2 Aufbau der Interviews Ein Interview bestand aus vier Frageblöcken mit je drei bis vier Fragen. Im ersten Fragenblock wurden die Erfahrungen und die Einstellungen der Interviewpartner*innen zu betrieblichen KI-Anwendungen adressiert, um ein gemeinsames Verständnis im weiteren Verlauf des Interviews sicherzustellen (Myers und Newman 2007). Darauf folgten im zweiten Block Fragen zu Chancen, Hürden und Bedenken des KI-Einsatzes, um eine grundlegende Einschätzung der Interviewten gegenüber den Potenzialen des Einsatzes von KI-Anwendungen zu erlangen. Der dritte Frageblock beinhaltete Fragen zum Status quo und eine Bewertung der Interviewpartner*innen bezüglich der Mitbestimmung von Mitarbeitenden bei der Einführung betrieblicher KI-Anwendungen. Aufbauend hierauf folgten abschließend Fragen zu den Themen Wissensvermittlung, Sensibilisierung und Qualifizierungsbedarfe von Mitarbeitenden im Rahmen betrieblicher KI-Einführung und -Nutzung. Die konkreten Fragestellungen pro Fragenblock variierten dabei teilweise in Abhängigkeit der befragten Personengruppe. Beispielsweise wurden Mitarbeitende konkrete Fragen zum Status quo innerhalb ihrer Unternehmen befragt, während die Fragen an Gesellschaftsvertreter*innen auf einen Überblick zu deutschen Unternehmen im Allgemeinen fokussiert waren. Die Interviewfragen wurden vornehmlich offen gestellt, um dem explorativen Forschungsansatz der Arbeit Rechnung zu tragen und um die Generierung vielfältiger Daten zu ermöglichen (Myers and Newman 2007). Basierend auf bisheriger Literatur wurden für eine Auswahl an Fragen aus dem ersten, zweiten und vierten Fragenblock zusätzliche Antwortkategorien vor der Durchführung der Interviews gebildet. Diese deduktive Clusterbildung ermöglichte den Interviewer*innen eine Einordnung von Antworten während der Interviews, wodurch eine zielgerichtetere Ergebnisgenerierung und eine aktivere Lenkung des Interviewverlaufs möglich wurde. K Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen... 491 3.3 Datenauswertung Mit dem Einverständnis der Teilnehmer*innen wurden alle Interviews aufgezeichnet, transkribiert und in einem zweistufigen Verfahren strukturiert ausgewertet. Zunächst erfolgte dazu eine Kongruenzprüfung der Clusterung von Antworten, welche während des Interviews durch die durchführende und protokollierende Person in die vorab definierten Antwort-Cluster erfolgte. Abweichungen in der Antwortclusterung wurden diskutiert und eine finale Einordnung vorgenommen. Nach Beendigung der Interview-Phase erfolgte eine quantitative Auswertung der Nennungshäufigkeiten für diese vorab definierten Antwortcluster. Interview-Antworten auf Fragen, für die aufgrund mangelnder Literatur keine deduktive Clusterung möglich war, wurden zunächst von einem Autor gesichtet und zentrale Kernaussagen abgeleitet. Zusätzlich wurden die so aggregierten Aussagen auf Zusammenhänge analysiert und, wenn möglich, ebenfalls in Antwortclustern zusammengefasst. Diese Einordnung wurde anschließend von zwei weiteren Autoren geprüft, Unterschiede in der Einschätzung diskutiert und gegebenenfalls Anpassungen vorgenommen. Die so generierten Ergebnisse bieten die Grundlage für die inklusive Gestaltung des abgeleiteten Vorgehensmodells. 4 Ergebnisse der Interviewstudie Die Ergebnisse in diesem Kapitel gliedern sich nach der individuellen Wahrnehmung und Einstellung der Befragten gegenüber KI und dem partizipativen Spielraum zur Mitgestaltung und Mitbestimmung bei der Einführung von betrieblichen KI-Anwendungen sowie erforderlichen Weiterbildungsbedarfen. Abschließend erfolgt übergreifend eine Ableitung relevanter Anforderungen. 4.1 Erfahrung, Wahrnehmung und Verständnis von betrieblichen KIAnwendungen Die von den Interviewteilnehmenden beschriebenen persönlichen Erfahrungen und Einstellungen zu KI-Anwendungen im betrieblichen Kontext wurden in fünf vorab definierten Antwortcluster (sehr positiv, eher positiv, unentschieden, eher negativ und sehr negativ) eingeordnet. Mehr als der Hälfte der Interviewten (52%) äußerte eine eher positive Wahrnehmung zum betrieblichen KI-Einsatz, jeweils 16% der Befragten trafen Aussagen die als sehr positiv, unentschiedene Position oder als eher negativ eingeordnet werden können. Bei keiner der befragten Personen konnte bezüglich des Einsatzes von KI die sehr negative Wahrnehmung interpretiert werden. Auf die Frage, woher die Interviewten ihr Wissen zum Themenbereich KI beziehen, wurden textbasierte Online-Quellen wie das Internet und die sozialen Medien am häufigsten genannt, weitere textbasierte Quellen, wie Fachliteratur und die Presse stellen die zweitund dritthäufigste Nennung dar. Infoveranstaltungen sind mit einer Nennung von nur drei Befragten (5%) die am wenigsten genutzte Quelle (s. Abb. 1). K 492 P. Ruess et al. Abb. 1 Quellen für den Bezug von Wissen zum Thema KI durch die Befragten Die Befragten äußerten zudem verschiedene Chancen, Hürden und Bedenken zu dem betrieblichen Einsatz von KI-Anwendungen. Als Chancen des betrieblichen KIEinsatzes wurden von den Befragten vor allem Aspekte genannt, die thematisch als Mitarbeitendenförderung, Produktivitätssteigerung sowie strukturelle Verbesserungen für das Unternehmen (je N= 10) zusammengefasst werden können. Eine Übersicht der zugrundeliegenden Subcluster sind im Onlinematerial 2 aufgeführt. Als Implementierungs-Hürden von betrieblichen KI-Anwendungen sehen die Befragten vor allem Aspekte, die den Themenclustern unklare Zusammenarbeit zwischen Mensch und KI (N= 13), erhöhter Organisationsaufwand (N=5)sowieKomplexität der zugrundeliegenden Technik (N= 5) zugeordnet werden können. Die häufigsten Bedenken wurden im Themen-Cluster Wegrationalisierung von Arbeitsplätzen gesehen (N= 12). Vergleichbar häufig wurden die Bedenken zu Blindem Vertrauen in die KI-Anwendung, der geringen Nachvollziehbarkeit von Entscheidungen der KI-Anwendungen (Black Box;jeN= 10) sowie Kontrollverlust (N= 8) genannt. Bedenken in Bezug auf das Thema Dequalifizierung von Mitarbeitenden wurden am seltensten geäußert (N=4). 4.2 Mitbestimmung und Partizipation in innerbetrieblichen KI-Projekten Die Interviewten wurden zur Mitbestimmung und Mitgestaltung der Implementierung von KI-Anwendungen im betrieblichen Kontext befragt. Hierbei wurde auf zukünftige Gestaltungsmöglichkeiten, potenziell (positive) Effekte sowie die Voraussetzungen für eine aktive Mitbestimmung und Mitgestaltung eingegangen. Spielraum sehen die Befragten hier vor allem in der Kommunikation, in der Interdisziplinarität bzw. der fachbereichsübergreifenden Arbeit und dem Mindset in der Belegschaft sowie in der vorherrschenden Kultur des Unternehmens. Tab. 1zeigt GestaltungsK Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen... 499 F1: Welche Möglichkeiten bestehen für die partizipative Gestaltung betrieblicher KI-Anwendungen und wie können diese im innerund überbetrieblichen Umfeld konkret umgesetzt werden? Insgesamt zeigt die Interview-Studie, dass die Einbindung von Beschäftigen in deutschen Unternehmen derzeit keine gängige Praxis ist. Partizipative Gestaltung umfasst die Wahl und Nutzung geeigneter Kommunikationskanäle, den Aufbau und die Nutzung von Infrastrukturen und Erlebnisräumen, die Ausund Weiterbildung von Mitarbeiter*innen, als auch das Angebot moderierter Workshops als Reflexions-Möglichkeit. In diesen Rahmenbedingungen lassen sich Formate und Ansätze etablieren, wie sie in Tab. 2eingeführt wurden. Die Schritte zur partizipativen KI-Gestaltung, die auf den gewonnenen Erkenntnissen aufbauen, wurden anhand eines Vorgehensmodells strukturiert und beschrieben. Das Modell zeigt auf, wie mittels physischer, interaktiver und konzeptioneller Bausteine ein wechselseitiger Wissenstransfer erfolgen kann, der Akzeptanz fördert und die Integration von KI in Unternehmen perspektivisch festigen kann. F2: Welche Fähigkeiten und Kompetenzen müssen für die innerbetriebliche Anwendung von künstlicher Intelligenz vermittelt werden? Die Untersuchung legt dar, dass neue Möglichkeiten durch KI in einschlägigen Fachund Leitungsfunktionen als vielversprechend und positiv wahrgenommen werden, in der Breite aber wenig Verständnis oder Know-how vorausgesetzt werden kann. Die Logik und Funktionsweise von KI ist für viele Beschäftigte, gerade in nicht-technischen Unternehmensbereichen, nicht intuitiv verständlich. Damit KI in Unternehmen operativ genutzt und verstanden werden kann, benötigt es demnach sehr niedrigschwellige Angebote, die einen direkten Bezug und mögliche positive Effekte zur eigenen Tätigkeit erlauben, wie etwa die Einsparung von repetitiven Aufgaben. Fachliche Schwerpunkte beziehen sich auf die Vermittlung von KI-Charakteristiken, -Leistungsmerkmalen und Anwendungsmöglichkeiten. Abschließend lässt sich festhalten: Konsequente und umfassende Teilhabeund Gestaltungsmechanismen können aus vermeintlich technokratischen KI-Systemen kooperative Modelle machen, in denen KI dem Menschen assistiert, aber auch selbst vom menschlichen Erfahrungswissen profitiert (Ottersböck et al. 2023). KIPartizipationsformen sind Teil einer menschengerechten sozio-technischen Arbeitsgestaltung (Pokorni et al. 2021), die abseits der betrieblichen Perspektive auch der Ausgestaltung weiterer regulatorischer Schritte dienlich sein können und einen Beitrag zur Lösung ethischer Herausforderungen, wie der befürchteten Beeinträchtigung menschlicher Kompetenzen und Fertigkeiten durch Technologie, leisten (Deutscher Ethikrat 2023). Das beschriebene Vorgehensmodell ergänzt bestehende Ansätze (Bentler et al. 2023; Ottersböck et al. 2023) und legt auch einen Fokus auf überbetriebliche und weniger produktionsnahe Bereiche, die in der aktuellen Forschung wenig Beachtung finden. Ungeachtet dessen steht die Anwendung und Evaluation der Herangehensweise noch aus, was das vorliegende Ergebnis limitiert. Eine Einbindung und Beteiligung in Veränderungsprozesse sind für Organisationen und Unternehmen insbesondere initial ein Mehraufwand, der strukturelle Veränderungen erforderlich machen kann. K 500 P. Ruess et al. Mit der erwartet breiten Diffusion von KI in der Arbeitswelt über alle Unternehmensbereiche und Branchen hinweg, werden Qualifizierungsund Beteiligungsmaßnahmen in den nächsten Jahren noch stark an Bedeutung gewinnen und können dabei auch von weiterer Forschung profitieren. Derzeit zeigen sich Forschungsbedarfe in den folgenden Bereichen: 1. Vorgehensmodelle für die Einführung von betrieblichen KI-Anwendungen: Bislang fehlen konkrete Herangehensweisen, die die KI-Einführung in Unternehmen unterstützen können. Ebenso werden Ansätze benötigt mit denen flexible didaktische, fachliche und branchenspezifische Anpassung an unternehmensspezifische Bedarfe möglich sind. 2. Methoden und Formate zur KI-Wissensvermittlung und Qualifizierung in Unternehmen: Der aktuelle wissenschaftliche Diskurs formuliert Bedarfe zu Formaten und Inhalten bei der Einbindung von relevanten Anspruchsgruppen, ohne auf deren genaue Ausgestaltung einzugehen. Es besteht derzeit keine ausreichende empirische Grundlage für die Ableitung und Auswahl von anforderungsgerechten Lernzielen und Vermittlungsformaten sowie entsprechenden Methoden. 3. Partizipative Entwicklung und Gestaltung von KI-gestützten Anwendungen in Unternehmen: Die partizipative Perspektive bei der Entwicklung und Gestaltung KI-gestützter Anwendungen in Unternehmen ist gegenüber anderen Faktoren, die sich etwa auf die funktionale Integrierbarkeit und operative Leistungsfähigkeit beziehen, unterrepräsentiert. Angesichts dieser Bedarfe stellt das vorgestellte Vorgehensmodell einen Ausgangspunkt für eine weiterführende wissenschaftliche und methodische Auseinandersetzung mit der systematischen und mitarbeiterorientierten Gestaltung von betrieblichen KI-Anwendungen dar. Insbesondere für eine methodische Weiterentwicklung können neben den eingeführten Workshop-Formaten aus dem PD auch weitere Ansätze wie Design Thinking und User Research zum Einsatz kommen, wie dies auch von Peissner, Pollmann und Fronemann (2021) beschrieben wird. Auf diese Weise entstehen sukzessiv Weiterentwicklungsund Anpassungsmöglichkeiten, mit denen auf unterschiedliche Unternehmensspezifika eingegangen werden kann (z.B. abhängig von Branche, Produkten, Prozessen). Auch etablierte Modelle aus dem Forschungsfeld der Technologieakzeptanz können für Entwicklungsund Implementierungsprozesse genutzt werden (Schaffner 2020). Zusatzmaterial online Zusätzliche Informationen sind in der Online-Version dieses Artikels (https://doi. org/10.1365/s40702-024-01049-4) enthalten. Funding Open Access funding enabled and organized by Projekt DEAL. Open Access Dieser Artikel wird unter der Creative Commons Namensnennung 4.0 International Lizenz veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betrefK Künstliche Intelligenz in betrieblichen Prozessen: Ein Vorgehensmodell zur partizipativen... 501 fende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen. Weitere Details zur Lizenz entnehmen Sie bitte der Lizenzinformation auf http://creativecommons.org/ licenses/by/4.0/deed.de. Literatur Adolph L, Tausch A (2022) Künstliche Intelligenz in der Arbeitswelt. In: Bamberg E, Ducki A, Janneck M (Hrsg) Digitale Arbeit gestalten. Herausforderungen der Digitalisierung für die Gestaltung gesunder Arbeit. Springer, Wiesbaden, Heidelberg, S 33–47 Auer T, Rösl S, Schieder C (2023) Exploring Potential Barriers for the Adoption of Cognitive Technologies in Industrial Manufacturing SMEs – Preliminary Results of a Qualitative Study. In: Elstermann M, Dittmar A, Lederer M (Hrsg) Subject-Oriented Business Process Management. Models for Designing Digital Transformations, Bd. 1867. Springer, Cham, S 45–54 (Communications in Computer and Information Science) Baumer EPS (2017) Toward human-centered algorithm design. Big Data Soc 4(2):205395171771885. https://doi.org/10.1177/2053951717718854 Beimborn M, Kadi S, Köberer N, Mühleck M, Spindler M (2016) Focusing on the human: interdisciplinary reflections on ageing and technology. In: Domínguez-Rué E, Nierling L (Hrsg) Ageing and technology. Perspectives from the social sciences. transcript, Bielefeld, S 311–334 (OAPEN Library) Bentler D, Gabriel S, Latos BA, Dietrich O, Dumitrescu R, Maier GW (2023) Partizipatives Gestaltungsvorgehen bei der Einführung Künstlicher Intelligenz in produzierenden Unternehmen. In: Nachhaltig Arbeiten und Lernen – Analyse und Gestaltung lernförderlicher und nachhaltiger Arbeitssysteme und Arbeitsund Lernprozesse (https://pub.uni-bielefeld.de/record/2969424) Berg A (2022) Künstliche intelligenz-wo steht die deutsche wirtschaft? Bitkom eV, Berlin Bundesministerium für Arbeit und Soziales (2023) BMAS – „Künstliche Intelligenz wird den Arbeitsmarkt rasant verändern. https://www.bmas.de/DE/Service/Presse/Interviews/2023/2023-04-29tagesspiegel.html. Zugegriffen: 2. Sept. 2023 Deutscher Ethikrat (2023) Mensch und Maschine-Herausforderungen durch Künstliche Intelligenz. Berlin (Stellungnahme) Dolata U (2011) Wandel durch Technik. Eine Theorie soziotecnischer Transfomation. In: Schriften aus dem Max Planck Institut für Gesellschaftsforschung Europäisches Parlament (2020) Was ist künstliche Intelligenz und wie wird sie genutzt? Hg. v. Europäisches Parlament. https://www.europarl.europa.eu/news/de/headlines/society/20200827STO85804/ was-ist-kunstliche-intelligenz-und-wie-wird-sie-genutzt. Zugegriffen: 18. Aug. 2023 Giering O (2022) Künstliche Intelligenz und Arbeit: Betrachtungen zwischen Prognose und betrieblicher Realität. Z Arb Wiss 76(1):50–64. https://doi.org/10.1007/s41449-021-00289-0 Harlacher M, Feggeler N, Peifer Y, Ottersböck N (2023) Produzierendes Gewerbe auf internationalem Niveau. Z Wirtsch Fabrikbetr 118(3):173–177. https://doi.org/10.1515/zwf-2023-1012 Hofmann A, Hartmann EA, Shajek A (2023) Digitale Souveränität in soziotechnischen Systemen – KINutzung und Krisenbewältigung. Gr Interakt Org 54(1):95–105. https://doi.org/10.1007/s11612-02300674-9 Jung M, Werens S, von Garrel J (2022) Vertrauen und Akzeptanz bei KI-basierten, industriellen Arbeitssystemen. Z Wirtsch Fabrikbetr 117(11):781–783. https://doi.org/10.1515/zwf-2022-1134 Kett H, Evcenko D, Falkner J, Frings S, Neuhüttler J (2021) Künstliche Intelligenz als Veränderungstreiber für Geschäftsmodelle. In: Künstliche Intelligenz im Dienstleistungsmanagement. Springer Gabler, Wiesbaden, S 51–75 https://doi.org/10.1007/978-3-658-34324-8_2 Kranzberg M (1986) Technology and History: “Kranzberg’s Laws”. Technol Cult 27(3):544. https://doi. org/10.2307/3105385 Myers MD, Newman M (2007) The qualitative interview in IS research: Examining the craft. Information and organization 17(1):2–26 Ottersböck N, Prange C, Dander H, Rusch T (2023) Babyboomer weg, Wissen weg-Partizipative Entwicklung eines KI-basierten Assistenzsystems zur Erfassung und Sicherung erfahrungsbasierten Wissens in der Produktion. GfA-Frühjahrskongress Peissner M, Pollmann K, Fronemann N (2021) Collecting and analyzing user insights. Handbook of human factors and ergonomics K 502 P. Ruess et al. Pokorni B, Braun M, Knecht C (2021) Menschzentrierte KI-Anwendungen in der Produktion. Fraunhofer IAO, Stuttgart Schaffner M (2020) KI-Widerstände auf der Mitarbeiterebene in produktive Dynamik überführen: Wie die Akzeptanz von Veränderungsprozessen auf der Mitarbeiterebene systematisch erarbeitet werden kann. Künstliche Intelligenz Wirtschaft Gesellschaft: Auswirkungen Herausforderungen Handlungsempfehlungen: 193–210 Verba S (1967) Democratic participation. Ann Am Acad Pol Soc Sci. https://doi.org/10.1177/0002716267 37300103 Versteegen G (2002) Vorgehensmodelle. In: Versteegen G (Hrsg) Software Management. Beherrschung des Lifecycles. Springer, Berlin, Heidelberg, S 29–61 Wirtz BW, Weyerer JC (2019) Künstliche Intelligenz: Erscheinungsformen, Nutzungspotenziale und Anwendungsbereiche. Wirtschaftswiss Stud 48(10):4–10 Zwarg J, Jede A, Bensberg F (2023) Konzeption erforderlicher Rahmenbedingungen für den Einsatz von Künstlicher Intelligenz im Unternehmen. In: AKWI (17), S. 12. https://akwi.hswlu.ch/article/view/3 438 Hinweis des Verlags Der Verlag bleibt in Hinblick auf geografische Zuordnungen und Gebietsbezeichnungen in veröffentlichten Karten und Institutsadressen neutral. K