Ethische, rechtliche und soziale Aspekte (ELSA) der Gestaltung von KI-Systemen: Systematisierung der Betrachtung durch Vorgehensmodelle und Leitfäden

Alpers, Sascha; Krings, Bettina-Johanna; Becker, Christoph; Rill, Maria; Weinreuter, Maria Article — Published Version Ethische, rechtliche und soziale Aspekte (ELSA) der Gestaltung von KI-Systemen: Systematisierung der Betrachtung durch Vorgehensmodelle und Leitfäden Zeitschrift für Arbeitswissenschaft Provided in Cooperation with: Springer Nature Suggested Citation: Alpers, Sascha; Krings, Bettina-Johanna; Becker, Christoph; Rill, Maria; Weinreuter, Maria (2024) : Ethische, rechtliche und soziale Aspekte (ELSA) der Gestaltung von KI- Systemen: Systematisierung der Betrachtung durch Vorgehensmodelle und Leitfäden, Zeitschrift für Arbeitswissenschaft, ISSN 2366-4681, Springer, Berlin, Heidelberg, Vol. 78, Iss. 2, pp. 160-169, https://doi.org/10.1007/s41449-024-00422-9 This Version is available at: https://hdl.handle.net/10419/316680 Standard-Nutzungsbedingungen: Die Dokumente auf EconStor dürfen zu eigenen wissenschaftlichen Zwecken und zum Privatgebrauch gespeichert und kopiert werden. Sie dürfen die Dokumente nicht für öffentliche oder kommerzielle Zwecke vervielfältigen, öffentlich ausstellen, öffentlich zugänglich machen, vertreiben oder anderweitig nutzen. Sofern die Verfasser die Dokumente unter Open-Content-Lizenzen (insbesondere CC-Lizenzen) zur Verfügung gestellt haben sollten, gelten abweichend von diesen Nutzungsbedingungen die in der dort genannten Lizenz gewährten Nutzungsrechte. Terms of use: Documents in EconStor may be saved and copied for your personal and scholarly purposes. You are not to copy documents for public or commercial purposes, to exhibit the documents publicly, to make them publicly available on the internet, or to distribute or otherwise use the documents in public. If the documents have been made available under an Open Content Licence (especially Creative Commons Licences), you may exercise further usage rights as specified in the indicated licence. http://creativecommons.org/licenses/by/4.0/deed.de WISSENSCHAFTLICHE BEITRÄGE https://doi.org/10.1007/s41449-024-00422-9 Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 Ethische, rechtliche und soziale Aspekte (ELSA) der Gestaltung von KI-Systemen: Systematisierung der Betrachtung durch Vorgehensmodelle und Leitfäden Sascha Alpers1,3 · Bettina-Johanna Krings2·ChristophBecker 3·MariaRill 3·MariaWeinreuter 3 Angenommen: 29. April 2024 / Online publiziert: 28. Mai 2024 © The Author(s) 2024 Zusammenfassung Wesentliche Erfolgsfaktoren für die rechtlich angemessene und menschengerechte Nutzung von Künstlicher Intelligenz (KI) basieren auf der breiten Reflexion rechtlicher, ethischer und sozialer Aspekte (ELSA) im Rahmen organisatorischen Prozesse in Unternehmen und Institutionen. Künftig bedarf es aufgrund der Vielzahl zu erwartender KI-Vorhaben einer systematischen Betrachtung. Eine Möglichkeit dies zu Verankern sind Vorgehensmodelle inkl. Eines entsprechenden Referenzprozessmodells. Eine Ergänzung stellen Leitfäden dar. Ausgewählte Aspekte werden hierbei seit einigen Jahren in interdisziplinären und transdisziplinären Forschungsprojekten intensiv diskutiert und angewandt. Der folgende Beitrag ist im Rahmen des KARL-Projekt entstanden und erörtert relevante Bezugspunkte im Rahmen der Implementierung von KI in zukünftige Arbeitsumgebungen. Vor diesem Hintergrund wird die Frage bearbeitet, welche Herausforderungen Informatiker/-innen im Gestaltungsprozess selbst adressieren können und zu welchen Fragen weitere Akteur/-innen (Rechtswissenschaftler/-innen, Ethik-Expert/-innen sowie Expert/-innen der sozialen Technikgestaltung) einbezogen werden sollten. Insgesamt plädieren die Autor/-innen für einen prozessorientierten Ansatz, in dem unterschiedliche Aspekte der Technikgestaltung systematisch berücksichtigt werden. Praktische Relevanz Die Arbeitswissenschaft wird zunehmend mit Fragestellungen der Integration von KI in verschiedene Arbeitsprozesse konfrontiert. Die Betrachtung von ELSA ist eine Teilaufgabe in der Gestaltung und Reflektion dieser Entwicklung. Schlüsselwörter ELSA · Künstliche Intelligenz · KI · Vorgehensmodell Prof. Dr. Sascha Alpers [email protected] Dr. Bettina-Johanna Krings [email protected] Christoph Becker christ[email protected] Maria Rill [email protected] Maria Weinreuter [email protected] 1Hochschule Heilbronn, Max-Planck-Straße 39, 74081 Heilbronn, Deutschland 2Institut für Technikfolgenabschätzung und Systemanalyse am Karlsruher Institut für Technologie, Karlstr. 11, 76131 Karlsruhe, Deutschland 3FZI Forschungszentrum Informatik, Haid- und Neu-Straße 10–14, 76131 Karlsruhe, Deutschland K Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 161 Ethical, legal and social implications (ELSI) of the design of AI systems: Systematization of the consideration through procedure models and guidelines Abstract Key success factors for the legally appropriate and human-centered use of artificial intelligence (AI) are based on the broad consideration of legal, ethical, and social aspects (ELSA)/implications (ELSI) as part of organizational processes in companies and institutions. Due to the expected large number of AI projects, a systematic approach will be required in the future. One way to establish this is through process models, including a corresponding reference process model as well as supplementary guidelines. Selected aspects have been intensively discussed and applied in interdisciplinary and transdisciplinary research projects for several years. The following article was written as part of the KARL project and discusses relevant aspects regarding the implementation of AI in future working environments. Against this background, the question is addressed as to which ELSA challenges computer scientists can address in the design process themselves and when should other actors (legal scholars, ethics experts, and experts in social technology design) be involved. Overall, the authors advocate a process-oriented approach in which different aspects of technology design are systematically taken into account. Practical Relevance Ergonomics is increasingly being confronted with issues relating to the integration of AI into various work processes. The consideration of ELSA is a subtask in the design and reflection of this development. Keywords Artificial Intelligence (AI) · ELSA · Participation · Procedure model 1 Einleitung Neue wissenschaftliche Erkenntnisse und Anwendungsgebiete der Künstlichen Intelligenz (KI)1sind seit einigen Jahren in rasantem Tempo dabei, Arbeitsprozesse sowie Arbeitsumgebungen zu verändern und neu zu gestalten. Als „most promising technology of our era“ (Brynjolfsson et al. 2017, S. 7) betreffen diese Dynamiken nicht nur die Veränderung ganzer Sektoren wie den industriellen Sektor, industrienahe Dienstleistungen und/oder wissensbasierte Dienstleistungen. Die Veränderungen weisen auch auf völlig neue Formen der Organisation von Arbeit. Beispielsweise hat die inzwischen weit verbreitete Plattformarbeit zu völlig neuen Organisationsformen von Arbeit in der Logistik, im Service und in der Produktion geführt (Nierling et al. 2020). In der Industrie wird die KI in der langen Tradition der Digitalisierung angewendet, um weitere vielsprechende Potenziale autonomer Systeme in der Produktion auszuloten (Hirsch- Kreinsen und Karacic 2019). Hier entwickeln so genannte „lernfähige Systeme“ zunehmend die Fähigkeit, „komplexe Verarbeitungsketten von Daten, automatische Objektidentifikationen und Sensorfunktionen auf verschiedensten Ebenen bis hin zur Schaffung einer für die jeweilige Zielsetzung des Systems hinreichend genauen digitalen Repräsentation der Wirklichkeit realisieren und beherrschen zu können“ (Hirsch-Kreinsen und Karacic 2019,S.9).Hier- bei geht es nicht mehr alleine darum, die Beschäftigten an neue technische Entwicklungen heranzuführen und in 1Vergleiche für die Definition den „Glossar Künstliche Intelligenz für die interdisziplinär vernetzte Arbeitsforschung“ der Regionalen Kompetenzzentren der Arbeitsforschung (Richter et al. 2024). Modellen des „Learning-by-doing“ einzuweisen. Es geht in hohem Maße darum, neuartige Entwicklungs- und Lernprozesse im Hinblick auf die veränderten Mensch-Maschine- Interaktionen zu erkennen, zu fördern und für neue Arbeits- und Produktionsorganisationen nutzbar zu machen (Görz et al. 2021). Diese Entwicklungen weisen auf die steigende Komplexität moderner Arbeitsumgebungen hin, die den gesamten Arbeitskontext (Märkte, Organisationen, Arbeitsplatzgestaltungen) miteinbeziehen und ebenfalls stark verändern (Schröter 2019; Krings et al. 2021). Gleichzeitig nutzen Unternehmen die permanente Datenerfassung nicht nur als Grundlage für strategische teil- oder vollautomatisierte betriebliche Entscheidungsprozesse, sondern zunehmend mehr zur Leistungsbewertung, bzw. zur „Sanktionierung von Fehlverhalten“ (Christl 2021, S. 6) ihrer Beschäftigten. Automatisierung von Steuerungsprozessen sowie die Leistungskontrolle scheinen dann auch die beiden großen Trends zu sein, die im Rahmen der KI (kritisch) diskutiert werden (Reimann und Tisch 2021). Das Verbundprojekt KARL knüpft proaktiv an diese Herausforderungen an, indem es Regeln, Konzepte und Handlungsstrategie zu KI im Praxiseinsatz erprobt (vgl. https://kompetenzzentrum-karl.de). Ein wichtiger Orientierungsrahmen, um diese Interaktionen zu gewährleisten, stellt das so genannte ELSI-Konzept („Ethical, Legal and Social Implications“, auch ELSA „Ethical, Legal and Social Aspects“) dar, das im Rahmen des Projektes angewendet wird. Hierbei zeigt sich jedoch, dass die menschengerechte Gestaltung von KI-Systemen eine komplexe Aufgabe darstellt, für die aktuell nur wenig Systematisierung existiert. Die weitgehend abstrakte Anforderung ethische, rechtliche und soziale Aspekte in KI-Projekten zu adressieren, K 162 Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 wird in KARL umfassend erprobt und eine der Kernthesen lautet, dass es eine systematische Verankerung von ELSA in Vorgehensmodellen von (Informatik-) Projekten bedarf (Alpers 2022). Der Beitrag setzt die Diskussion aus Alpers und Krings (2023) fort. Im Whitepaper (Alpers et al. 2023)werden die dargestellten Aspekte noch ausführlicher erörtert, teile dieses Artikels sind eine gekürzte Fassung des Whitepaper. 2 ELSA als normativer Orientierungsrahmen für KI-Anwendungen der Komplexität dieser Systeme wird ein normativer Orientierungsrahmen über gemeinschaftlich anerkannte Werte im Hinblick auf die Umsetzung von KI in Arbeits- und Lebenskontexten, unerlässlich (Spiekermann 2019). Dieser Rahmen ist weit gesteckt und reicht von ethischen über rechtlichen hin zu sozialen Aspekten der sozialen Wirklichkeit. Diese werden zwar in diskursiven Debatten analytisch getrennt, sind aber in sozialen Zusammenhängen zutiefst verwoben und bedingen sich gegenseitig in hohem Maße. Vor diesem Hintergrund verwundert die Vielzahl der inzwischen veröffentlichten (Ethik-) Guidelines auf nationaler und internationaler Ebene im Hinblick auf KI wenig. Obgleich alle die Intention verfolgen, einen umfassenden Orientierungsrahmen für KI-Entwicklung und -Anwendungen zur Verfügung zu stellen, unterscheiden sich die Guidelines doch erheblich sowohl in ihren thematischen Schwerpunkten, als auch auf der analytischen Ebene der Betrachtung. Exemplarisch sei hier der Bericht „Nachhaltigkeitskriterien für Künstliche Intelligenz“ vom Institut für ökologische Wirtschaftsforschung (IÖW) genannt, das den thematischen Schwerpunkt auf die Frage richtet, inwiefern KI für die Umsetzung einer nachhaltigen Entwicklung genutzt werden könne (Rohde et al. 2021). Die Autor/-innen erarbeiten einen Katalog mit dreizehn Kriterien sowie mit diesen verbundenen Indikatoren für eine nachhaltige KI, die sie intensiv diskutieren. Der Bericht richtet sich an Entwickler/-in- nen der KI und zeichnet sich durch den Anspruch aus, einen ganzheitlichen Begriff von Nachhaltigkeit zu entwickeln, d.h. KI soll sowohl nachhaltig wirken – Stichwort „nachhaltige KI“ – als auch Nachhaltigkeit ermöglichen (Rohde et al. 2021, S. 19). Entlang der drei Nachhaltigkeitsdimensionen sozial, ökologisch und ökonomisch werden schrittweise sechs soziale, vier ökologische sowie drei ökonomische Kriterien für eine Nachhaltige KI entwickelt. Die sozialen Kriterien umfassen unter anderem „Transparenz und Verantwortung“, „Nicht-Diskriminierung und Fairness“ sowie „Selbstbestimmung und Datenschutz“. Das Kriterium „Transparenz und Verantwortungsübernahme“ wird noch ergänzt durch zwei Indikatoren, welche den Inhalt des Kriteriums weiter konkretisieren. Der Faktor Transparenz wird durch den ersten Indikator noch ergänzt um „Erklärbarkeit und Prüfbarkeit des Modells“ und der zweite lautet „Informationsmöglichkeit zur Funktionsweise des Systems“ (Rohde et al. 2021, S. 58). Aus diesen Indikatoren werden schließlich weitere Subindikatoren abgeleitet und formuliert. Diese Subindikatoren werden danach unterschieden, ob sie sich an die entwickelnde oder die einsetzende Organisation richten. Die Autor/-innen adressieren in dieser Ethik-Guideline also gezielt bestimmte Akteur/-innen, die KI weiterentwickeln und anwenden und zeigen deren Verantwortlichkeit in der Gestaltung auf (Rohde et al. 2021; Hengstschläger 2020). Angesichts der sich rapide vertiefenden Krisen wie der Klimakrise und einer fortschreitenden sozialen Polarisierung weltweit, weisen diese Ansätze auf ganzheitliche Problemlagen (Nida-Rümeling und Weidenfeld 2018). So sollte der zukünftige technologische Wandel nicht zuletzt hinsichtlich seiner sozialen, politischen und ökologischen Implikationen im Hinblick auf diese problemlagen befragt werden. Die konkrete Bewertung von KI erfordert vor den globalen Herausforderungen neue Ansätze, welche die Koexistenz von technologischen und sozialen Innovationen erkennen und fördern (Hengstschläger 2020). Nur so können die vielseitigen Bedürfnisse in den Lebens- und Arbeitsrealitäten der Menschen, aber auch politische Handlungsräume auf einer gesellschaftlichen Ebene wahrgenommen, bearbeitet und umgesetzt werden. Aber auch die Einführung von KI in spezifischen Arbeitskontexten wirft eine Reihe von ethischen, rechtlichen und sozialen Fragestellungen auf. Im Rahmen der KI als Automationstechnologie wären hier zunächst mögliche Beschäftigungseffekte ihres Einsatzes abzuschätzen: Bedroht dieser Einsatz bestehende – oder im Sinne intergenerationaler Gerechtigkeit auch zukünftige – Arbeitsplätze? Vor welchen Zielen wird die KI in die Arbeitsumgebungen angepasst. Welche Probleme können hierbei entstehen (vgl. etwa Eubanks 2018) Wie wird „gute“ Arbeit im Sinne einer sinnstiftenden Arbeit auf der Basis neuer Technologien gefördert? Welches sind zukünftige Herausforderungen „guter Arbeit“ und wie können KI-Anwendungen hier sinnvolle Beiträge leisten? Die empirische Relevanz der KI in Arbeitskontexten zeigt schon jetzt, wie sehr es durch den Einsatz von KI zu Veränderungen von Arbeitsorganisation und -inhalten kommt, die sich in vielen Branchen und Sektoren nachteilig für die Beschäftigen auswirkt (Schaupp 2021). Viele Beispiele der algorithmischer Steuerungsfunktionen weisen vehement darauf, wie die Autonomie der Beschäftigten in ihren Handlungs- und Entscheidungsräumen beschränkt werden. Die Unterwerfung von Beschäftigten unter Formen algorithmischen Managements, das sie zu bloßen Befehlsempfängern degradiert, die freie Entfaltung ihrer Befähigungen einschränkt und ständige Leistungskontrolle K Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 163 Abb. 1 Anordnung der analytischen Ebenen in einem idealisierten Phasenmodell (Alpers et al. 2023) Fig. 1 Arrangement of the analytical levels in an idealised phase model (Alpers et al. 2023) KI    !" #$%& '   ( gesellschaftlicher Rahmen $)$& ( # *(+ *&  ( $ $+ zumindest technisch ermöglicht, ist hierbei insbesondere zu problematisieren und ethisch zu reflektieren (Schaupp 2021; Christl 2021). Die Gestaltung der Arbeitswelt unter Bedingungen von Technikimplementierungen findet in den Unternehmen regelgeleitet auf der Basis des Betriebsverfassungsgesetzes sowie dem Arbeits- und Gesundheitsschutz statt. Allerdings machen die Expert/-innen vielerorts darauf aufmerksam, dass die Interaktion von Mensch und Maschine in Zeiten der Digitalisierung und KI neue relevante ethische, rechtliche und soziale Fragen aufwirft. Vor diesem Hintergrund sollten Entwickler von ADM-Prozessen (Algorithmic Deciscion Making) rechtliche und ethische Prämissen schon bei der Programmierung und beim ADM-Design berücksichtigen. Diese Anforderung wird seit Jahren im Rahmen des Konzeptes Ethics-by-Design erfolgreich diskutiert und erprobt (Rudschies et al. 2021). Darüber hinaus richtet sich der Blick auch auf den Vorgang der Implementierung von KI in Arbeitsprozessen. Nach Schröter findet hier ebenfalls ein qualitativer Wandel statt, der in hohem Maße „partizipations- und mitbestimmungsorientierte wissenschaftliche Ausarbeitungen als Unterstützung von Betriebs- und Personalräten realisiert“ (Schröter 2019, S. 143). Diese Anforderung könne jedoch nur in prozessorientierten Ansätzen erfolgreich umgesetzt werden. Mögliche Gestaltungswege, die aktuell in Forschungsprojekte durchgeführt werden, orientieren sich einerseits an ELSA-Kriterien, anderseits treten sie in einen Prozess ein, der als „,agiles kooperatives Changemanagement‘ mit seiner nach vorne offenen Gestaltungshaltung“ (Schröter 2019, S. 148) bezeichnet werden kann. Nur über beides, ein verbindlich kommunizierter Wertekanon sowie ein ergebnisoffenes, prozessorientiertes Vorgehen, kann eine „vorausschauende Technikgestaltung“ (Schröter 2019, S. 150) gelingen. Dabei ist zu beachten, dass die Komplexität der Fragestellungen eine Betrachtung verschiedener analytischer Ebenen bedarf (vergleiche Abb. 1). 3 Die Rolle der (Wirtschafts-) Informatiker/-innen im Gestaltungsprozess der KI Die individuelle Verantwortung von (Wirtschafts-)Informatiker/-innen und weiteren Akteur/-innen bei der Gestaltung von Informationssystemen wird in der Regel innerhalb von Organisationen wahrgenommen. So führt in vielen Fällen das Zusammenwirken vieler Akteur/-innen dazu, dass einzelne Akteur/-innen ihre Verantwortung für die Gestaltung des Gesamtprozesses als gering einschätzen, da sie ihren Einfluss auf das Ergebnis als gering wahrnehmen oder weil sie den Beitrag anderer Akteur/-innen (ggf. in anderen Rollen) als deutlich signifikanter wahrnehmen. Bierhoff und Rohmann (2017) sprechen hier von einer „Verantwortungsdiffusion“. Debatin (2016) spricht von einer „systematischen Verdünnung der Verantwortung“ und schlägt ein Konzept von Hans Lenk vor. Mit dem „Modell der distributiven Mitverantwortung“ (vgl. Lenk 2015, S. 147) werden vor diesem Hintergrund spezifische Verantwortungen den Beteiligten zugewiesen und sichtbar gemacht. Nach Alpers (2022), ist es nicht ausreichend, spezielle Vorgehensmodelle zur Betrachtung von ethischen, rechtlichen und sozialen Aspekten (ELSA) zu diskutieren, sondern es sei zielführender, spezifische Vorgehensmodelle der Informatik anzu- K 164 Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 passen, damit Individuen strukturell zur Übernahme von Verantwortung befähigt und zur Einbeziehung von ELSA ermutigt werden. Zudenin(Alpers2022) vorgeschlagenen Konsequenzen gehören neue oder angepasste Aktivitäten sowie ein klareres Rollenverständnis. Allerdings ist es nicht immer wirtschaftlich sinnvoll oder möglich, alle Rollen mit spezifischen Expert/-innen zu besetzen. Gegenwärtig fehlt es an Hilfestellungen für Organisations- und Projektverantwortliche, um zu entscheiden, für welche Projekte und Rollen die Besetzung mit spezifischen Expert/-innen notwendig, bzw. sinnvoll ist und in welchen Projekten vorhandene Akteur/-innen ELSA hinreichend integrieren können. In einem ELSA-in- tegrierenden Vorgehensmodell kann daher eine frühe Pro- Ausgangslage, Herausforderung bzw. Problem Vision, Ziel bzw. Lösung Fragmente bzgl. des Vorgehens Fragmente bzgl. des Vorgehens Fragmente bzgl. eines Artefaktes (Ergebnisses) Fragmente bzgl. eines Artefaktes (Ergebnisses) Prinzip / Wert Prinzip / Wert Aktivität (evtl. mit empfohlenen Methoden zur Durchführung) Rolle (evtl. mit Angabe notwendiger Kompetenzen) Artefakt (Ergebnis) Artefakt (Ergebnis) (auch zwischen Artefakten kann es logische Beziehungen geben) (auch zwischen Artefakten kann es logische Beziehungen geben) Sprache bspw. Modellierungssprache / Notaton Technik Werkzeug ethische, rechtliche und soziale Aspekte (Fragen, Randbedingungen, …) - gesellschaftlicher Rahmen ethische, rechtliche und soziale Aspekte (Fragen, Randbedingungen, …) - gesellschaftlicher Rahmen adaptiertes Vorgehensmodell für die konkrete Herausforderung/Problemlösung adaptiertes Vorgehensmodell für die konkrete Herausforderung/Problemlösung Zustand (z.B. Meilensteine) Referenzprozessmodell — logische Ordnung der Aktvitäten und Zustände sowie Rollenzuordnungen (häufig gegliedert in Phasen) Hinweis: Ein Vorgehensmodell Hinweis: Ein Vorgehensmodell unterstützt bei der Durchführung unterstützt bei der Durchführung eines Vorhabens. eines Vorhabens. Die intellektuelle Leistung der Die intellektuelle Leistung der Akteure bleibt weiterhin ein Akteure bleibt weiterhin ein wesentlicher weiterer Erfolgswesentlicher weiterer Erfolgs- und Gestaltungsfaktor. und Gestaltungsfaktor. Vorgehensmodell Vorgehensmodell Abb. 2 ELSA und Vorgehensmodelle, ELSA als Rahmenbedingungen die sich auf konkrete Elemente neuer bzw. angepasster Vorgehensmodelle auswirken müssen (vgl. Alpers 2022) Fig. 2 ELSA and process models, ELSA as a framework that must have an impact on specific elements of new or adapted process models (cf. Alpers 2022) zessaktivität hilfreich sein, die ELSA-Komplexität des Vorhabens und die ELSA-Kompetenz der Beteiligten daraufhin zu überprüfen, ob Rollen mit ggf. externen Expert/-innen besetzt werden sollen oder ob vorhandene Akteur/-innen externe Beratung benötigen. Um diese erste Entscheidung sinnvoll ohne Einbeziehung externer Expert/-innen treffen zu können, muss daher eine entsprechende ELSA-Grund- kompetenz und Sensibilität und ein Problembewusstsein vorhanden sein. In Abb. 2sind ELSA als Teil des gesellschaftlichen Rahmens für Vorgehensmodelle dargestellt. Dies bedeutet nicht, dass es nicht auch weitere Rahmenbedingungen gibt. Diese stehen in einem Verhältnis zueinander, bei Konflikten müssen die Verantwortlichen innerhalb rechtlicher Schranken K Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 165 abwägen. Aus Sicht der Autor/-innen müssen sich beispielsweise betriebliche Rahmenbedingungen den gesellschaftlichen unterordnen. Auch Epping definiert das Vorgehensmodell daher ausgehend vom Begriff „Wert“: „Ein Vorgehensmodell ist eine Zusammenstellung von Elementen, die auf einem oder mehreren Werten basieren und von denen jedes durch eine oder mehrere Techniken umgesetzt wird“ (Epping 2011). In der Abbildung wirken diese Werte auf das gesamte Vorgehensmodell als „Wert/Prinzip“ ein. 3.1 Exkurs Vorgehensmodell Ein Modell ist eine vereinfachte Abbildung eines Modelloriginals. Im Kontext von Vorgehensmodellen ist das Modelloriginal immer ein Vorgehen. Ein Vorgehensmodell definiert als Referenzmodell für Vorgehen, wie der Weg von einem Ausgangspunkt zu einem bestimmten Ziel ausgeführt werden soll (vgl. Abb. 2). Dabei unterstützt es die beteiligten Akteure bei der Durchführung des Vorhabens, ersetzt aber nicht die intellektuelle Leistung der Akteure als einen wesentlichen Erfolgs- und Gestaltungsfaktor. Durch das Vorgehensmodell wird das Vorgehen idealisiert dargestellt, indem es beschreibt, wie dieser Weg effektiv und effizient auszuführen ist (Fischer et al. 1998; Schütte et al. 2019). Ein Vorgehensmodell bietet einen Überblick über die wesentlichen Aspekte in einem Vorgehen, wodurch es Klarheit schafft, und Komplexität reduziert. Es abstrahiert so weit von einem konkreten Vorgehen, dass die Beschreibung auf eine Vielzahl von Vorhaben angewandt werden kann (Fischer et al. 1998). Teil eines Vorgehensmodells ist auch ein Referenzprozessmodell, welches die Aktivitäten mit ihren logischen Abhängigkeiten darstellt und in der Regel auch die beteiligten Ressourcen zuweist und Zustände (beispielsweise Meilensteine) in die logische Ordnung integriert. Im Rahmen der einzelnen Aktivitäten werden Artefakte erarbeitet und (von späteren Aktivitäten) (wieder-) eingesetzt (Fischer et al. 1998). Entsprechend gibt es auch zwischen Artefakten logische Beziehungen. Bei der Anwendung eines Vorgehensmodells in einem konkreten Vorhaben bietet das Vorgehensmodell so eine Hilfestellung in Bezug darauf, welche Aspekte zu beachten sind, lässt aber für die konkrete Ausgestaltung (Adaption) großen Freiraum (Kuhrmann und Linssen 2014). Diese konkrete Ausgestaltung ist nicht nur möglich, sondern auch notwendig; und die richtige Nutzung der Freiheitsgrade ist für den Erfolg in einem konkreten Kontext mitentscheidend. Im Kontext von Softwareentwicklungsprojekten gibt es etwa Sprachfestlegungen für Modelle (z.B. zur Beschreibung von Datenstrukturen) und für Quellcode. Als Technik würden sich etwa Modellierungstechniken, aber auch objektorientiertes, prozedurales oder deklaratives Programmieren nennen lassen. Beispiele für Werkzeuge wären Modellierungsumgebungen, wie Horus Business Modeler, oder Entwicklungsumgebungen, wie Eclipse oder intelliJ. Die begriffliche Abgrenzung von Vorgehensmodell und Methode wird von unterschiedlichen Autoren unterschiedlich vorgenommen (Goeken 2006) und ist weder innerhalb der Wissenschaftstheorie noch der Wirtschaftsinformatik einheitlich. In Abb. 2wird die Interpretation visualisiert, dass eine Methode für eine Aktivität eine Hilfestellung zur Ausführung gibt (vgl. Noack und Schienmann 1999). Beispielsweise könnte für eine Aktivität „Erfassung der Nutzeranforderungen im Rahmen eines Workshops“ die Methode Kartenabfrage als Unterstützung genannt werden. Die strukturelle Verankerung von ELSA in Vorgehensmodelle kann (vgl. Abb. 2) beispielsweise durch spezifische Aktivitäten (z.B. Quality Gates mit Ethikcheck, Einbeziehung von „Betroffenen“, wie der Vertretung von Arbeitnehmer/-innen), spezifische Rollen (etwa Ethikverantwortliche), konkrete Verankerung der Aktivitäten und Rollen in einem Vorgehensmodell sowie spezifische Artefakte (z.B. Werteregister) erfolgen. Hierdurch wird eine systematische Betrachtung von ELSA gefördert. Die Integration ist dann besonders vielversprechend, wenn es gelingt, etablierte Standardvorgehensmodelle anzupassen. Davon betroffen sind sowohl etablierte Vorgehensmodelle innerhalb von Unternehmen als auch Standardvorgehensmodelle für Projekte innerhalb einer Branche. Ein Beispiel hierzu ist das im Bereich der Softwareentwicklung verbreitete Vorgehensmodell SCRUM (Hanser 2010). Ein konkreter Vorschlag zur Integration von ELSA besteht darin, diese als Annahmekriterien von Anforderungen (z.B. innerhalb der Definition of Ready, wie sie auch mehrere andere agile Methoden kennen) oder Abnahmekriterien (etwa innerhalb der Definition of Done) zu formulieren (Silva et al. 2017; Dalton 2019). Für die weitere Erörterung der These wird auf (Alpers 2022) sowie auf (Alpers und Krings 2023) verwiesen. 4 Beispielhafte Erörterung: haftungsrechtliche Fragestellungen Das Kapitel gibt einen Einblick in die exemplarische Erörterung einer rechtlichen Fragestellung. Hierfür wurden aus vielen relevanten Aspekten wie bspw. auch Datenschutz und Urheberrecht haftungsrechtliche Fragestellungen ausgewählt,da dieses Gebiet die rechtliche Perspektive auf die bereits beschriebene Problematik der Verantwortungsdiffusion zeigt. Haftung im Zusammenhang mit KI wird vermehrt bereits seit der Erforschung, Erprobung und Nutzung von autonomen Fahrfunktionen diskutiert. In Anbetracht der Vielschichtigkeit der Einsatzgebiete von KI ist auch die Frage bzgl. der Haftung je nach Anwendungsgebiet unterschied- K 166 Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 lich und differenziert zu beantworten. Zum jetzigen Zeitpunkt gibt es keine explizit KI-spezifischen Gesetze, die sich mit der Haftung beim Einsatz von KI befassen. In den noch nicht im Amtsblatt verkündeten AI Act wurde hier explizit keine Regelung aufgenommen, da die Haftungsfragen in der sich noch im Trilog und Entwurf befindenen KI- Haftungsrichtlinie, adressiert werden sollen. Daher müssen zum jetzigen Zeitpunkt bestehende rechtliche Rahmenbedingungen herangezogen werden. Vorliegend soll ein besonderes Augenmerk auf die rechtlichen Rahmenbedingungen verschiedener Haftungsmodelle beim Einsatz von KI im Arbeits- und Lernkontext liegen. In Deutschland existieren grundsätzlich verschiedene Haftungsmodelle, die sowohl auf vertraglicher als auch auf gesetzlicher Basis beruhen, sich daneben aber auch abhängig von der Geschäftsbeziehung oder bei arbeitsrechtlichem Kontext unterscheiden können. Eine umfassende Betrachtung dieser Haftungsmodelle ist unerlässlich, um die rechtlichen Implikationen von KI-Anwendungen zu verstehen. Im Folgenden werden die Haftungsmodelle kurz erläutert und die relevanten gesetzlichen Normen benannt. Die vertragliche Haftung ist grundlegend im Zusammenhang mit dem Einsatz von KI-Systemen. Vertragliche Vereinbarungen zwischen den beteiligten Parteien können Haftungsregelungen enthalten, darunter Haftungsausschlüsse, Haftungsbeschränkungen und Schadensersatzregelungen und dementsprechend die jeweiligen Rechte und Pflichten, sowie die Verantwortlichkeiten der Vertragsparteien durch den Vertrag festlegen. Hierbei kommt dem Bürgerlichen Gesetzbuch (BGB) eine zentrale Bedeutung zu, insbesondere den §§ 311 und 280 bis 280e BGB, die sich mit Vertragsverletzungen und Schadensersatz auseinandersetzen (Ebers et al. 2020). Ein Beispiel für die vertragliche Haftung einer KI könnte ein Entwicklungsvertrag für eine KI-Anwendung sein, in dem bestimmte Garantien oder Gewährleistungen festgelegt werden. Falls die KI die vereinbarten Anforderungen nicht erfüllt, kann der Entwickler verpflichtet sein, den entstandenen Schaden zu kompensieren (Hoeren et al. 2021). Daneben kann auch die Produkthaftung bei der Haftung für Schäden, die durch fehlerhafte Produkte verursacht werden, eine bedeutende Rolle spielen. Das Produkthaftungsgesetz (ProdHaftG) regelt die Haftung des Herstellers für solche Schäden. Gemäß §§ 1-17 ProdHaftG können Herstellende für Schäden haftbar gemacht werden, die durch ein fehlerhaftes Produkt entstehen. Inwiefern Software oder KI-Systeme als „Produkt“ einzuordnen sind, wird in der Literatur zwar diskutiert, jedoch wird voraussichtlich mit der Anpassung der Produkthaftungsrichtlinie dieser Meinungsstreit aufgelöst und eine entsprechende Einordnung anzunehmen sein (so auch Adelberg, ZfPC 2023, S. 59). Ein Beispiel für die Produkthaftung einer KI wäre ein autonomes Robotersystem, das in einer Fabrik eingesetzt wird und aufgrund eines Fehlers im System einen Schaden verursacht. In einem solchen Fall könnten die Herstellenden des Robotersystems gemäß ProdHaftG haftbar gemacht werden (Beierle 2021). Eine Partei kann auch dann für Schäden haftbar gemacht werden, wenn sie ihre Sorgfaltspflichten verletzt oder gegen gesetzliche Vorschriften verstößt. Hierbei sind die Bestimmungen des § 823 BGB entscheidend, wonach eine Haftung für Schäden entsteht, die durch eine Rechtsverletzung verursacht werden (Münchener Kommentar zum Bürgerlichen Gesetzbuch Bd. 7, 2022b). Im Zusammenhang mit KI könnte dies beispielsweise der Fall sein, wenn ein Unternehmen in der Verarbeitung personenbezogener Daten gegen die Bestimmungen der Datenschutz-Grundverordnung (DSGVO) verstößt und dadurch Schäden verursacht. In einem solchen Fall könnte das Unternehmen für die Datenschutzverletzung haftbar gemacht werden. Die deliktsrechtlichen Haftungsfragen werden durch voraussichtlich durch die KI-Haftungsrichtlinie konkretisiert, die sich mit der außervertraglichen, verschuldensunabhängigen Haftung von KI-Herstellern befasst (Bomhard und Siglmüller: Europäische KI-Haftungsrichtlinie(RDi 2022, 506)). Die Haftung im Zusammenhang mit KI beschränkt sich jedoch nicht ausschließlich nur auf das Vertragsrecht und den Verbraucherschutz, sowie die allgemeinen gesetzlichen Regelungen im BGB und ProdHaftG. Daneben sind auch Datenschutz und Datensicherheit von entscheidender Bedeutung, insbesondere wenn personenbezogene Daten durch KI-Systeme erhoben oder verbreitet werden. Unternehmen müssen sicherstellen, dass sie die geltenden Datenschutzbestimmungen einhalten, sie demnach personenbezogene Daten rechtmäßig verarbeiten und darüber hinaus angemessene Sicherheitsmaßnahmen zum Schutz dieser Daten implementieren, um mögliche Risiken im Zusammenhang mit der Datensicherheit und dem Datenschutz angemessen bewerten und behandeln zu können (Gola und Klug 2023). Bei Verstößen gegen den Datenschutz können Haftungsansprüche gemäß der DSGVO geltend gemacht werden. Insbesondere die Artikel 5, 32 und 82 der DSGVO sind hierbei relevant (Wolff et al. 2023). Ein Beispiel für die Haftung im Zusammenhang mit Datenschutz und Datensicherheit wäre ein Unternehmen, das eine KI-An- wendung zur Datenanalyse nutzt und dabei versehentlich personenbezogene Daten offenlegt. Dadurch kann es zu einem Verlust der Privatsphäre und zu finanziellen Schäden für die betroffenen Personen kommen. In einem solchen Fall könnte das Unternehmen für die Datenschutzverletzung haftbar gemacht werden (Auer-Reinsdorff und Conrad 2019). Die Haftungsfragen im Zusammenhang mit künstlicher Intelligenz bemessen sich darüber hinaus an weiteren verschiedenen rechtlichen Rahmenbedingungen, je nachdem welche Beziehung zwischen den Vertragsparteien besteht. K Zeitschrift für Arbeitswissenschaft (2024) 78:160–169 167 Eine grundlegende Unterscheidung liegt hierbei in dem Verhältnis von Verbraucher/-innen zu Unternehmer/-innen (Buissness-to-Consumer – B2C) oder Geschäftsbeziehungen zwischen Unternehmen (Buissness-to-Buissness – B2B). Im B2C-Bereich gelten die bestehenden Verbraucherschutzgesetze (Münchener Kommentar zum Bürgerlichen Gesetzbuch Bd. 3, 2022a). Wenn Unternehmen KI-Tech- nologien einsetzen, um Produkte oder Dienstleistungen an Verbraucher/-innen zu verkaufen, müssen sie sicherstellen, dass diese den gesetzlichen Anforderungen entsprechen. Unternehmen können für Schäden haftbar gemacht werden, die durch fehlerhafte KI-Anwendungen oder unsachgemäßen Einsatz entstehen, insbesondere wenn dadurch die Sicherheit oder die Rechte der Verbraucher/-innen beeinträchtigt werden. In einigen Fällen können die Herstellenden der KI-Technologie selbst haftbar sein, während in anderen Fällen das Unternehmen, das die KI einsetzt, die Verantwortung trägt (Schrader 2022). Verbraucher/-innen sind in diesem Bezug diejenigen Vertragsparteien, die KI-basierte Dienstleistungen oder Produkte nutzen. Das deutsche Verbraucherschutzrecht enthält Regelungen, die Verbraucher/-innen vor unlauteren Geschäftspraktiken und Produkten schützen sollen, weshalb Verbraucher/-innen dann Ansprüche geltend machen können, wenn KI-basierte Produkte oder Dienstleistungen nicht den erwarteten Standards entsprechen oder zu Schäden führen (Schrader 2022). Im B2C-Bereich gelten in Deutschland umfangreichere Schutzmaßnahmen zum Wohl der Verbraucher/-innen, als dies bei einem Unternehmerverhältnis (B2B) der Fall ist. Beim Verkauf von Waren oder Dienstleistungen durch ein Unternehmen an Verbraucher/-innen, müssen Unternehmende gesetzliche Vorschriften einhalten. Verbraucher/-in- nenverträge sind in Deutschland stark durch das Bürgerliche Gesetzbuch (BGB) und spezifische Verbraucher/-innen- schutzgesetze geregelt (Auer-Reinsdorff 2023). Unternehmen, die an Verbraucher/-innen verkaufen, haften für Mängel der verkauften Produkte oder Dienstleistungen. Verbraucher/-innen haben in solchen Fällen das Recht auf Gewährleistung, Rücktritt vom Vertrag, Minderung des Kaufpreises oder Schadensersatz. Das Gesetz geht davon aus, dass Verbraucher/-innen weniger Verhandlungsmacht und Fachkenntnisse haben und daher zusätzlichen Schutz benötigen. Darüber hinaus gibt es bestimmte gesetzliche Regelungen für den Fernabsatz (z.B. Online-Käufe), bei denen Verbraucher/-innen ein Widerrufsrecht haben und ohne Angabe von Gründen vom Vertrag zurücktreten können. Auch kann in diesem Kontext eine Haftung für fehlerhafte Produkte in Betracht kommen, deren Haftung im Produkthaftungsgesetz (ProdHaftG) festgelegt ist. Wenn ein KI-Produkt Schäden verursacht, könnten die Hersteller/-in- nen haftbar gemacht werden, sofern das Produkt nicht den erforderlichen Sicherheitsstandards entspricht. Die Haftung einer Geschäftsbeziehung zwischen Unternehmen (B2B) im Zusammenhang mit KI ist dem gegenüber haftungsrechtlich anders zu betrachten. Sie betrifft regelmäßig die Nutzung eines KI-Systems im Unternehmen zur Prozessverbesserung in verschiedensten Formen und kann besonders komplex sein, da sie oft von vertraglichen Vereinbarungen abhängt und dementsprechend ebenfalls eine grundlegende und bedeutende Rolle spielt. Hier gibt es weniger gesetzliche Schutzmechanismen im Vergleich zum B2C-Bereich, da man davon ausgeht, dass Unternehmen über eine größere Verhandlungsmacht und Fachkenntnisse verfügen oder sich diese durch die Hinzuziehung von Spezialisten verschaffen (können). Im B2B- Kontext können die Vertragsparteien regelmäßig ihre eigenen Vertragsbedingungen aushandeln und festlegen, welche Haftung für Vertragsverletzungen oder Schäden bestehen sollen. Dabei sind die Risiken und potenziellen Schäden zu berücksichtigen, die aus dem Einsatz von KI resultieren könnten, wie beispielsweise fehlerhafte Entscheidungen aufgrund von Algorithmen oder Datenschutzverletzungen. Dabei kann eine Schadenskompensation beispielsweise durch Schadensersatz oder Vertragsstrafen geregelt werden, welche durch Service Level Agreements (SLAs) oder Gewährleistungsklauseln geregelt werden können (Auer- Reinsdorff 2023). Wenn Unternehmen KI-Technologien einsetzen, ist es besonders wichtig in den zugrundeliegenden Verträgen klar festzulegen, welche Leistungen von dem KI-System erwartet werden (können) und welche Haftung im Falle von Fehlfunktionen oder Nichterfüllung dieser Erwartungen besteht. Die Vertragsparteien sollten hier auch die Verantwortlichkeiten klar regeln und Haftungsausschlüsse oder -beschrän- kungen vereinbaren, um potenzielle Risiken zu begrenzen (Auer-Reinsdorff und Conrad 2019). Die genannten Haftungsmodelle und Beispiele sind vereinfacht dargestellt, weil die konkrete Haftung von verschiedenen Faktoren abhängt. Dazu gehören beispielsweise der Grad der Kontrolle über das System, die Art des KI-Systems selbst, das Verschulden oder das Vorhandensein von Haftungsausschlüssen in Verträgen. Da die Entwicklung von KI und die damit verbundenen vielfältigen rechtlichen Aspekte weiterhin rasch fortschreiten, ist es ratsam, aktuelle Gesetze und Gerichtsentscheidungen stets im Auge zu behalten und bei Bedarf rechtlichen Rat von Expert/-innen einzuholen, um die spezifischen Haftungsfragen im Zusammenhang mit dem Einsatz von KI zu klären. K