Wie können Systeme künstlicher Intelligenz ohne Qualitätsverlust rechtsverträglich gestaltet werden?

Dickhaut, Ernestine; Janson, Andreas; Leimeister, Jan Marco Article — Published Version Wie können Systeme künstlicher Intelligenz ohne Qualitätsverlust rechtsverträglich gestaltet werden? Wirtschaftsinformatik & Management Provided in Cooperation with: Springer Nature Suggested Citation: Dickhaut, Ernestine; Janson, Andreas; Leimeister, Jan Marco (2020) : Wie können Systeme künstlicher Intelligenz ohne Qualitätsverlust rechtsverträglich gestaltet werden?, Wirtschaftsinformatik & Management, ISSN 1867-5913, Springer Fachmedien Wiesbaden, Wiesbaden, Vol. 12, Iss. 2, pp. 90-100, https://doi.org/10.1365/s35764-020-00249-z This Version is available at: https://hdl.handle.net/10419/288810 Standard-Nutzungsbedingungen: Die Dokumente auf EconStor dürfen zu eigenen wissenschaftlichen Zwecken und zum Privatgebrauch gespeichert und kopiert werden. Sie dürfen die Dokumente nicht für öffentliche oder kommerzielle Zwecke vervielfältigen, öffentlich ausstellen, öffentlich zugänglich machen, vertreiben oder anderweitig nutzen. Sofern die Verfasser die Dokumente unter Open-Content-Lizenzen (insbesondere CC-Lizenzen) zur Verfügung gestellt haben sollten, gelten abweichend von diesen Nutzungsbedingungen die in der dort genannten Lizenz gewährten Nutzungsrechte. Terms of use: Documents in EconStor may be saved and copied for your personal and scholarly purposes. You are not to copy documents for public or commercial purposes, to exhibit the documents publicly, to make them publicly available on the internet, or to distribute or otherwise use the documents in public. If the documents have been made available under an Open Content Licence (especially Creative Commons Licences), you may exercise further usage rights as specified in the indicated licence. https://creativecommons.org/licenses/by/4.0/ Wirtschaftsinformatik & Management 2 | 202090 Wirtschaftsinformatik & Management 2020 • 12 (2): 90–100 https:// doi.org/ 10.1365/ s35764- 020- 00249-z Online publiziert: 3. März 2020 © Der/die Autor(en) 2020 Wie können Systeme künstlicher Intelligenz ohne Qualitätsverlust rechtsverträglich gestaltet werden? Interdisziplinäre Lösungsansätze zur Gestaltung innovativer KI-Systeme Künstliche intelligente (KI)-Systeme erfreuen sich immer größerer Beliebtheit. Im Alltag erleben wir KI beispielsweise durch smarte persönliche Assistenten (SPAs), welche von Amazon, Google und Co. angeboten werden. Zwar haben diese KI-Systeme große Nutzungspotenziale, gleichzeitig gehen damit aber auch erhebliche Risiken einher, beispielsweise datenschutzrechtliche. Doch wie lassen sich diese Spannungsfelder auflösen? Interdisziplinäre Gestaltungsmuster im Systementwicklungsprozess können eine Lösung darstellen, welche nachfolgend mit Handlungsimplikationen für gesellschaftlich wünschenswerte „KI made in Germany“ skizziert wird. ErnestineDickhaut, AndreasJanson und JanMarcoLeimeister Schwerpunkt | Rechtsverträgliche KI-Systeme ohne Qualitätsverlust 91Wirtschaftsinformatik & Management 2 | 2020 Durch technologische Entwicklungen haben sich KI-Systeme in den vergangenen Jahren stark weiterentwickelt. Regelbasierte Systeme prägten vor ca.60Jahren die KI, wobei heutige Systeme in der Lage sind, eigenständig Aufgaben zu lösen [1]. Für das Training moderner KI-Systeme müssen diese zunächst mit einer gewissen Menge Daten versorgt werden, bevor sie im realen Anwendungskontext eingesetzt werden können. Hierfür werden Verfahren des maschinellen Lernens eingesetzt, wobei das Kontinuum von einfachen Prognosemodellen bis hin zu kaum interpretierbaren neuronalen Netzen reicht, welche zur (teil-)autonomen Steuerung von Systemen eingesetzt werden. In den letzten Jahren haben sich immer mehr smarte persönliche Assistenten (SPAs) durchgesetzt, welche als zielbasierte KI-Systeme definiert sind als eine Art System „that uses input such as the user’s voice[…] and contextual information to provide assistance by answering questions in natural language, making recommendations and performing actions“ [2, S.223]. Solche Systeme sind, neben User-Interface-Aspekten, insbesondere durch Kontextadaptivität, Selbstlernfähigkeit sowie die Plattformintegration in ein digitales Ökosystem charakterisiert [3, 4]. Relevanz erlangen die kommerziellen SPAs, wie beispielsweise Amazons Alexa, Apples Siri, Microsofts Cortana oder Samsungs Bixby, durch das prognostizierte Wachstum von weltweit 390 Mio. Nutzern in 2015 auf 1,8 Mrd. Nutzer in 2021 [5]. Gleichzeitig kommt Kritik zum Datenschutz und zur Qualität (speziell zur Nützlichkeit) der SPAs im Alltag auf. So stehen insbesondere der Nichtnutzung bzw. dem Nichtkauf Sicherheits- sowie Qualitätsbedenken entgegen [6]. Solche Bedenken lassen sich aber durch adäquate Technikgestaltung lösen, nämlich durch die Umsetzung von Qualitäts- und Rechtsanforderungen. Hierfür müssen entsprechende Anforderungen zuvor identifiziert und mögliche Konflikte zwischen den Gestaltungszielen beider Bereiche aufgelöst werden. Dies kann durch Anforderungs- und Entwurfsmuster gelingen, welche Anforderungsanalysten (bzw. Product Owner in agilen Entwicklungsprojekten) und Entwickler in der Systementwicklung dabei unterstützen, sowohl Qualitätsals auch Rechtsziele zu adressieren, sich abzeichnende Zielkonflikte in der Entwicklung aufzulösen und zuletzt auch interdisziplinäres Gestaltungswissen nutzbar zu kodifizieren. Welche Potenziale bietet die interdisziplinäre Gestaltung innovativer KI-Systeme? Im Konsumentenmarkt gehören SPAS zu den prominentesten Anwendungen von KI. Durch Kontexterkennung und -vorhersage werden in jeder Situation passgenaue Informationen und Leistungen angeboten [7, 8]. Für die Kontexterkennung werden dabei zahlreiche Daten ausgewertet, welche über eine Vielzahl von Sensoren dieser Systeme gesammelt werden. Damit die gelieferten Informationen möglichst effektiv genutzt werden können, werden maschinelle Lernverfahren in der Auswertung der Daten eingesetzt. Hierfür ist der Zugang zu personenbezogenen Daten, insbesondere Nutzer- und Nutzungsdaten unabdinglich. Jedoch sind SPAs durch Intransparenz bei der Sammlung, Verarbeitung und Weitergabe dieser Daten, gepaart mit immer Rechtsverträgliche KI-Systeme ohne Qualitätsverlust | Schwerpunkt Ernestine Dickhaut1() ist Doktorandin und wissenschaftliche Mitarbeiterin am Fachgebiet Wirtschaftsinformatik und dem Wissenschaftlichen Zentrum für Informationstechnikgestaltung (ITeG) an der Universität Kassel. In ihren Forschungsschwerpunkten beschäftigt sie sich mit der Kodifizierung von konfliktärem, domänenspezifischem Wissen und wie dieses für Systementwickler zugänglich gemacht werden kann. Sie studierte an der TU Darmstadt den interdisziplinären Studiengang Psychologie in IT. Im interdisziplinärem Projekt AnEkA erforscht sie die rechtsverträgliche Gestaltung smarter persönlicher Assistenten. [email protected] Dr. rer. pol. Andreas Janson1 ist Forschungsgruppenleiter und Postdoktorand am Fachgebiet Wirtschaftsinformatik und dem Wissenschaftlichen Zentrum für Informationstechnikgestaltung (ITeG) an der Universität Kassel. Zu seinen Forschungsschwerpunkten zählen die Gestaltung von digitalen Dienstleistungen, insbesondere smarte persönliche Assistenten in unterschiedlichen Anwendungsbereichen, sowie das Verstehen und die Gestaltung von Entscheidungsprozessen im digitalen Raum durch digitales Nudging und Gamification. [email protected] Wirtschaftsinformatik & Management 2 | 202092 öfter auftretenden Privatsphäreskandalen gekennzeichnet. Diese Probleme tangieren insbesondere auch die rechtliche Perspektive, wenn wir SPAs betrachten, speziell bei der Wahrung von Grundrechten, aber auch bezüglich der Datenschutzgrundverordnung. Entsprechend ist es hochgradig praxisrelevant, sich diesem Thema von einer interdisziplinären Gestaltungsperspektive zu nähern, um die konfliktären Gestaltungsfelder einer qualitätszentrierten, aber gleichzeitig rechtsverträglichen Technikgestaltung für innovative KI-Systeme wie SPAs zu verwirklichen. Dabei wird im Beitrag aufgezeigt, wie Anforderungs- und Entwurfsmuster als expliziertes Wissen über wiederkehrende Probleme der Systementwicklung und dafür erprobter Lösungsansätze dienen können. Diese Muster können dann als „Schablone“ für die Entwicklung gesellschaftlich wünschenswerter KI-Systeme in diesem Falle SPAs „made in Germany“ genutzt werden [9–11]. Welche Rolle spielt das Recht im Systementwicklungsprozess? Rechtliche Aspekte auf Anforderungsseite werden von Systementwicklern oftmals als „notwendiges Übel“ angesehen, welche jedoch mindestens im erlaubten Mindestmaß adressiert sein müssen, damit Produkte rechtmäßig in Umlauf gebracht werden dürfen. Solche Minimalansätze schützen aber nicht langfristig vor möglichen Negativfolgen der Techniknutzung und vor dem Hintergrund steigender rechtlicher Anforderungen, insbesondere durch die Datenschutzgrundverordnung, ist dies auch nicht sinnvoll, wenn Kosten für die Anpassung von Systemen an neue rechtliche Ansätze investiert werden müssen [12]. Diesem Minimalansatz der rechtmäßigen Gestaltung stehen Ansätze der Rechtsverträglichkeit gegenüber, die in der Gestaltung prüfen, wie die Nutzer vor sozialen und individuellen Risiken der Techniknutzung bestmöglich geschützt werden können [12]. Viele gesetzliche Normen enthalten aber unbestimmte Rechtsbegriffe, die sich einerseits erst mal nicht ohne Weiteres unmittelbar in technische Gestaltungsziele übersetzen lassen. Andererseits fehlt einer soziotechnischen Entwicklungsperspektive auch schlicht das Domänenwissen (aus einer juristischen Perspektive), welches notwendig ist, um diese Rechtsanforderungen zu verstehen. So sind entsprechende Ansätze notwendig, um dieses Wissen für Systementwickler handlungsorientiert zu konkretisieren, speziell wenn die rechtsverträgliche Gestaltung von KI-Systemen ein kompetitiver Vorteil gegenüber der vom Überwachungskapitalismus getriebenen Konkurrenz sein kann [13]. Haben Qualitätsaspekte bei der KI-Entwicklung noch Priorität? Während Rechtsverträglichkeit den Nutzer vor Risiken schützen soll, ist die Qualität eines Services, die Dienstleistungsqualität, ein wesentlicher Treiber für die Zufriedenheit der Nutzer und den wirtschaftlichen Erfolg eines Systems [14, 15]. Dienstleistungsqualität erfasst hierbei, wie die Leistungserbringung den Kundenerwartungen auf einem bestimmten Anforderungsni- Schwerpunkt | Rechtsverträgliche KI-Systeme ohne Qualitätsverlust Prof. Dr. Jan Marco Leimeister1,2 ist Leiter des Fachgebietes Wirtschaftsinformatik und Direktor am Wissenschaftlichen Zentrum für Informationstechnikgestaltung (ITeG) der Universität Kassel. Er ist zudem Ordinarius für Wirtschaftsinformatik und Direktor am Institut für Wirtschaftsinformatik (IWI-HSG) der Universität St.Gallen. Seine Forschungsschwerpunkte liegen im Bereich Digital Business, Digital Transformation, Dienstleistungsforschung, Crowdsourcing, Digitale Arbeit, Collaboration Engineering und IT Innovationsmanagement. [email protected] [email protected] 1 Wissenschaftliches Zentrum für IT- Gestaltung (ITeG), Fachgebiet Wirtschaftsinformatik, Universität Kassel Pfannkuchstraße 1, 34121 Kassel, Deutschland 2 Institut für Wirtschaftsinformatik, Universität St. Gallen Müller-Friedberg-Strasse 8, 9000 St.Gallen, Schweiz 93Wirtschaftsinformatik & Management 2 | 2020 veau gerecht wird, wobei das Kontinuum bei der Erreichung verschiedener Anforderungsniveaus entsprechend groß ist und gegebenenfalls entscheidend ist, ob ein System genutzt wird. Im Gegensatz zu rechtlichen Anforderungen im Entwicklungsprozess, welche für den Systementwickler häufig unbekanntes Fachwissen darstellen, gehören Aspekte der Dienstleistungsprozesse zu einem festen Bestandteil der Ausbildung eines Systementwicklers und stellen somit keine unbekannten Herausforderungen dar. Dies führt in der Praxis häufig dazu, dass der Dienstleistungsqualität eine vergleichsweise hohe Aufmerksamkeit geschenkt wird und rechtliche Aspekte vernachlässigt werden. Wie lässt sich das Zusammenspiel von Recht und Dienstleistungsqualität bei der Entwicklung von KI-Systemen zusammenbringen? Bei der Gegenüberstellung dieser beiden Perspektiven ergibt sich ein Lösungsraum für die Gestaltung von KI-Systemen (Abb.1; siehe hierzu [16]). Idealtypisch sollen sowohl die Ziele für Rechtsverträglichkeit als auch die Ziele für qualitative Hochwertigkeit angestrebt werden (siehe Abb.1: oben rechts, grüner Bereich). Allerdings können auch unlösbare Zielkonflikte auftreten, die eine Ideallösung unmöglich machen, sodass alternative Komprorechtsverträglich und qualitav ausreichend rechtswidrig und qualitav hochwerg rechtswidrig und qualitav ausreichend rechtswidrig und qualitav minderwerg rechtmäßig und qualitav minderwerg rechtmäßig und qualitav ausreichend rechtsverträglich und qualitav minderwerg rechtsverträglich und qualitav hochwerg rechtmäßig und qualitav hochwerg Ideal erreicht Minimum erreicht nicht erreicht Ideal erreicht Minimum erreichtnicht erreicht Erreichung rechtlicher Ziele Erreichung qualitaver Ziele Legende: Inakzeptable Lösung Minimal- Lösung vertretbare Lösung Ideal- Lösung Abb.1 Lösungsraum im Spannungsfeld zwischen rechtlichen und qualitativen Zielen für die Entwicklung von künstlicher Intelligenz und für (teil-)autonome Entscheidungen eines intelligenten Agenten [16] Zusammenfassung • KI-Systeme erfreuen sich im Alltag wachsender Beliebtheit durch beispielsweise smarte persönliche Assistenten. • KI-Systeme benötigen zahlreiche Daten, um verbesserte Leistungen zu bieten. • Entwurfsmuster stellen bewährte Lösungen konfliktärer Anforderungen in der Systementwicklung dar. Rechtsverträgliche KI-Systeme ohne Qualitätsverlust | Schwerpunkt Wirtschaftsinformatik & Management 2 | 202094 misslösungen gefunden werden müssen. Diese sind oftmals ein Trade-off zwischen den Domänen, entweder verstärkt rechtsorientiert oder verstärkt qualitätsorientiert (gelbe Bereiche). So sind Lösungen in diesen Bereichen in Betracht zu ziehen, wenn keine gleichermaßen rechtsverträgliche und qualitativ hochwertige Lösung gefunden werden kann. Hier sollte für den einzelnen Entwicklungsprozess entsprechend priorisiert werden, beispielsweise ob eine schnelle Markteinführung mit einem möglichst hohen Qualitätsniveau geschaffen werden soll oder ob eine nachhaltig rechtsverträgliche Priorisierung vorgenommen wird. Eine Kompromisslösung aus den Minimalanforderungen beider Domänen (mittig, oranger Bereich) sollte, wenn möglich, vermieden werden. Gleichzeitig bewegen sich aber insbesondere die aktuellen kommerziellen SPAs in diesem Bereich. Zu vermeiden sind Umsetzungen, die rechtswidrig und/oder qualitativ minderwertig sind (rote Bereiche). Wie werden interdisziplinäre Anforderungen im Systementwicklungsprozess identifiziert? Um Rechts- und Qualitätsziele zu identifizieren, lassen sich beispielsweise Methoden der zielorientierten Anforderungsanalyse [17] nutzen, um Anforderungen zu strukturieren, priorisieren und jeder Aktion eines SPAs, oder eines KI-Systems im Allgemeinen, gegenüberzustellen. Hiermit gelingt es domänenspezifische Konflikte und Abhängigkeiten zu identifizieren. Ein Beispiel könnte hier die Sprecherkennung durch einen fremden SPA sein, welcher durch einen bisher fremden Nutzer aktiviert wird. Anhand der Stimme könnte der SPA diesen Nutzer identifizieren und mit einem Nutzerprofil abgleichen, damit entsprechende personalisierte Dienste angeboten werden, beispielsweise Playlists eines Musik-Streaming-Anbieters oder aber auch intimere Details des Nutzers. Aus Perspektive des Rechts und der Qualität gibt es hier vielfältige Ziele, die berücksichtigt werden müssen (siehe im Folgenden [16]). Aus einer rechtlichen Sicht ist beispielsweise das Ziel der Datenminimierung zu beachten. Diese schreibt vor, dass personenbezogene Daten nur zur Erreichung des Verarbeitungszwecks erforderlich sein müssen. Aus Qualitätssicht wäre hingegen die Verbesserung der Sprecherkennung durch Lernfähigkeit ein wichtiges Ziel. Dieses Qualitätsziel der Lernfähigkeit kann damit insbesondere mit dem Ziel der Datenminimierung aus rechtlicher Sicht konfligieren. Um die Zielkonflikte, die zwischen Rechtsverträglichkeit und Dienstleistungsqualität entstehen können, zu illustrieren, soll hier und im Folgenden das beschriebene Szenario der Veranschaulichung dienen. Wie lassen sich Konflikte in Systementwicklungsprozessen durch Anforderungsmuster identifizieren? Anforderungsmuster werden in der Systementwicklung bei der Abstraktion von Anforderungen eingesetzt und beschreiben häufig auftretende Probleme im Kontext des Anforderungsmanagements sowie den Kern der Lösung des Problems [11]. Sie fungieren als Lösungsschablone, mit deren Hilfe Anforderungsanalysten bzw. Product Owner für ihren jeweiligen Projektkontext Handlungsempfehlung • Suche nach Lösungen, um alle Disziplinen im Entwicklungsprozess gleichermaßen zu berücksichtigen • Rechtliche Anforderungen sollten keinesfalls bei der Entwicklung von KI-Systemen vernachlässigt werden • Verwendung von Anforderungs- und Entwurfsmuster, um rechtliche und qualitative Anforderungen gleichermaßen berücksichtigen zu können Kernthese 1 Anforderungsmuster zur Unterstützung des Verständnisses fachfremder Anforderungen Schwerpunkt | Rechtsverträgliche KI-Systeme ohne Qualitätsverlust 95Wirtschaftsinformatik & Management 2 | 2020 wiederkehrende Anforderungen identifizieren, spezifizieren und dokumentieren können [18], beispielsweise für Lastenhefte bzw. im agilen Projektkontext entsprechende Backlogs. Daneben können Anforderungsmuster neben der wiederkehrenden Problemstellung und dem Kern der Lösung auch Hinweise zur Priorisierung im Projekt, Abhängigkeiten zu und Konflikte mit anderen Anforderungen, Voraussetzungen zur Umsetzung sowie mögliche Konsequenzen beschreiben. Vorteile der Nutzung von Anforderungsmustern liegen insbesondere bei der Erleichterung des Projektmanagements sowie der Kommunikation durch ein einheitliches Vokabular (auch als Mustersprache bezeichnet). Um die in Abb.1 aufgeführten Erfüllungsgrade von rechtlichen und qualitativen Anforderungen abzubilden, ergeben sich sowohl für die Rechtsals auch für die Qualitätsdimension je verschiedene Anforderungsmuster. Jedes Muster enthält ergänzende Informationen, um dem Anwender zu helfen den Problemkontext zu verstehen und besser reagieren zu können. Da die Anforderungsmuster nicht alleinstehend betrachtet werden sollten, werden Abhängigkeiten und Verknüpfungen zu anderen Anforderungsmustern dargelegt. Im Folgenden werden zwei exemplarische Anforderungsmuster vorgestellt. Das Anforderungsmuster „Verarbeitung von Daten bis Erreichung des Verarbeitungszwecks“ (Abb.2) unterstützt bei der Spezifikation rechtlicher Anforderungen, während das Anforderungsmuster „Deutung von und Reaktion auf Emotionen“ (Abb.3) bei der Konkretisierung der Dienstleistungsqualität unterstützt. tätilauqsgnutsieltsneiDretsumsgnuredrofnA NameDeutung von und Reakon auf Emoonen DLQ22 Ziel Der Nutzer erhält je nach emoonaler Smmung adäquate Dialoge. GrundlageEmpathie PrioritätMiel SystemeigenschaenAusrichtung: zweiseig Kommunikaon: primive naturallanguage, compound naturallanguage Abhängigkeiten Verknüpfungen RV19 Konflikte RV5, RV8, RV6, RV7, RV15, RV22, RV23 Anforderung Das System soll auf emoonale Sprache adäquate Antworten formulieren. User Story Als Nutzer möchte ich, dass das System auf meine emoonale Lage einfühlsam reagiert, damit ich das Gefühl habe Ernst genommen zu werden. Hinweise Emoonserkennung kann über Signalwörter (Trigger) in Anfragen erfolgen. Extreme negave Emoonen sollten gesondert klassifiziert werden. Dabei sollte als Reakon auf direkte Hilfe durch Kommunikaon vermieden werden und stadessen indirekt Hilfe angeboten werden (z.B. "Möchtest du, dass ich jemanden für dich anrufe?") Abb.2 Rechtliches Anforderungsmuster Rechtsverträgliche KI-Systeme ohne Qualitätsverlust | Schwerpunkt Wirtschaftsinformatik & Management 2 | 202096 Wie verläuft die Lösung von Zielkonflikten? Das Ziel bei der Entwicklung von SPAs ist es gleichermaßen qualitativ hochwertige als auch rechtsverträgliche Lösungen zu finden, also auf der einen Seite emotionale Daten zu verarbeiten und so eine verbesserte Leistung zu erreichen, aber auf der anderen Seite emotionale Daten lediglich bis zur Erreichung des Verarbeitungszwecks zu speichern. Da hier ein Zielkonflikt vorliegt, müssen zur Bewältigung des Zielkonfliktes zunächst verschiedene Gestaltungsalternativen erarbeitet werden. Gestaltungsalternativen ergeben sich durch eine interdisziplinäre Lösungssuche auf Basis der grundlegenden Ziele und hergeleiteten Anforderungen. Ziel ist die Findung von Kompromissen oder die Überwindung von Konflikten durch kreative Lösungen. Können Entwurfsmuster bei der Kodifizierung und Nutzbarmachung interdisziplinärer Gestaltungsprozesse unterstützen? Der oben skizzierte Konflikt ließe sich womöglich mit einer Empathieverarbeitung lösen, welche auf dem Gerät selbst verarbeitet wird. Die Gestaltungslösung, die sich aus den Idealvorstellungen beider Anforderungsbereiche ergibt, ist nachfolgend exemplarisch als Entwurfsmuster dargestellt (Abb.4). Entwurfsmuster enthalten Angaben zum Kontext, der Problemstellung, den relevanten Einflussfaktoren zum Abwägen von Gestaltungsalternativen sowie den Kern der Lösung [19]. Entwurfsmuster stellen konkrete Vorschläge zur Lösung dieser Probleme dar. Dabei können Entwurfsmuster, die etabliertes und wiederverwendbares Gestaltungswissen repräsentieren, tiekhcilgärtrevsthceRretsumsgnuredrofnA Name Verarbeitungvon Daten bis Erreichung desVerarbeitungszwecks RV1 Ziel DieTexteingabendes Nutzerswerden nur so langegespeichert,bis der Verarbeitungszweck erreichtist. GrundlageSpeicherbegrenzung PrioritätHoch Systemeigenschaen Kommunikaon:zweiseig Adapvität:adapves Verhalten KollekveIntelligenz: keinecrowd-Daten Abhängigkeiten RV15 VerknüpfungenRV2, RV6, RV7, RV8 Konflikte DLQ6,DLQ8, DLQ18, DLQ19, DLQ20, DLQ25 Anforderung Nach Erreichung desVerarbeitungszwecks werden Texteingaben gelöscht oder derPersonenbezug wird enernt. User StoryAlsNutzermöchteich,dassmeine Texteingaben nur zu dem Zweck, in denich eingewilligt habe, verarbeitet werden.Sie sollennicht fürunbekannteZweckevorgehalten werden. Hinweise Mechanismen für regelmäßig Überprüfungen Löschkonzepte Keine Schaendatenbanken Enernung des Personenbezugs durch Anonymiserung oder Pseudonymisierung Abb.3 Qualitatives Anforderungsmuster Kernthese 2 Einbeziehung externer Expertise durch Entwurfsmuster in den Entwicklungsprozess Schwerpunkt | Rechtsverträgliche KI-Systeme ohne Qualitätsverlust 97Wirtschaftsinformatik & Management 2 | 2020 Systementwicklern dabei helfen, anforderungsadäquat zu implementieren und insbesondere Probleme zu lösen. Die hier skizzierten Entwurfsmuster mit interdisziplinärem Lösungswissen stellen eine Möglichkeit dar, Lernprozesse bei Entwicklern anzustoßen und entsprechend fremdes Domänenwissen zu erwerben. Daneben dienen aber Entwurfsmuster bei der Kommunikation im (agilen) Entwicklerteam als einheitliche Sprache. Neben den wesentlichen Lösungsinformationen enthalten die Entwurfsmuster noch Angaben zu den zugrunde liegenden Zielen der Rechtsverträglichkeit und Dienstleistungsqualität sowie Verbindungen zu anderen Entwurfsmustern und zugrunde liegenden Anforderungen. Wie bereits die Anforderungsmuster, enthalten auch die Entwurfsmuster ergänzende Informationen. Dazu zählen beispielsweise die Einflüsse, die in dem Kontext relevant sind. Der Kern jedes Entwurfsmusters ist der Lösungsansatz, welcher in den Mustern Verlinkungen zu weiteren Informationen beinhaltet. Grundlegend baut jedes Entwurfsmuster auf Anforderungen auf, die ebenfalls im Muster dargestellt werden. Empathieverarbeitung auf dem Gerät Ziel Nutzer sollen Dialoge erhalten, die an ihre Emoonen angepasst sind. Allerdings sollen Daten, die Rückschlüsse auf die Emoonalität des Nutzers zulassen, weder verarbeitet noch gespeichert oder zur Profilbildung verwendet werden. Einflüsse •Empathie •Datenminimierung •Zweckbindung •Schutz der Privat- und Inmsphäre •Nichtdiskriminierung Lösung •Emoonserkennung auf dem Gerät •Emoonsontologie •Verknüpfungmit typischen Signalwörtern •Basierend auf Häufigkeit und Wahrscheinlichkeit erfolgt eine Kategorisierung •Zusätzliche Faktoren können durch Spracherkennung erfolgen •Generierung einer emoonsadäquaten Antwortfindet auf dem Endgerät des Nutzerssta Konsequenzen Kategorie im Prozess Datenminimierungsmuster Interakonsmuster Recht •Schutz personenbezogener Daten •KeineProfilbildung möglich Dienstleistungsqualität •Persönliche Konfiguraon & Dialogepassend zuraktuellen emoonalenSituaon Anforderungen •Kein vollständigesNutzerprofil •Menschliche Dialoge •Interpretaon auf und Reakonvon Emoonen •Verarbeitung von Texteingaben bis Erreichung des Verarbeitungszwecks •Wenige Schnistellen zwischen Komponenten des Systems •Enernung des Personenbezugs Abb.4 Entwurfsmuster zur Lösung des Konfliktes Rechtsverträgliche KI-Systeme ohne Qualitätsverlust | Schwerpunkt