Entzauberung von IT-Systemen. Die Automatisierungsdemystifizierungsdiskursmaschine erklärt spielerisch Algorithmen

Ullrich, Stefan; Messerschmidt, Reinhard; Hilbig, Romy; Butollo, Florian; Serbanescu, Diana Book Part — Published Version Entzauberung von IT-Systemen. Die Automatisierungsdemystifizierungsdiskursmaschine erklärt spielerisch Algorithmen Provided in Cooperation with: WZB Berlin Social Science Center Suggested Citation: Ullrich, Stefan; Messerschmidt, Reinhard; Hilbig, Romy; Butollo, Florian; Serbanescu, Diana (2019) : Entzauberung von IT-Systemen. Die Automatisierungsdemystifizierungsdiskursmaschine erklärt spielerisch Algorithmen, In: Höfner, Anja Frick, Vivian (Ed.): Was Bits und Bäume verbindet - Digitalisierung nachhaltig gestalten, ISBN 978-3-96238-636-8, Oekom, München, pp. 62-63 This Version is available at: https://hdl.handle.net/10419/228726 Standard-Nutzungsbedingungen: Die Dokumente auf EconStor dürfen zu eigenen wissenschaftlichen Zwecken und zum Privatgebrauch gespeichert und kopiert werden. Sie dürfen die Dokumente nicht für öffentliche oder kommerzielle Zwecke vervielfältigen, öffentlich ausstellen, öffentlich zugänglich machen, vertreiben oder anderweitig nutzen. Sofern die Verfasser die Dokumente unter Open-Content-Lizenzen (insbesondere CC-Lizenzen) zur Verfügung gestellt haben sollten, gelten abweichend von diesen Nutzungsbedingungen die in der dort genannten Lizenz gewährten Nutzungsrechte. Terms of use: Documents in EconStor may be saved and copied for your personal and scholarly purposes. You are not to copy documents for public or commercial purposes, to exhibit the documents publicly, to make them publicly available on the internet, or to distribute or otherwise use the documents in public. If the documents have been made available under an Open Content Licence (especially Creative Commons Licences), you may exercise further usage rights as specified in the indicated licence. https://creativecommons.org/licenses/by-nc-sa/3.0/de/ Die Stärke der Automatisierung liegt darin, dass sie die Rolle der Menschen in den Betriebsabläufen marginalisiert hat – das macht ihre Arbeitsweise allerdings auch schwer verständlich. Die Bauteile moderner dynamischer Systeme arbeiten im Verborgenen, sie sind also in einer Blackbox eingeschlossen. Die Automatisierungsdemystifizierungsdiskursmaschine (kurz: ADDM) ist eine interaktive Installation mit spielerischen Elementen, die diese Blackbox öffnen und Zusammenhänge erklären soll. Denn ohne diese Erklärung offenbart sich nur das Ergebnis, ein mystischer Vorgang, der zumeist Erstaunen hervorruft. Der Computer ist mitnichten nur ein technisches System, er ist ein soziotechnisches, da die Bedienung und der Einsatzkontext mit dem physischen Objekt auf dem Schreibtisch oder in der Hosentasche verbunden ist. Dieses System besitzt unsichtbar arbeitende Software, die aufgetragene Probleme im Rahmen ihrer beschränkten Möglichkeiten lösen soll und dafür nach Protokollen handelt, die zuvor von einem Expert*innengremium ausgehandelt wurden. Ein Computer ist in jeder Hinsicht dumm, sodass der Begriff ‹Intelligenz› seine Potenziale nicht umschreiben kann. Er ist dafür aber so schnell im Rechnen, dass er uns als intelligent erscheint. Die ADDM macht abstrakte Begriffe rund um die Automatisierung begreifbar, um einen Diskurs über Sinn und Zweck von Automatisierungstechno- Autor*innen: Stefan Ullrich, Reinhard Messerschmidt, Romy Hilbig, Florian Butollo & Diana Serbanescu Die Automatisierungsdemystifizierungsdiskursmaschine erklärt spielerisch Algorithmen ENTZAUBERUNG VON IT-SYSTEMEN logien zu unterstützen. Die ADDM spannt dabei den Bogen von der Arbeitsteilung bis hin zu der Frage, ob eine dynamische Maschine auch geistige Tätigkeiten aus führen kann, die bislang nur Menschen zugetraut wurden, wie beispielsweise das ‹Lernen›. Sie unterstützt uns bei der drängenden Frage, in welcher Gesellschaft wir eigentlich leben wollen. Und falls sich die Menschheit für eine nachhaltige, inklusive und auf Menschenwürde basierende Lebensweise entscheiden sollte, möchte die ADDM Hinweise geben, wie Computersysteme dieser großen Transformation dienlich sind – und wo Technik sogar gegen diese Interessen arbeitet, insbesondere wenn große Firmen mit großem Budget über diese Techniken verfügen. Der Aufstieg der GAFAM – der großen Fünf, also Google, Amazon, Facebook, Apple und Microsoft – ist eine Erfolgsgeschichte auf Kosten anderer und vor allem der Umwelt. Anfang dieses Jahres schrieb Brian Merchant auf Gizmodo in seinem Artikel ‹How Google, Microsoft, and Big Tech Are Automating the Climate Crisis› darüber, wie große Firmen ihr Know-how dafür einsetzen, nicht nur die verbleibenden Ressourcen möglichst profitabel zu fördern, sondern gleichzeitig auch noch Arbeiter*innen wegrationalisieren.1 Die ADDM möchte die Machtverhältnisse in der postindustriellen Gesellschaft mit mehreren ‹ernsten Spielen› dekonstruieren. Diese Spiele sind ernsthaft in dem Sinne, dass sie nicht einfach nur für den Zeit- DEBATTENBEITRAG { /// 062 1 1 1 1 1 0 fizierung auserkoren. Ein spielerisches Element der ADDM ist ein Machine-Learning- System, das in der Lage ist, Tic-Tac-Toe gegen einen Menschen zu spielen. Das Besondere daran ist, dass diese Maschine aus Streichholzschachteln besteht. Donald Michie nennt diese Maschine ‹MENACE›3. Sie besteht aus 304 Streichholzschachteln, die mit farbigen Perlen gefüllt sind, die den Feldern des Spielfelds ent sprechen. Jede mögliche Spielkonstellation wird durch eine Schachtel repräsentiert. In jedem Zug zieht man eine farbige Perle aus der dem momentanen Spielstand entsprechenden Schachtel und setzt ihrer Farbe entsprechend ein Kreuz auf das Spielfeld. Wenn die Streichholzschachtelmaschine verliert, werden die von ihr gesetzten Perlen entfernt, wenn sie gewinnt, werden den jeweiligen Schachteln je drei Perlen der gespielten Farbe hinzugefügt. So ‹lernt› MENACE im Laufe der Zeit, Tic-Tac-Toe zu spielen. Dieses ‹Lernen› ist mit dem Begriff des Maschinellen Lernens gemeint, es hat also nichts mit Intelligenz zu tun oder mit Bewusstsein oder mit anderen Dingen, die wir hinreichend komplexen informationstechnischen Systemen zuschreiben, ohne dass dies gerechtfertigt wäre – wir sprechen hier ja von Streichholzschachteln! Wir Wissenschaftler*innen haben alle die mahnenden Worte von Albert Einstein im Ohr, dass man Dinge so einfach wie möglich darstellen soll, aber nicht einfacher. Die ADDM möchte Bausteine für eine inklusive, nachhaltige und auf Menschenwürde ausgerichtete Gesellschaft möglichst niedrigschwellig und spielerisch vorstellen – dazu gehört leider die Demystifizierung von automatisierten Systemen. ‹Leider› schreiben wir, weil es natürlich großartig wäre, gäbe es eine Abkürzung auf dem Weg zur Erreichung der Sustainable Development Goals. Oder eine App. Oder einen General Problem Solver. So bleibt uns nur wieder die universelle Bauanleitung: Habe Mut, dich deines eigenen Verstandes zu bedienen. vertreib gedacht sind, sondern Teil eines Reflexionsprozesses rund um das Thema der Automatisierung sein sollen. Denn auch heute, im postindustriellen Zeitalter, gibt eine Maschine den Takt an, auch wenn sie von ganz anderer Art ist als die Stahlgiganten des 19. Jahrhunderts. Es ist die Paper Machine (Alan Turing 1936, heute bekannt als Turing-Maschine), die mittels vernetzter Universalcomputer in der Hand mächtiger Konzerne und des Militärs die geistige Arbeit in ähnlicher Art unterwerfen möchte. Ein Beispiel für die Unterwerfung geistiger Arbeit sind Contentfilter. So sind Menschen beispielsweise sehr gut darin, Bilder zu erkennen und einzuordnen, Maschinen nicht. Es ist daher nicht verwunderlich (aber leider noch zu wenig bekannt), dass es Menschen sind, die bei der automatisierten Klassifikation von Bildern und Videos helfen. Was in Hochglanzbroschüren ‹Fully Automated Content Moderation› genannt wird, bedeutet nicht etwa, dass kein Mensch mehr am Prozess beteiligt ist, sondern lediglich, dass der Mensch ebendie ‹ Digitale Drecksarbeit›2 der Maschinen verrichtet. Bereits Joseph Weizenbaum mahnte in den 1970er-Jahren, dass wir dem Computer eine allgemeine Problemlösungskompetenz zuschrieben, die dieser nicht besitze und nie besitzen könne. Ein Sortieralgorithmus kann schneller als jeder Mensch Zahlenreihen sortieren, wäre aber beim Sortieren der Wäsche überfordert. Es gab historisch den Versuch, einen General Problem Solver zu ent wickeln, parallel zu dem ersten Künstliche-Intelligenz- Hype in den 1950er-Jahren. Dieser General Problem Solver löst allgemeine mathematische Probleme, er scheitert aber an sämtlichen Herausforderungen der Wirklichkeit. Unter dem Begriff ‹künstliche Intelligenz› sammeln sich viele, zum Teil höchst unterschiedliche und sich widersprechende Forschungsrichtungen. Wir haben den Bereich des Maschinellen Lernens zur Demysti- DIE AUTOR*INNEN /// Dr. Stefan Ullrich, Dr. Romy Hilbig, Dr. Florian Butollo und Dr. Diana Serbanescu erforschen als Forschungsgruppenleiter*innen am Weizenbaum-Institut in Berlin die vernetzte Gesellschaft interdisziplinär und grundlagenorientiert. Im Mittelpunkt stehen dabei die Gestaltung der Digitalisierung zum Wohle der Gesellschaft und der Schutz von Selbstbestimmung und Engagement. https://weizenbaum-institut.de/ /// Dr. Reinhard Messerschmidt ist Wissenschaftlicher Referent für Digitalisierung in der Berliner Geschäftsstelle des Wissenschaftlichen Beirats der Bundesregierung Globale Umweltveränderungen (WBGU), der 2019 sein Hauptgutachten Unsere gemeinsame digitale Zukunft veröffentlicht hat. https://www.wbgu.de/de/publikationen/publikation/unsere-gemeinsame-digitale-zukunft LITERATUR /// 1 Merchant, B. How Google, Microsoft, and Big Tech Are Automating the Climate Crisis. https://gizmodo.com/how-google-microsoft-and-big-tech-are-automating-the-1832790799 (2019). /// 2 Riesewieck, M. Digitale Drecksarbeit: Wie uns Facebook & Co. von dem Bösen erlösen (dtv, 2017). /// 3 Michie, D. Trial and Error. In: Barnett, S.A., & McLaren, A.: Science Survey, Part 2, 129–145 (Penguin Books Ltd., 1961). } ///063 1 1 1 1 1 1