Kontrolle und Macht im Zeitalter von Big Data

Hofmann, Jeanette Book Part — Published Version Kontrolle und Macht im Zeitalter von Big Data Provided in Cooperation with: WZB Berlin Social Science Center Suggested Citation: Hofmann, Jeanette (2018) : Kontrolle und Macht im Zeitalter von Big Data, In: Handbuch Internet of Things (IoT): Smart Services & Plattformökonomie. Technologien und Geschäftsmodelle im Fokus, ISBN 978-3-9818482-4-3, ayway media GmbH, Bonn, pp. 84-86, https://www.handbuch-iot.de/ This Version is available at: https://hdl.handle.net/10419/213085 Standard-Nutzungsbedingungen: Die Dokumente auf EconStor dürfen zu eigenen wissenschaftlichen Zwecken und zum Privatgebrauch gespeichert und kopiert werden. Sie dürfen die Dokumente nicht für öffentliche oder kommerzielle Zwecke vervielfältigen, öffentlich ausstellen, öffentlich zugänglich machen, vertreiben oder anderweitig nutzen. Sofern die Verfasser die Dokumente unter Open-Content-Lizenzen (insbesondere CC-Lizenzen) zur Verfügung gestellt haben sollten, gelten abweichend von diesen Nutzungsbedingungen die in der dort genannten Lizenz gewährten Nutzungsrechte. Terms of use: Documents in EconStor may be saved and copied for your personal and scholarly purposes. You are not to copy documents for public or commercial purposes, to exhibit the documents publicly, to make them publicly available on the internet, or to distribute or otherwise use the documents in public. If the documents have been made available under an Open Content Licence (especially Creative Commons Licences), you may exercise further usage rights as specified in the indicated licence. https://creativecommons.org/licenses/by-sa/3.0/de/ I Kapitel 2.1 I Kl & gesellschaftliche Auswirkungen HANDBUCH INTERNET OF THINGS I 84 Kontrolle und Macht im Zeitalter von Big Data Governance by Numbers: Die Datafizierung stellt Infrastrukturen, Prozesse und Organisationsformen auf den Prüfstand. Die TREND-REPORT-Redaktion sprach mit Prof. Dr. Jeanette Hofmann, Principal Investigator am Weizenbaum-Institut, über die Regulierungsleistungen datenbasierter Technologien. Frau Prof. Hofmann, womit beschäftigt sich Ihre Forschungsgruppe Quantifizierung und gesellschaftliche Regulierung im Kontext der Digitalisierung? Die Forschungsgruppe dreht die übliche Fragestellung um. Während derzeit die Sorge im Vordergrund steht, wie wir eine effektive Regulierung von Big Data, Algorithmen und künstlicher Intelligenz sicherstellen können, fragen wir danach, welche Regulierungsleistungen neue datenbasierte Technologien erbringen. "Governance by Numbers" lautet das Stichwort. Alles, was sich in Zahlen ausdrücken lässt, kann gemessen, verglichen und sortiert werden. Auf diese Weise si nd wir heute in der Lage, die Performanz von Schulen, Krankenhäusern oder Kommunalverwaltungen zu bewerten, aber auch unser individuelles tägliches Verhalten, sei es im Schlaf oder auf dem Sportplatz. Wir interessieren uns für die Veränderungen, die Quantifizierung bewirkt -im Großen wie im Kleinen. Welche Forschungslücke schließen Sie dabei? Es gibt viele historische Untersuchungen zur Entstehung der Statistik und der Normung von Maßeinheiten und zu den Folgen, die das für die vermessenen Bevölkerungsgruppen und Objekte hatte. In "Seeing like the State" erzählt der Autor James C. Scott die Geschichte, wie der Staat durch die Vermessung seiner Untertanen und ihrer Besitztümer die Grundlagen legte, um das Steuerwesen zu systematisieren und seine Macht zu festigen. Heute, im Zeitalter von Big Data, geht es auch um Kontrolle, Geld und Macht, aber die Zusammenhänge sind natürlich andere. Die wollen wir erforschen. Welche Rolle spielen dabei das IoT und HoT? Die Ausbreitung von IoT vervielfacht die Datenströme und schafft neue Wertschöpfungsquellen, zugleich eröffnet sie neue Formen der Kontrolle über Dinge und Menschen. Offensichtlich wird das anhand der Szenarien über "Sma rt Citie s", mit denen sich die Hoffnung auf große Effizienzgewinne verbindet. Zu er - warten ist jedoch, da ss die Datafizierung Infrastrukturen und Prozesse des urbanen Le - bens nicht einfach optimiert, sondern ihre HANDBUCH INTERNET OF THINGS Organisationsform auf den Prüfstand stellt. Denkbar wäre, dass das Plattformprinzip auch die Städte erfasst. Inwieweit wird die KI auf unsere politischen Entscheidungen wirken? Der Einsatz von künstlicher Intelligenz in der Politik kann etwa an das Prinzip der evidenzbasierten Politik anknüpfen. Dahinter verbirgt sich der Grundsatz, dass weniger normative Erwägungen gesellschaftlicher Wünschbarkeit als vorliegende Informationen ausschlaggebend für politische Entscheidungen sein sollen. In diesem Sinne könnten KI-gestützte Expertensysteme eingesetzt werden, um auf der verfügbaren Datenbasis Wirkungsszenarien für Maßnahmen zu errechnen und so politische Optionen zu bewerten. Das ist allerdings eine technokratische Vision, die man nur als postdemokratisch bezeichnen kann. Wie viel KI braucht unsere Gesellschaft in Zukunft? KI-gestützte Systeme werden zum Sortieren großer Datenmengen eingesetzt. Besonders + Verwandte Themen • Fachkräftemangel ausbremsen: Das IoT erfordert neues Lernen S.96 • Game-based Learning für das IoT-Zeitalter S. 100 • Digitales CRM: Verbesserung der Kundenansprache S. 128 • Mit KI die "Sustainable Development Goals" quantifizieren S. 182 Kapitel 2.1 I Kl & gesellschaftliche Auswirkungen I sinnvoll ist das, wenn es um Fragen geht, die mit herkömmlichen Methoden gar nicht oder nur unter größtem Aufwand bearbeitet werden können. Man denke etwa an die Ermittlung statistisch relevanter Korrelationen in der medizinischen Forschung. Schwieriger, weil zu Recht umstritten, ist der Einsatz von KI im Bereich der Automatisierung fachlicher Expertise, etwa in der Rechtsprechung, der Personalauswahl oder der Risikoabwägung im Bereich der Kinderund Jugendhilfe. Wo liegt die Verantwortung hinsichtlich der Festlegung und Definition moralischer Werte, auf deren Basis automatisierte Entscheidungssysteme arbeiten? Ethische Normen lassen sich bekanntlich nicht von oben verordnen, gesetzliche Rege - lungen dagegen schon. Auffallig an der ge - genwärtigen Diskussion um den Einsatz von KI ist der Fokus auf weiche moralische Standards. Meines Erachtens muss es darum gehen, verbriefte Grundrechte wie jenes auf Diskriminierungsfreiheit bereits in die Modellierung der Aufgabenstellung einzubeziehen, deren Bearbeitung dann algorithmisch optimiert werden soll. Die Ausbildung in der Informatik und die Sensibilisierung der KIAnwender können hier sicher viel Gutes be - wirken; ich würde aber gesetzliche Vorgaben nicht ausschließen. Müssen wir den Einsatz von Algorithmen gegenüber Nutzern in Zukunft noch transparenter gestalten und wenn ja, wie? Die Forderung nach Offenlegung von Algorithmen klingt einleuchtend, ist in der Praxis aber nicht einfach zu realisieren. Die neuere sozialwissenschaftliche Forschung gibt zu be - denken, dass Algorithmen ihre erwünschten 85 I I Kapi tel 2.1 I Kl & gesellschaftliche Auswirkungen HANDBUCH INTERNET OF THINGS I 86 Alles beginnt mit emer guten Ausbildung, dafür sind unsere Schulen aber zurzeit nicht gut gerüstet. Obwohl das Internet den Zugang zu Bildungsressourcen zm Prinzip erleichtert hat, scheint die Verteilung von Re - flexionskompetenzen m unserer Gesellschaft doch weitgehend derjenigen von anderen wertvollen Gütern zu entsprechen. + Über Prof. Dr. ]eanette Hofmann Prof. Dr. Jeanette Hofmann ist Politikwissenschaftlerin und leitet am Wissenschaftszentrum Berlin für Sozialforschung die Projektgruppe Politikfeld Internet. Am Weizenbaum-Institut leitet sie als Principal Investigator zwei Forschungsgruppen zu den Themen "De mokr atie und I www.handbuch-iot.de/autoren!j_hofmann wie auch unerwünschten Wirkungen erst im Zusammenhang mit den Dat ensätzen erzielen, auf deren Grundlage sie operier en . Transparenzgebote mü ssten also auch die sich beständig wandelnden Datensätze einbeziehen und auf mögliche Ve rzerrungen überp rüf en. Widerstände dagegen s ind nicht nur vom Datenschutz zu erwarten. Hier sind kreative Lö - sungen gefragt. Welche strategischen Grundlagen muss die Politik schaffen, um zukünftig digitale Teilhabe allen Mitgliedern der Gesellschaft zu ermöglichen? Alles beginnt mit einer guten Ausbildun g, dafür sind unsere Schulen aber z ur zeit nicht gut gerüstet. Obwohl d as Internet den Zuga ng zu Bildungsressourcen im Prinzip erleichtert hat, sc he int die Verteilung von Reflexionsko mp etenzen in un serer Gesellschaft doch we itgehend derjeni ge n von anderen wertvollen Gütern zu entsprechen. I I Digitalisierung" und "Quantifizieru ng und gesellschaftliche Re gulierung". Sie ist Gründungsdirektorin des Alexander von Humboldt Instituts für Internet und Gesellschaft und Professorin für Internetpolitik an der Freien Universität Berlin. Der T ex t ist unter der Li ze nz CC BY -SA 3. 0 DE verfügbar. Li ze nzb es timm ungen unt er: https://creat iv eco mm ons.or g! l ic enses!by-sa/3.0/d e/