Unsere vernetzte Welt verstehen
Die Sozialordnung der digitalen Gesellschaft
Daten sind in der heutigen digitalen Ökonomie so bedeutsam, dass viele BeobachterInnen von ihnen als „Öl des 21. Jahrhunderts“ sprechen. Diejenigen Unternehmen, die am meisten Daten sammeln, haben einen entscheidenden Wettbewerbsvorteil. Die ertragreichen Geschäftsmodelle von Internetriesen wie Google, Amazon oder Facebook basieren darauf, NutzerInnen miteinander in Interaktion zu bringen und dadurch große Mengen von wertvollen Daten zu generieren. Diese Grundstruktur der Datenökonomie beschreibt Marion Fourcade als einen faustischen Pakt – im Tausch für die kostenfreien Dienste im Internet müssen wir unsere Seele in Form unserer Privatsphäre preisgeben.
Am 7. Mai 2018 führte Marion Fourcade die Redenreihe Making Sense of the Digital Society fort. Fourcade ist Professorin für Soziologie an der University of California in Berkeley und Direktorin am Max Planck-Science Po Center on Coping with Instability in Market Society in Paris. In ihrem bald erscheinendem Buch „The Ordinal Society“ beschäftigt sie sich mit neuen Formen sozialer Stratifizierung und Moral in der digitalen Ökonomie.
Passenderweise legte Marion Fourcade nur wenige Tage nach Karl Marx 200. Geburtstag den Fokus auf Fragen der sozialen Ungleichheit und Exklusion in der digitalen Gesellschaft. In ihrem Vortrag zur Sozialordnung der digitalen Gesellschaft setzte sie sich mit den sozialen Folgen der heutigen Datensammelpraktiken auseinander.
Das ökonomische Interesse an persönlichen Daten besteht nicht erst seit der Digitalisierung, hält Fourcade fest. Das Kreditwesen in den USA begann bereits in den 1840er Jahren, Informationen über HändlerInnen zu sammeln, um deren Kreditwürdigkeit zu evaluieren. In den 1870ern wurde damit begonnen, Informationen über KonsumentInnen zu nutzen. In den 1970er und 80er Jahren fand eine Konzentration des Kreditauskunftswesens statt, die mit der zeitgleich stattfindenden Computerisierung dafür sorgte, dass immer präzisere finanzielle Identitäten entstanden. So entstand eine immer differenzierte Klassifizierung von Personen, welche die Bedingungen zur Vergabe eines Kredits festlegte – der sogenannte „Credit Score“ war geboren. Das für die digitale Gesellschaft charakteristische Modell individualisierter Profile hat also seinen Ursprung im Finanzwesen. Die Logik der Quantifizierbarkeit und Effizienzsteigerung breitet sich nun auf weitere Bereiche – wie den Versicherungs-, Gesundheits- oder den Arbeitsmarkt – aus, und beeinflusst unsere Lebenschancen in vielerlei Hinsicht.
"Applying for credit was the original sin of modern consumer surveillance.“ Marion Fourcade w/reference to Josh Lauer’s history of consumer credits (Creditworthy, https://t.co/jqQoLrUydi) #DigitalSociety
— Christian Katzenbach @cka@aoir.social (@ckatzenbach) May 7, 2018
Als gesellschaftliche Implikation dieser Entwicklung diagnostiziert Fourcade das Entstehen eines Regimes der Sichtbarkeit. Im digitalen Zeitalter werden unsere Möglichkeiten der Quantifizierung und Evaluierung unserer Tätigkeiten zu entkommen zunehmend geringer. Eine Gesellschaft von gläsernen Bürgern entsteht. Transparenz entsteht hierbei jedoch nur einseitig. Denn während wir immer transparenter werden, wird der Umgang der Unternehmen mit unseren Daten immer undurchsichtiger. Der Versuch sich diesem Trend durch eine Rückkehr zum Analogen zu entziehen, scheint keine gangbare Lösung darzustellen. Ganz im Gegenteil kann Unsichtbarkeit sogar negative Konsequenzen mit sich bringen: Denn auch dies ist eine Art von evaluierbarem Verhalten und stellt für viele Klassifizierungssysteme eine nicht-vertrauenswürdige Kategorie dar.
Visibility is a trap, but invisibility can be a trap, too. Marion Fourcade #DigitalSociety
— Piat/to/eva Nelli (@NelliPiattoeva) May 7, 2018
Eine US-Wissenschaftlerin, die im Selbstversuch ihre Schwangerschaft zu verbergen versuchte, indem sie ausschließlich mit Bargeld bezahlte, geriet beispielsweise ins Visier der Polizei, als sie mit einem Amazon-Warengutschein im Wert von 500 Dollar bezahlen wollte. Das Bezahlen mit Bargeld gilt in den USA als Merkmal von Personen mit geringem Einkommen. Deshalb wird es mit Kriminalität – wie zum Beispiel im konkreten Fall mit Geldwäsche – in Verbindung gebracht. Menschen, die in diese Kategorie fallen, leiden daher oft unter struktureller Diskriminierung. Marion Fourcade tauft diese Gruppe in Anlehnung an Karl Marx „Lumpenscoretariat“.
She said it! Lumpenscoretariat, my favourite word from Marion Fourcade ❤ @hiig_berlin @bpb_de lecture series pic.twitter.com/5O1RFVTttF
— Lena Ulbricht (@lena_ulbricht) 7. Mai 2018
Vieles von dem, was in früheren Zeiten im privaten Raum verborgen blieb, ist heute sichtbar. Pierre Bourdieu folgend spricht Fourcade dabei von einer neu entstandenen Kapitalform, dem „Überkapital“. Dieses ist zunächst einmal eine ironische Anspielung auf das Online-Dienstleistungsunternehmen Uber. Zugleich verweist es jedoch auf das deutsche Wort über – als Metakategorie und Verweis auf dessen Überlegenheit gegenüber individueller Selbstbestimmung. Als aggregierte Evaluierung unserer digitalen Spuren bestimmt das Überkapital unsere Position im sozialen Raum, entzieht sich jedoch weitestgehend unserer eigenen Einsicht und Kontrolle. Dadurch entscheidet es zunehmend über unseren Zugang zu Gütern, Dienstleistungen und letztlich auch über unsere Lebenschancen.
In our data economy, individuals are categorized on the basis of the sum of their digital interactions. This "Ubercapital" transcends a person's ability to shape her classification and is the emerging currency of the digital moral economy. Foucard @ #DigitalSociety @hiig_berlin
— Felix Beer (@felix_beer) May 7, 2018
Effizienz und Profite entstehen in der digitalen Gesellschaft dadurch, dass Menschen basierend auf algorithmischer Auswertung klassifiziert werden. Individuen geraten so zunehmend unter Druck, sich in ihrem Verhalten anzupassen und zu optimieren. Damit ist die digitale Ordnung der Klassifizierung auch eine moralische.
Zugleich verbergen sich in der Konzeption der Algorithmen oft strukturelle Diskriminierungen, wodurch Überkapital die Tendenz aufweist, bereits bestehende soziale Ungleichheiten weiter zu verstärken. Das orwellianische Potential der neuen digitalen Möglichkeiten sozialer Kontrolle ist derzeit in China zu beobachten. Dort erprobt die Regierung derzeit einen „Social Score“, der verschiedene Datenbanken zusammenführt, um das Verhalten von Unternehmen, Personen und Organisation ganzheitlich zu bewerten. Der Score entscheidet letztlich über den Zugang zu Leistungen und Gütern.
Social order created by categories and rankings hard to contest bcs there is no natural solidarity among people categorized in a certain way. In the end, 'it is just you': individual behavior determines outcomes, making it appear more legitimate #digitalsociety
— Dr. Stefan Baack | @tootbaack@mozilla.social (@tweetbaack) May 7, 2018
Die sich aus dieser Bewertungsökonomie ergebenden Ungerechtigkeiten und Formen der Exklusion zu politisieren, ist schwerer als in früheren Zeiten. Personen werden nicht mehr anhand von greif- und erfahrbaren Unterscheidungen – wie beispielsweise klassenspezifischen Statusmerkmalen – erfasst, sondern mittels eines scheinbar unsichtbaren und oft opaken Klassifizierungssystems individuell sortiert. Das Entstehen solidarischer Bande, die durch einen gemeinsamen sozialen Status oder durch geteilte Exklusionserfahrungen geknüpft werden können, wird so deutlich erschwert. Im Gegenteil vermittelt die moralisierende Logik des Überkapitals dem Individuum ein Gefühl der Eigenverantwortung für die eigene Lage und sich eventuell ergebende Benachteiligungen.
Historisch betrachtet mussten Menschen die Grundlage für kollektives Handeln immer erst aktiv schaffen, wie etwa durch die Erarbeitung eines geteilten Verständnisses über ihre gemeinsame Lage. Erst daraus können sich Narrative speisen, die politische Mobilisierung ermöglichen. Aufgrund dessen ist die derzeitige Debatte über die Digitalisierung und ihre gesellschaftlichen Implikationen so relevant: Sie ist ein erster Schritt für die Lösung neu entstehender Ungerechtigkeiten und Formen der Exklusion in der digitalen Gesellschaft.
Die Redenreihe Making Sense of the Digital Society wird am 24. September 2018 mit Stephen Graham fortgesetzt. Wenn Sie auf dem Laufenden bleiben möchten, können Sie hier unseren Veranstaltungsnewsletter abonnieren.
Dieser Beitrag spiegelt die Meinung der Autorinnen und Autoren und weder notwendigerweise noch ausschließlich die Meinung des Institutes wider. Für mehr Informationen zu den Inhalten dieser Beiträge und den assoziierten Forschungsprojekten kontaktieren Sie bitte info@hiig.de
Jetzt anmelden und die neuesten Blogartikel einmal im Monat per Newsletter erhalten.
Plattform Governance
Beschäftigte durch Daten stärken
Arbeitsplätze werden zunehmend datafiziert. Doch wie können Beschäftigte und Gewerkschaften diese Daten nutzen, um ihre Rechte zu vertreten?
Zwei Jahre nach der Übernahme: Vier zentrale Änderungen im Regelwerk von X unter Musk
Der Artikel beschreibt vier zentrale Änderungen im Regelwerk der Plattform X seit Musks Übernahme 2022 und deren Einfluss auf die Moderation von Inhalten.
Zwischen Vision und Realität: Diskurse über nachhaltige KI in Deutschland
Der Artikel untersucht die Rolle von KI im Klimawandel. In Deutschland wächst die Besorgnis über ihre ökologischen Auswirkungen. Kann KI wirklich helfen?