Nudging in the digital age

“Nudging” has been given a new dimension through Big Data in recent years: How and through which instruments can the combination of digitised personal data and the observations of the Behavioural Economics be used to influence the behaviour of citizens? Can big data-based nudging be used to establish a digitized control and surveillance state?

For many years, the accusation of paternalism against nudging has been extensively discussed in scientific literature as well as in public discourse. Fundamental insights to “nudging by government” are provided in the scientific findings of the Behavioural Economics. To underline the importance of nudging, Richard H. Thaler, American behavioural economists and pioneer in the field of nudging, was awarded the Nobel Prize for Economics in October 2017.

On a global level China’s social credit system has become more and more the focus of the debate. In 2014, the Chinese government announced, that it would implement one national social credit system by 2020 to record and evaluate the socio-cultural behaviour of its citizens – a technocratic and digital (surveillance) system that imposes sanctions to non-compliant behaviour first by malus points but in a further step also by social or economic exclusion. This is the picture drawn especially through the media.

Workshop: Nudging und digitale Plattformen

In seinem Vortrag Nudging with Chinese Characteristics? A preliminary study of the emerging Social Credit System(s) in China mit anschließender Diskussion zeichnete Dr. Maximilian Mayer (Research Professor an der Tongji University in Shanghai) am 10. Januar 2018 ein differenziertes und für viele TeilnehmerInnen neues Bild des Social Credit Systems.

Um gleich der Vorstellung eines sich etablierenden totalitären Überwachungsstaates im Orwell’schen Sinne ihre Wirkkraft zu nehmen: Das eine umfassende Social Credit System, das bis 2020 Chinas Gesellschaft kontrollieren und lenken soll, werde es in der propagandierten Form nicht geben, so Maximilian Mayer. Wahrscheinlicher sei, dass es eine Vielzahl an digitalen und Big-Data-basierten Sozialkredit-Systemen in diversen Modi und auf verschiedenen staatlichen, wirtschaftlichen und gesellschaftlichen Ebenen geben werde.

Das Voranschreiten der digitalen Transformationen in allen Lebensbereichen ließe sich besonders in China durch den, im Vergleich zu den westlichen Industriestaaten, rasanten gesellschaftlichen Wandel beobachten, so Mayer. Sei man in den 1990er Jahren noch davon ausgegangen dass die Digitalisierung die autoritären Regime im 21. Jahrhundert verdrängen werde, formiere sich innerhalb der Volksrepublik China ein gegenteiliges Beispiel. Der autoritäre Staat hätte sich – im Sinne eines Authoritarianism 2.0 – die Digitalisierung zu eigen gemacht. Dabei sei stets zwischen Propaganda, Nudging und Überwachung (Surveillance) zu differenzieren. Innerhalb dieser drei konzeptionellen Kategorien agierten jeweils unterschiedliche Akteure, z.B. Parteiorgane (Propaganda), staatliche Behörden (Nudging) oder die Polizei im Bereich der öffentlichen Sicherheit (Surveillance) mittels verschiedenartiger Medien und differierenden Zielen.

Sesame Score: Nudging with Chinese Characteristics

Bedingt durch den avisierten digitalen Authoritarianism 2.0, so Mayer, lägen den sozialen Bonitätssystemen in China spezifische Charaktereigenschaften zugrunde. Zunächst ließen sich multiple – privatwirtschaftliche und staatliche – Akteure ausfindig machen, die in die gegenwärtigen Big-Data-basierten Scoring- und Nudging-Prozesse auf verschiedensten Plattformen eingebunden seien. Diese Akteure, die für die laufenden und sich etablierenden Kreditbewertungssysteme verantwortlich seien, ließen sich auf drei interdependenten Ebenen verorten: auf nationaler Ebene (z.B. die schwarze Liste des Obersten Volksgerichtshofs der VR China), auf Provinz-Ebene (Social Credit System in Rongcheng) oder auf der Ebene von wirtschaftlichen Unternehmen (Sesame Credit Ranking). Sesame Credit gehöre dabei zu den derzeit größten Kreditagenturen und ist Teil des mächtigen IT-Unternehmens Alibaba.

„The higher the scores, the lower chance the user may default“

Alibaba beschreibt Sesame Credit auf der eigenen Homepage dabei wie folgt:

„Sesame Credit is the first credit agency in China to use a scoring system based on online and offline data to generate individual credit scores for consumers and small business owners. […] Sesame Credit’s services are expected to be applied in a slew of daily life scenarios. For example, landlords will be able to check potential tenants’ credit scores; employers will be able to make better hiring decisions by checking the credit histories of job applicants; users with good creditworthiness can rent a car without paying a deposit. Sesame Credit is testing the service with some of China’s hotels, which are allowing travelers with superior sesame credit ratings to book and stay without paying in advance. In addition, Sesame Credit is also conducting a test program with a Chinese online dating site that allows suitors to check their potential dates’ credit ratings to make sure they are not meeting someone who is dishonest or untrustworthy. The credit information can only be accessed with candidates’ permission.“

Der zu erreichende Score liegt zwischen 350 und 950 Punkten und besteht aus einer unterschiedlich gewichteten Daten-Komposition, die sich aus der Kredithistorie, dem bisherigen Konsumverhalten und den damit verbundenen Präferenzen, den bisherigen Vertragserfüllungen sowie den persönlichen Charaktereigenschaften und den sozialen Beziehungen einer Person zusammensetzt.

Quelle: Extra Credits | YouTube | 0:33

An dieser Stelle verwies Maximilian Mayer nochmals darauf, dass die Schaffung eines einzigen Social Credit Systems sehr unwahrscheinlich sei. Die derzeitige Situation, bedingt durch die beteiligten privatwirtschaftlichen Akteure, staatlichen Ministerien sowie deren Bürokratien, sei zu hoch fragmentiert und pluralistisch geordnet. In den kommenden zwei Jahren sei die Schaffung und der Ausbau einer Zentralisierung, hin zu einem übergeordneten Scoring-System, schlichtweg nicht möglich.

Nudging ist nicht gleich Nudging

Deutlich wurde auch: Es gibt verschiedenste Techniken des Nudgings, von der bloßen Anreizschaffung durch verschiedene Applications über das Scoring des Verhaltens bis hin zur Gamification, sprich einer Spielifizierung mit dem Charakter eines Belohnungssystems.

Die an den Vortrag anschließende Diskussion spiegelte dabei auch den zeitgenössischen Diskurs und die Kontroversen um den libertären Paternalismus und dessen Charakter eines Oxymorons wieder. Dass es neben der wissenschaftlich kanonischen Konzeption des Nudges nach Richard H. Thaler und Cass R. Sunstein realpolitisch verschiedene Auffassungen darüber gibt, was das (staatliche) Nudging charakterisiert, wurde im gemeinsamen Austausch abermals deutlich. Erfolgt ein staatlicher Nudge geheim oder nicht? Oder vielmehr: Sollte ein staatlicher Nudge, inklusive seiner Wirkungen und Mechanismen, klandestin erfolgen?

So wurde aus dem Kreis der TeilnehmerInnen auch angemerkt, dass das Scoring-System als ein Belohnungs- und Bestrafungssystem im Sinnen Skinners beleuchtet werden könne – Soziale Konditionierung im digitalen Zeitalter.

Big Data & Nudging: Forschungsprojekt am HIIG

Wo beginnt staatliches Nudging und wo endet es in autoritärer Überwachung? Wie werden die Sozialkredit-Systeme im Jahr 2020 aussehen? Wird sich die Idee des Social Scorings auch in den westlichen Industriestaaten etablieren und ausbreiten? Abschließend konnten diese Fragen freilich nicht beantwortet werden. Wohl aber gab der Workshop die Möglichkeit, ein sehr detailliertes Bild über den Status Quo und die nahe Zukunft des Social Scorings in China zeichnen zu können.