“The user is always right” has been a dominating Silicon Valley mantra for over a decade. It is not only a question of superficialities such as interface design but deeply shapes the internet and the policies around it. The focus on users has been interpreted as democratizing but latest with scandals like the Snowden revelations or Cambridge Analytica’s attempts to manipulate US elections through Facebook, this shiny image has faded. Still, the internet economy largely rests on user trust. The burden of assessing the risks related to platform usage is mostly on them.

Together with my colleague Patrick Sumpf, we analyze this problem with the help of system theory in a recent German article for the renowned sociology journal Soziale Welt. The text appeared in a special edition on Digital Sociology edited by Sabine Maasen and Jan-Hendrik Passoth:

König, R. and Sumpf, P. (2020): Hat der Nutzer immer Recht? Zum inflationären Rückgriff auf Vertrauen im Kontext von Online-Plattformen. Soziale Welt, Sonderband 23, Soziologie des Digitalen – Digitale Soziologie?

Abstract (German):
Online-Plattformen bilden die Infrastruktur für einen schnellen und simplen Austausch zwischen verschiedenen Interaktionspartnern (z.B. Nutzer, Entwickler, Werbende). Auf der einen Seite wurde das plattform-basierte Web 2.0 durch seine einfach bedienbaren Oberflächen für die breite, auch weniger technisch affine Bevölkerung nutzbar. Auf der anderen Seite führte dies zu einem gesteigerten Black-Boxing der hintergründigen sozio-technischen Komplexität des Netzes. Gleichzeitig werden Risiken und Unsicherheiten zu einem großen Teil auf die Nutzer übertragen, denn von diesen wird erwartet, dass sie bei der Zustimmung zu Geschäftsbedingungen (und weiteren Regelwerken) informierte Entscheidungen treffen. Das hier emergierende System basiert somit fundamental auf Vertrauen in und durch Nutzer. Diese Vertrauensbasierung wird im Zeitalter von Big Data und dem Internet der Dinge weiter verstärkt, indem sich die digitale und die physische Welt zunehmend vermischen und Datenflüsse noch intransparenter werden. Wir analysieren diese Entwicklung aus der Perspektive der Vertrauensforschung und folgern, dass Nutzervertrauen inflationäre Ausmaße angenommen hat – mit weitreichenden Implikationen für die Governance von Plattformen und die digitale Soziologie.