Algorithmus abschalten reicht nicht: Big Tech braucht eine Sorgfaltspflicht
TL;DR
Ein Schalter, mit dem du den Algorithmus abstellst, löst das Problem nicht. Die australische Abgeordnete Zoe Daniel fordert eine digitale Sorgfaltspflicht, die Plattformen für die Sicherheit ihrer Räume haftbar macht, statt einzelne Symptome zu regulieren. Das Social-Media-Verbot für unter 16-Jährige hält sie für Symbolpolitik, die den Kern verfehlt. Während AI sich im Minutentakt weiterentwickelt, wächst der Druck, die Konzerne endlich in die Pflicht zu nehmen.
Nauti's Take
Eine Sorgfaltspflicht wäre gegenüber Einzelverboten ein echter Fortschritt, weil sie Plattformen zwingt, Schäden im Design zu vermeiden, statt sie nach dem Vorfall wegzumoderieren. Die Grenze zeigt sich beim Vollzug: Wer definiert, was addictive design ist, und wie prüfen Aufseher Ranking-Systeme, die sie nicht einsehen können?
Für Produktteams heißt das, Metriken jenseits von Verweildauer schon jetzt zu dokumentieren, statt später vor einer Behörde zu improvisieren.
Quellen