»Der Algorithmus, der hat immer recht!«

Haben Sie heute schon dem Algorithmus geopfert? Vielleicht haben Sie ein Foto auf Instagram gepostet und inständig gehofft, dass »er« gnädig gestimmt ist und Sie nicht im digitalen Keller versteckt. Oder Sie haben sich über einen Song gewundert, den Spotify Ihnen vorgeschlagen hat – und ihn trotzdem gehört, weil »der Algorithmus« ja meistens recht hat.

Wir sprechen über diesen Haufen aus Wenn-Dann-Schleifen und statistischen Wahrscheinlichkeiten inzwischen wie über eine antike Gottheit. »Der Algorithmus hat meinen Post nicht ausgespielt«, klagen wir, als wäre eine missgünstige Fee am Werk gewesen. Diese Personifizierung ist unser erster großer Fehler. Sie ist die perfekte Ausrede, um die Verantwortung von den Menschen, die diese Systeme bauen, auf eine vermeintlich höhere, neutrale Instanz zu schieben.

Der Artikel als Podcast

Die Welt als Bug: Der Fluch des Solutionism

Hinter der glatten Fassade der Empfehlungslisten steckt eine knallharte Ideologie: der Solutionism (oder Technologische Solutionismus). Geprägt vom Publizisten Evgeny Morozov, beschreibt dieser Begriff den absurden Glauben des Silicon Valley, dass jedes menschliche Problem – von der Einsamkeit bis zur funktionierenden Demokratie – nichts weiter als ein Softwarefehler ist, den man mit ein paar Zeilen Code »debuggen« kann.

Das Ergebnis ist eine schleichende »Soylent-isierung« unserer Gesellschaft. Genau wie das gleichnamige Flüssigfutter aus Science-Fiction-Dystopien wird unsere Kultur zu einem geschmacksneutralen Nährbrei verarbeitet. Alles, was sperrig, komplex oder unvorhersehbar ist, wird vom Algorithmus aussortiert, weil es die Reibungslosigkeit stört. Wir werden auf »Engagement-Scores« reduziert. Wir sind keine Bürger mehr, keine Liebenden, keine Suchenden – wir sind nur noch Datenlieferanten für den Dataism, die neue Weltreligion, die uns lehrt, dass wir der App mehr vertrauen sollten als unserem eigenen Bauchgefühl.

Die Verschiebung der Macht

Was als praktischer Spam-Filter begann, hat sich zum Gatekeeper unseres Lebens aufgeschwungen. Wir befinden uns in einer Ära der algorithmischen Gouvernementalität. Das klingt akademisch, bedeutet aber schlicht: Wir werden regiert, ohne dass jemals eine Wahl stattgefunden hat. Der Code bestimmt, welchen Job wir bekommen, welche Nachrichten wir lesen und wen wir daten.

Das Problem ist nicht, dass die Maschine uns beherrscht. Das Problem ist, dass wir so verdammt bereitwillig aufgehört haben, selbst zu wählen, nur weil es so herrlich bequem ist. Wir haben die Freiheit gegen die Optimierung eingetauscht. Doch wie wir sehen werden, hat diese Optimierung einen blutigen Preis – besonders dort, wo Biologie auf Business-Logik trifft.

Die toxische Realität: Wenn die Black Box das Kommando übernimmt

Es ist leicht, über »Solutionism« zu philosophieren, solange man gemütlich auf der Couch sitzt und sich von Netflix die nächste Serie vorkauen lässt. Doch die algorithmische Herrschaft ist kein abstraktes Gedankenspiel. Sie hat Zähne. Und sie beißt dort am festesten zu, wo Menschen am verwundbarsten sind: am Arbeitsplatz, im Krankenhaus und vor Gericht.

Die Fabrik-Hölle: Der Mensch als lästige Variable

Nehmen wir das Paradebeispiel für algorithmisches Management: Amazon. In den Logistikzentren des Konzerns ist der Chef kein Mensch aus Fleisch und Blut, sondern ein gnadenloses System aus Sensoren und KPIs (Key Performance Indicators). Dieses System kennt keine Müdigkeit, keine Regelschmerzen und keine menschliche Notdurft.

Es ist ein offenes Geheimnis, dass Amazon-Fahrer und Lagerarbeiter in Flaschen urinieren, weil der Algorithmus die Routen so eng taktet, dass eine Fahrt zur Toilette das Ende der »Efficiency-Rate« bedeuten würde. Das ist die logische Konsequenz des Solutionismus: Wenn das Ziel die maximale Effizienz ist, wird Biologie zum Systemfehler. Wer nicht spurt, wird vom System aussortiert – ein Prozess, der als »Robo-Firing« bekannt wurde. Hier gibt es kein klärendes Mitarbeitergespräch. Die App schickt dir die Kündigung, weil die Statistik es so will.

Profit über Puls: Algorithmen im Gesundheitswesen

Noch brutaler wird es, wenn Algorithmen über Leben und Tod entscheiden. Der US-Krankenversicherer UnitedHealthcare nutzte eine KI namens nH Predict, um vorherzusagen, wie lange Patienten Pflege benötigen. Klingt nach einer sinnvollen Ressourcenplanung? In der Realität war es ein Todesurteil für die Autonomie. Der Algorithmus ordnete systematisch den Abbruch von Behandlungen an – oft gegen den ausdrücklichen Rat der Ärzte.

Untersuchungen zeigten eine Fehlerquote von 90 Prozent, doch das System wurde weiterlaufen gelassen, weil es die Kosten senkte. Hier sehen wir das wahre Gesicht der algorithmischen Gouvernementalität: Eine Black Box, deren Entscheidungen nicht hinterfragt werden können, entzieht Schwerstkranken die Lebensgrundlage, um die Quartalszahlen zu optimieren.

Der amoralische Optimierer: Uber und die Geiselnahme

Algorithmen haben kein Gewissen. Sie haben nur Ziele. Das wurde schmerzhaft deutlich, als während einer Geiselnahme in Sydney die Uber-Preise in der Umgebung explodierten. Warum? Weil das »Surge Pricing«-Modell einen Anstieg der Nachfrage registrierte und völlig logisch (nach den Gesetzen des Marktes) die Preise nach oben trieb.

Der Algorithmus »wusste« nicht, dass Menschen um ihr Leben rannten. Er sah nur Datenpunkte. Dieser Vorfall entlarvt die gefährliche Naivität des Solutionismus: Die Annahme, dass man soziale Dynamiken ohne ein moralisches Korrektiv steuern kann, führt direkt in die Barbarei. Ein Algorithmus ist ein Soziopath aus Silizium.

Kodifizierte Vorurteile: Rassismus in Mathe-Gewand

Besonders perfide wird es, wenn wir glauben, der Algorithmus sei »objektiv«. Systeme wie COMPAS, die in den USA zur Berechnung der Rückfallwahrscheinlichkeit von Straftätern eingesetzt werden, haben nachweislich rassistische Bias. Schwarze Angeklagte wurden systematisch als riskanter eingestuft als weiße – selbst bei geringfügigeren Vergehen.

Mathematik wird hier zur Waffe, die bestehende gesellschaftliche Ungerechtigkeiten nicht nur abbildet, sondern zementiert. Weil die Daten aus einer rassistisch geprägten Vergangenheit stammen, spuckt der Algorithmus eine rassistisch geprägte Zukunft aus. Aber weil es »der Algorithmus« ist, wirkt das Urteil unanfechtbar und neutral.

Der Pakt mit dem Teufel

Wir müssen uns fragen: Wie konnten wir das zulassen? Die Antwort ist so simpel wie deprimierend: Wir haben einen Pakt geschlossen. Wir haben unsere Autonomie gegen eine Welt eingetauscht, in der wir nie wieder nach dem Weg fragen müssen, nie wieder nach einem passenden Song suchen müssen und nie wieder eine Entscheidung treffen müssen, die uns kognitiv überfordert.

Aber dieser Pakt hat einen Haken. Wenn wir dem Algorithmus die Führung überlassen, verlieren wir die Fähigkeit zur Resilienz. Wir verlernen, mit der Unvorhersehbarkeit des Lebens umzugehen. Doch bevor wir den Stab endgültig über die Technik brechen, müssen wir – der Fairness halber – auch die andere Seite der Medaille betrachten. Denn der Algorithmus ist nicht nur der Peitschenknaller bei Amazon, er ist manchmal auch der Retter in der Not.

Das faire Geständnis: Warum wir den Teufel zum Essen einladen

An dieser Stelle muss ich kurz innehalten. Wenn wir ehrlich sind, ist unsere Beziehung zum Algorithmus kein reiner Unterdrückungsroman. Es ist eine komplizierte »Ménage-à-trois« zwischen uns, unserer Faulheit und der Mathematik. Denn der Algorithmus ist nicht nur der Sklaventreiber bei Amazon – er ist manchmal auch der einzige Grund, warum wir morgens pünchtlich zur Arbeit kommen oder warum wir in der Flut an E-Mails nicht wahnsinnig werden.

Der Segen der Reibungslosigkeit

Seien wir fair: Wer von uns möchte heute noch ohne einen Spam-Filter leben, der uns täglich hunderte von betrügerischen Angeboten für Kryptowährungen und Potenzmittel vom Leib hält? Wer möchte bei einer Autobahnsperrung auf die gute alte Faltkarte zurückgreifen, statt sich von einem Navigationssystem in Echtzeit durch die Seitenstraßen leiten zu lassen?

Der Algorithmus ist ein Meister darin, die Nadel im Heuhaufen zu finden. Er nimmt uns die kognitive Schwerstarbeit ab, für die unser Gehirn schlicht nicht gemacht ist. In einer Welt, die pro Sekunde mehr Daten produziert, als ein mensch in hundert Leben verarbeiten könnte, fungiert er als unsere externe Großhirnrinde. Er sortiert, filtert und schlägt vor. Und oft – verdammt oft – liegt er damit goldrichtig.

Wenn Code zum Lebensretter wird

Es gibt Bereiche, in denen der Solutionismus tatsächlich liefert – und zwar jenseits von Profitmaximierung und Überwachung. Wenn Googles Flood Hub durch die Analyse von Wetterdaten und Pegelständen Überschwemmungen präzise vorhersagt, rettet das Menschenleben. Wenn das System AlphaFold die Struktur von fast allen der Wissenschaft bekannten Proteinen entschlüsselt, ist das ein Quantensprung für die Medizin, der ohne algorithmische Hilfe Jahrzehnte gedauert hätte.

In diesen Momenten sehen wir, was möglich ist, wenn die Mathematik dem Gemeinwohl dient und nicht dem Shareholder-Value. Der Algorithmus ist hier kein Vormund, sondern ein hochpotentes Werkzeug. Er hilft uns, komplexe Klimamodelle zu verstehen oder neue Medikamente zu entwickeln. Das Problem ist also nicht die Existenz der Rechenvorschrift an sich.

Die Falle der Bequemlichkeit

Doch genau hier schnappt die Falle zu. Weil der Algorithmus uns beim Navigieren und beim Spam-Sortieren so hervorragend hilft, haben wir angefangen, ihm auch in Bereichen zu vertrauen, in denen er nichts zu suchen hat. Wir haben die Effizienz bei der Routenplanung mit der Weisheit bei der Lebensgestaltung verwechselt.

Wir sind wie ein Hausbesitzer, der einen automatischen Staubsaugerroboter gekauft hat und so begeistert von dessen Gründlichkeit ist, dass er ihn am nächsten Tag bittet, die Erziehung der Kinder und die Verwaltung des Familienerbes zu übernehmen. Wir haben das Werkzeug zum Souverän erhoben.

Das »faire« Geständnis lautet also: Wir genießen die Privilegien der Entmündigung. Wir schätzen die algorithmische Gouvernementalität immer dann, wenn sie uns die Anstrengung des Suchens und Entscheidens abnimmt. Doch dieser Komfort ist die Währung, mit der wir unsere Autonomie bezahlen. Wir haben uns eine Welt erschaffen, die so reibungslos ist, dass wir darin keinen Halt mehr finden. Wir gleiten durch ein Leben, das für uns optimiert wurde, ohne dass wir noch wissen, wo wir eigentlich hinwollten.

Die politische Abrechnung: Der leise Putsch von oben

Während wir uns darüber freuen, dass uns die App das lästige Suchen abnimmt, findet im Hintergrund ein Machtwechsel statt, der die Grundpfeiler unserer Demokratie unterspült. Wir sprechen hier nicht von einer plötzlichen Revolution, sondern von einem leisen, schleichenden Putsch.

Der Rohstoff Mensch: Willkommen im Überwachungskapitalismus

Wir müssen uns von einer Illusion verabschieden: Wir sind in diesem Spiel nicht die Kunden. Wir sind nicht einmal das Produkt. Wir sind der Rohstoff. Die Harvard-Professorin Shoshana Zuboff hat dafür den Begriff des Überwachungskapitalismus geprägt.

Das Geschäftsmodell ist so simpel wie perfide: Alles, was wir tun, jedes Zögern beim Scrollen, jeder Klick, jede Bewegung im Raum, wird als »Verhaltensüberschuss« geerntet. Algorithmen verarbeiten diese Daten, um Vorhersageprodukte zu erstellen, die dann auf »Verhaltens-Terminmärkten« verkauft werden. Es geht nicht darum, uns zu bedienen – es geht darum, unser zukünftiges Verhalten zu berechnen und zu beeinflussen. Der Algorithmus ist das Skalpell, mit dem unsere Autonomie Stück für Stück herausoperiert wird, um sie gegen Profitabilität einzutauschen.

Algorithmische Gouvernementalität: Regieren ohne Politik

Was passiert, wenn diese Logik die staatliche Ebene erreicht? Wir gleiten in eine Ära der algorithmischen Gouvernementalität. Es bedeutet, dass gesellschaftliche Probleme nicht mehr politisch verhandelt, sondern statistisch verwaltet werden.

Wenn ein Algorithmus über die Kreditwürdigkeit entscheidet, über die Zuweisung von Sozialleistungen oder über die Wahrscheinlichkeit, dass ein Schüler sein Abitur schafft, dann verschwindet die Politik hinter einer Wand aus Mathematik. Eine Black Box trifft Entscheidungen, die lebensverändernd sind, aber sie sind nicht mehr anfechtbar, weil sie als »objektive Daten« getarnt werden. Wir ersetzen den demokratischen Diskurs durch das Diktat des Scores. Wer durch das Raster fällt, hat kein Gegenüber mehr, mit dem er streiten könnte – er hat nur noch einen Error-Code.

Die Zersplitterung der Realität: Echo-Kammern als Profitquelle

Der Algorithmus hat ein klares Ziel: Er will, dass wir bleiben. Und nichts hält uns länger auf einer Plattform als starke Emotionen – allen voran Wut und Empörung. Die Empfehlungslogik von sozialen Netzwerken ist darauf programmiert, uns in Echo-Kammern zu isolieren. Wir sehen nur noch das, was unser Weltbild bestätigt, und werden mit immer extremeren Inhalten gefüttert, um unsere Aufmerksamkeit zu binden.

Das Ergebnis ist eine toxische Fragmentierung der Öffentlichkeit. Wir verlieren die Fähigkeit, uns auf eine gemeinsame Faktenbasis zu einigen, weil jeder von uns in seiner eigenen, algorithmisch kuratierten Realität lebt. Das ist kein Kollateralschaden, sondern ein Feature des Systems. Polarisation generiert Engagement, Engagement generiert Daten, Daten generieren Dollar. Der Preis dafür ist die Zerstörung des sozialen Zusammenhalts.

Die Verschiebung der Souveränität

Wir haben die Souveränität von gewählten Institutionen hin zu proprietären Black Boxes verschoben. Die großen Tech-Konzerne sind heute mächtiger als viele Nationalstaaten, weil sie die Infrastruktur unseres Denkens und Handelns kontrollieren. Wenn Mark Zuckerberg oder Elon Musk entscheiden, welche Algorithmen den Diskurs steuern, dann ist das keine private Unternehmensentscheidung mehr – es ist ein Eingriff in die verfassungsmäßige Ordnung.

Fazit & Widerstand: Den Sand ins Getriebe streuen

Nach all der Analyse und der berechtigten Wut stellt sich die alles entscheidende Frage: Sind wir der Black Box hilflos ausgeliefert? Müssen wir zusehen, wie der Solutionismus unsere Identität zu einem faden Nährbrei verarbeitet? Die Antwort lautet: Nein. Aber wir müssen aufhören, uns wie gut erzogene Datenlieferanten zu verhalten. Wir müssen lernen, wieder unberechenbar zu sein.

Individuelle Sabotage: Die Kunst der Obfuskation

Wenn das System uns als Rohstoff erntet, dann sollten wir diesen Rohstoff vergiften. Ein wirksames Mittel ist die sogenannte Obfuskation (Verschleierung). Tools wie AdNauseam tun genau das: Sie blockieren nicht nur Werbung, sondern klicken im Hintergrund auf jede Anzeige. Das überflutet den Algorithmus mit so viel Rauschen, dass das daraus erstellte Profil wertlos wird.

Wir müssen anfangen, unsere digitale Spur zu verwischen. Suchen Sie nach Dingen, die Sie nicht interessieren. Klicken Sie auf Links, die nicht in Ihr Weltbild passen. Seien Sie der »Fehler« im System, den der Code nicht glattbügeln kann. Widerstand beginnt im Kleinen – dort, wo wir uns der Vorhersehbarkeit verweigern.

Kollektive Notwehr: Das Recht auf den Menschen

Auf politischer Ebene ist der Kampf bereits entbrannt. Wir sind nicht mehr schutzlos. Mit der DSGVO Art. 22 haben wir bereits heute das »Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden«. Das ist unser Schutzschild gegen das »Robo-Firing« und die algorithmische Kreditvergabe.

Noch einen Schritt weiter geht der neue EU AI Act, das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Es verbietet beispielsweise Social Scoring nach chinesischem Vorbild und stuft Systeme in Risikoklassen ein. Das ist ein wichtiger Sieg der Politik über die algorithmische Gouvernementalität. Es zeigt: Wir können den Konzernen Grenzen setzen, wenn wir die Souveränität nicht kampflos abtreten.

Die Reparatur des Diskurses: Brücken statt Mauern

Auch technologisch gibt es Ansätze, die Spaltung zu heilen. Statt Algorithmen zu bauen, die uns tiefer in die Echo-Kammer treiben, können wir auf Bridging-based Ranking setzen. Diese Systeme belohnen Inhalte, die Menschen mit unterschiedlichen Meinungen zusammenbringen, anstatt sie gegeneinander aufzuhetzen.

Plattformen wie Ground News oder die Community Notes auf X (ehemals Twitter) zeigen, dass Transparenz und kollektive Faktenprüfung funktionieren können. Der Algorithmus muss nicht zwingend ein Spalter sein – er könnte auch ein Vermittler sein, wenn wir die Zielvorgabe von »Profit« auf »Gemeinwohl« umstellen.

Das Schlusswort: Ein Plädoyer für die Ineffizienz

Die härteste Abrechnung mit dem Algorithmus ist am Ende eine ganz persönliche: Wir müssen den Mut zur Ineffizienz zurückgewinnen. Der Solutionismus verspricht uns eine Welt ohne Reibung, aber Reibung ist das, was uns als Menschen ausmacht. In der Reibung entstehen Funken, neue Ideen und echte Begegnungen.

Ein Leben, das perfekt optimiert ist, ist ein totes Leben. Wenn wir nur noch das hören, was uns vorgeschlagen wird, nur noch das lesen, was unser Weltbild bestätigt, und nur noch das tun, was die App für effizient hält, dann haben wir aufgehört, Subjekte unserer eigenen Biografie zu sein.

Der Algorithmus ist nur so stark, wie wir berechenbar sind. Fangen wir also an, das Unvorhersehbare zu suchen. Gehen Sie analoge Umwege. Lesen Sie ein Buch, das Ihnen ein fremder Mensch in die Hand gedrückt hat. Sprechen Sie mit jemandem, dessen Meinung Sie eigentlich ablehnen. Seien Sie ineffizient, seien Sie laut, seien Sie unoptimiert.

Der Algorithmus kennt viele Datenpunkte – aber er kennt Sie nicht. Und es ist an der Zeit, dass wir dafür sorgen, dass das auch so bleibt. Denn sonst klingt unsere Nationalhymne bald so: