§ 5. Begriff der legitimen algorithmischen Ordnung

Algorithmische Ordnung meint erwartbare Regelmäßigkeit durch Klassifikation, Empfehlung, Bewertung, Generierung oder Entscheidung. Legitimität entsteht, wenn diese Regelmäßigkeit nicht nur hingenommen, sondern als sachlich, rechtlich, nützlich, professionell oder unvermeidlich anerkannt wird. Die Anerkennung kann stabil sein, obwohl die Funktionsweise nur teilweise verstanden wird; gerade deshalb reicht technische Transparenz als Legitimationsersatz nicht aus. [weber1978] [anannycrawford2018]

Fünf vorläufige Legitimationsformen tragen den weiteren Aufbau: Genauigkeit, Verfahren, Expertise, Nutzen und Gewöhnung. Genauigkeit verspricht richtige Ergebnisse; Verfahren verspricht geregelte Prüfung; Expertise verspricht fachliche Zuständigkeit; Nutzen verspricht Entlastung oder Effizienz; Gewöhnung macht eine Ordnung selbstverständlich. Keine dieser Formen ist für sich hinreichend, und jede kann in Ideologie umschlagen, wenn sie andere Rechtfertigungsfragen verdrängt. [weber1978] [unesco2021]

Legitimität durch Genauigkeit ist besonders prekär, weil Metriken soziale Wertkonflikte nicht auflösen. Ein Modell kann statistisch leistungsfähig sein und dennoch diskriminierende, unverhältnismäßige oder nicht erklärbare Folgen hervorbringen. Legitimität durch Verfahren verlangt deshalb Dokumentation, Beschwerdemöglichkeiten, Verantwortungsadressaten und institutionelle Kontrolle, nicht nur bessere Benchmarks. [anannycrawford2018] [unesco2021]

Mit § 5 endet die erste begriffliche Bewegung des Kapitels. § 6 differenziert die Arten legitimer Ordnung nach Konvention, Recht und Code; § 7 fragt nach Geltungsgründen; § 8 führt den Kampf um Sichtbarkeit, Daten und Regulierung ein. Die Ordnung ist damit nicht das Ende des Sozialen, sondern der Punkt, an dem Konflikt, Schließung, Verband und Herrschaft erst soziologisch fassbar werden. [justlatzer2017] [beer2017]