KI und Gesellschaft

Kapitel I, § 6

§ 6. Arten legitimer algorithmischer Ordnung: Konvention, Recht, Code

Runde 3: indirekte Zitation und begriffliche Verdichtung

Symbolische Grafik: Arten legitimer algorithmischer Ordnung

§ 6 differenziert die Ordnungsträger, die § 5 begrifflich vorbereitet hat. Algorithmische Ordnung gilt nicht in einem einzigen Medium. Sie liegt zugleich in Gewohnheiten der Nutzung, in technischen Standards, in Plattformregeln, in Organisationsvorschriften, in staatlichem Recht und in der Architektur des Codes. Gerade deshalb darf Legitimität nicht mit Gesetzlichkeit verwechselt werden: Eine KI-bezogene Praxis kann rechtlich erlaubt, organisatorisch verlangt, technisch voreingestellt und sozial dennoch bestritten sein.

Konventionen entstehen dort, wo Nutzer:innen, Entwickler:innen, Administrator:innen und Organisationen wiederholt so handeln, als sei eine bestimmte algorithmische Vermittlung selbstverständlich. Suchrankings werden konsultiert, Empfehlungssysteme antizipiert, Prompts nach erprobten Mustern gebaut, Scores in Entscheidungen einbezogen. In Webers Sinn handelt es sich dabei um eine Chance regelmäßiger Orientierung an erwartbarem Verhalten; die Ordnung lebt nicht im einzelnen Befehl, sondern in der sozialen Erwartbarkeit seiner Befolgung (Weber, 1978). Algorithmische Konvention ist deshalb besonders stabil, wenn sie weder ausdrücklich geboten noch ausdrücklich gerechtfertigt werden muss.

Technische Normen und Standards bilden eine zweite Schicht. Sie regulieren nicht vor allem durch Sanktion, sondern durch Kompatibilität: Wer Schnittstellen, Datenformate, Authentifizierungsverfahren oder Modellarchitekturen nicht einhält, nimmt an bestimmten Beziehungen faktisch nicht teil. Infrastrukturforschung hat gezeigt, dass solche Klassifikationen und Standards selten neutral sind; sie ordnen Arbeit, Sichtbarkeit und Verantwortlichkeit, gerade weil sie im Alltag unscheinbar werden (Bowker & Star, 1999). Für KI-Systeme bedeutet dies: Was als gültige Eingabe, verwertbarer Datensatz, akzeptable Metrik oder auditierbarer Prozess erscheint, ist bereits sozial vorsortiert.

Plattformregeln bilden eine dritte, besonders folgenreiche Ordnung. Sie stehen zwischen Vertrag, Hausordnung, Geschäftsmodell und Öffentlichkeit. Plattformen moderieren Inhalte, strukturieren Reichweite, verwalten Zugänge und übersetzen diese Praktiken zunehmend in automatische oder teilautomatisierte Entscheidungsroutinen. Gillespie zeigt für Content-Moderation, dass Plattformen ihre öffentliche Rolle gerade dadurch herstellen, dass sie Grenzen setzen, obwohl sie sich rhetorisch gern als neutrale Vermittler darstellen (Gillespie, 2018). Für die hier entwickelte Kategorienlehre heißt das: Plattformregeln sind nicht bloß private Nutzungsbedingungen, sondern Ordnungsformen mit öffentlicher Wirkung.

Recht setzt eine weitere Schicht, aber es tritt nicht als äußerlicher Nachtrag zur Technik hinzu. Digitale Ordnungen werden rechtlich mitgebaut, während technische Architekturen zugleich regulierende Kraft gewinnen. Lessigs berühmte Formel, dass Code eine regulative Form sei, bleibt dafür heuristisch wichtig, sofern sie nicht technisch verkürzt wird: Code ersetzt Recht nicht, sondern verschiebt, verdichtet und operationalisiert Handlungschancen (Lessig, 2006). Cohen hat entsprechend gezeigt, dass Informationskapitalismus rechtlich konstruiert ist und seine Macht nicht außerhalb, sondern innerhalb institutioneller Arrangements ausbildet (Cohen, 2019).

Code wirkt schließlich als faktische Ordnung, weil er Möglichkeiten eröffnet, wahrscheinlicher macht, verteuert, erschwert oder sperrt. Diese Wirkung ist nicht identisch mit Legitimität. Ein Interface kann Nutzer:innen lenken, ohne ihre Anerkennung zu gewinnen; ein Modell kann Klassifikationen erzwingen, ohne dass die Betroffenen sie für berechtigt halten; eine API kann Zugang regeln, ohne demokratisch kontrolliert zu sein. § 6 hält deshalb fest: Algorithmische Ordnung ist plural. Ihre Legitimität entsteht aus dem Zusammenspiel verschiedener Ordnungsträger und bleibt genau dort fraglich, wo diese Träger einander verdecken.

Anschluss im Werk