§ 11. Zurechnung algorithmisch mitverursachten Handelns

§ 11 bestimmt Zurechnung als soziale Operation, nicht als bloße Rekonstruktion technischer Kausalität. Wo algorithmische Systeme handeln mitverursachen, entsteht selten eine lineare Kette von Absicht, Ausführung und Folge. Nutzer:innen formulieren Zwecke, Organisationen setzen Einsatzkontexte, Entwickler:innen und Datenpraktiken strukturieren Möglichkeitsräume, Modelle erzeugen Ausgaben, und nachgelagerte Institutionen machen daraus Entscheidungen. Die soziologische Frage lautet daher nicht, ob "die KI" verantwortlich ist, sondern wie Verantwortung, Haftung, Erklärung und Entlastung in solchen Konstellationen verteilt, bestritten oder verdeckt werden.

Der klassische Einwand gegen eindeutige Verantwortung in computerisierten Gesellschaften liegt im Problem der vielen Hände: Software entsteht in arbeitsteiligen, eigentumsrechtlich geschützten und technisch schwer durchschaubaren Produktionszusammenhängen, sodass Schuld und Zuständigkeit leicht zerstreut werden (Nissenbaum, 1996). Für lernende Systeme verschärft sich dieses Problem, weil Verhalten nicht immer vollständig vorausberechnet werden kann; die Diskussion um responsibility gaps beschreibt gerade diese Spannung zwischen praktischer Folgenmacht und schwer lokalisierbarer Verantwortung (Matthias, 2004; Mittelstadt et al., 2016). Das bedeutet jedoch nicht, dass Zurechnung verschwindet. Sie verlagert sich auf Verfahren, Rollen, Dokumentationspflichten, Aufsicht, Organisationsentscheidungen und auf die Frage, wer ein System unter welchen Bedingungen in Verkehr bringt.

Modelle werden in diesem Kompendium deshalb nicht als moralische Subjekte behandelt. Wenn von einem Modell gesagt wird, es habe diskriminiert, empfohlen, halluziniert oder entschieden, ist dies eine praktische Kurzform. Präziser ist: In einem Mensch-Maschine-Verbund ist eine Ausgabe erzeugt worden, die durch Trainingsdaten, Modellarchitektur, Interface, Nutzungssituation, Organisationsregeln und Deutungspraxis zur sozialen Folge wurde. Diese Unterscheidung hält die Grenze aus § 1 fest: Sinn liegt bei den Handelnden und in sozialen Deutungen, nicht im technischen System selbst. Zugleich bewahrt sie davor, technische Vermittlung durch den Hinweis auf "bloße Werkzeuge" zu verharmlosen.

Für die Zurechnung sind mindestens sechs Stellen zu unterscheiden: Nutzer:innen, die ein System zweckhaft verwenden; Betreiberorganisationen, die Einsatzfelder, Schwellenwerte und Kontrollroutinen festlegen; Entwickler:innen und Produktteams, die Architektur, Datenkurierung und Sicherheitsgrenzen gestalten; Datenketten, die Klassifikationen und historische Ungleichheiten mitführen; Modelle als operative Verdichtungen dieser Voraussetzungen; und Aufsichts- oder Prüfstellen, die Folgen sichtbar machen. Diese Stellen sind nicht gleichrangig, aber sie bilden gemeinsam das Feld, in dem Verantwortungsdiffusion entweder reproduziert oder begrenzt wird. Audits sind hier keine rein technische Nachkontrolle, sondern eine institutionelle Form, Zurechenbarkeit gegen Geheimhaltung, Komplexität und Organisationsinteressen zu stabilisieren (Raji & Buolamwini, 2019; Ananny & Crawford, 2018).

Der Paragraph bereitet damit § 12 vor. Sobald Zurechnung nicht mehr auf isolierte Einzelhandlungen passt, muss gefragt werden, welche Verbände diese Zurechnung tragen. Algorithmische Verantwortung ist dann weder individualistisch noch systemfatalistisch zu fassen. Sie ist eine Ordnungsfrage: Wer darf ein System einsetzen, wer muss es verstehen, wer kann es prüfen, wer trägt die Folgen, und wer besitzt die Macht, eine fehlerhafte Zurechnung überhaupt als Fehler anerkennen zu lassen?