Was Joseph Goebbels Hassreden jetzt in dieser Diskussion zu suchen haben sollen, kann ich nicht nachvollziehen.

Mein Interesse an dem Selbstverständnis „der Programmierer“ rührt aus meinen bereits erwähnten Erfahrungen hinsichtlich der technischen Entwicklungen im Bereich des autonomen Fahrens, insbesondere, was die Programmierung sogenannter „Notfallalgorithmen“ (Wer wird im tragischen Zweifelsfall zum Opfer auserkoren?) betrifft. Dabei wurde - arg verkürzt gesagt - schon deutlich, dass sich eine quantifizierende utilitaristische Rechtsethik wesentlich besser mit den quantitativen Entscheidungsmustern technischer Informationssysteme verträgt. Sie lassen sich etwa im Gegensatz zu komplexen ethischen Abwägungen (insbesondere für jeweilige Einzelfälle) wesentlich leichter programmieren. Die Politik, insbesondere in Gestalt des Verkehrsministeriums, zeigt(e) sich da erst einmal sehr industriefreundlich, und wich und weicht den daraus resultierenden Fragen eher aus.

Ein renommierter Jura-Professor äußerte dazu, die für mich nachvollziehbare Befürchtung:

„Die Programmierer könnten so faktisch darüber entscheiden, welchen Prinzipien das Recht folgt. Etwas prononciert ausgedrückt: Aus einer Herrschaft des Rechts würde eine Herrschaft des Algorithmus.“

Was, in Bezug auf die Erfahrungen, dass eine staatliche, bzw. gesellschaftliche Kontrolle den technischen Entwicklungen oft hinterherhinkt (z.B. Datenschutz),
bedeuten würde, dass die Regeln der Informatik die Regeln der angewandten Ethik bestimmen, oder auch: Je autonomer die Maschinen, desto maschineller die Moral.

Von daher ist das schon etwas anders als das, was ein Elektriker oder auch einzelner Arzt macht.

Die hochqualifizierten Programmierer, mit denen ich dazu sprach, zeigten sich hinsichtlich der skizierten Problematik meist weniger interessiert oder aber überfordert, bzw. offen hilfesuchend, weil sie durchaus ahnten, dass sie sich auf einem schwierigen Gelände bewegen.

Interessant finde ich allerdings Deine Differenzierung zwischen „Algorithmen-Architekten“ und Programmierern, die Clive Thompson oder zumindest erstmal Adrian Lobe nicht machen. Auch mir fällt es schwer, zwischen diesen beiden Gruppen eine klare Trennlinie zu ziehen.

@Jörn Klare Ich meine, die Hassreden stammen nicht von den Algorithmen und nicht vom Radio. Die Technik verteilt sie nur. Das man über die digitalen Infrastrukturen Haßreden verteilen kann unterscheidet sie also nicht. Auch Buchdruck und Radio konnten das. Letztendlich geht es um das Verbannen und damit die Kontrolle solcher Extreme. Das geht auch mit Algorithmen - wenn man will z.B. über die Feststellung der Identität.
Ich weiß nicht, wie die ethische Abwägung in den Köpfen von Menschen so ablaufen im Falle eines Unfalles. Im Zweifelsfalle versuchen wohl ohne komplexe ethische Abwägungen die meisten irgendwie am Leben zu bleiben. Klar ist auch, dass in autonomen Infrastrukturen wesentlich weniger Unfälle und Tote zu erwarten sind, als mit menschlichen Fahrzeugführern. Also dass die Menschen ein sicherer Hafen für die angewandte Ethik sind, das glaube ich nicht. Letztendlich entscheiden die Richter ja immer erst hinterher. Vielleicht gilt gerade umgedreht, je autonomer die Technik um so mehr ethische Regeln kann ich implementieren?
Ich halte das mit den Notfallalgorithmen letztendlich für eine "Scheinproblematik". Zumal "das Recht" ja vor dem Programmieren durchaus mitreden könnte. Sicher muß man sich darüber Gedanken machen. Das aber ist nicht Sache der Programmierer.

@Jörn Klare Algorithmen sind ja erst mal nichts anderes als Handlungsanweisungen. Unsere Gesellschaften funktionierten schon immer über solche Richtlinien. Wenn die Ampel rot ist, dann halte an. Es gibt Algorithmen die den Menschen anerzogen werden, es gibt schriftlich festgelegte Algorithmen z.B. über Arbeitsabläufe und auch einfache mechanische Automaten sind im Grunde materialisierte Algorithmen.
Man kann auch die zehn Gebote als Algorithmen sehen. Nur der Mensch hält sich nicht sklavisch daran, das ist schon klar. Sind nicht auch Gesetze Handlungsanweisungen? Sicher wird das nun in den digitalisierten und globalisierten Infrastrukturen erheblich komplexer. Aber der Mensch könnte das ohne diese Technologien gar nicht mehr steuern. Es bringt m.E. wenig, das zu mystifizieren ....-