Human in the Loop / Human on the Leash

Wie viel Verantwortung kann ein Mensch tragen? Wer spricht sie ihm zu? Wer nimmt sie ihm ab?
Einst waren es Götter, die Gewalt legitimierten. So war es ein Orakelspruch des Apollon, der Orestes zu Blutrache und Muttermord trieb; es war Athene, deren Urteil ihn wieder von der Blutspur befreite und so den Kreislauf ewiger Vergeltung durchbrach.
Doch aus göttlicher Vorsehung ist maschinelle Berechenbarkeit geworden: Verhalten wird beobachtet und analysiert, Unmengen an Daten werden gesammelt und von immer stärkerer Überwachungssoftware in Prognosen und Handlungsempfehlungen überführt - der nächste Täter erkannt, das nächste Ziel anvisiert. Es bleibt der „Human in the loop“: Er hat zu entscheiden, ob der algorithmischen Anweisung Folge zu leisten ist oder eben nicht. Doch wie viel Freiheit bleibt ihm dabei, wenn das Vertrauen in die Maschine immer weiter wächst?
Im Rahmen des Projekts entsteht ein KI-gestütztes Videoüberwachungssystem, das das Bühnen­geschehen in Echtzeit verfolgt und analysiert. Ziel ist es, das von den Protago­nist*innen ausgehende Gefahrenpotential mess- und sichtbar zu machen, die maschinelle Absehbarkeit des Geschehens zu prüfen und ein algorithmisches Urteilsvermögen zu erproben.