„Robo-Richter“ ohne Training?
Über automatisierte Entscheidungssysteme als Heilsbringer überlasteter Entscheider im Recht zu diskutieren, ist en vogue. Warum deren Einsatz mit steigender Komplexität rechtlicher Entscheidungen kaum lösbare strukturelle Probleme mit sich bringt und an Grenzen stößt, erklären Stephan Dreyer und Johannes Schmees anhand von vier technischen und rechtlichen Herausforderungen. Hierdurch soll dem aufkommenden Diskurs eine differenzierende, an den technischen und rechtlichen Realitäten orientierte Perspektive gegeben werden.
Die Diskussion über den Einsatz von automatisierten Entscheidungssystemen in Justizsystemen bis hin zu autonomen, menschliche Entscheider ersetzenden Systemen hat begonnen. Die Automatisierung rechtlicher Entscheidungen soll hier vor allem durch Systeme maschinellen Lernens erfolgen, die durch das Trainieren auf größeren Mengen von Dokumenten mit bestehender Spruchpraxis Entscheidungsmuster erkennen und richtige Entscheidungen „lernen“, etwa durch das Auffinden von Mustern oder Korrelationen zwischen Sachverhaltsaspekten und späteren Entscheidungsergebnissen. Das trainierte System soll nach der Lernphase dann auf unbekannte Fälle angewandt werden und anhand der trainierten Muster autonom entscheiden. Dieser Ansatz bringt mit steigender Komplexität rechtlicher Entscheidungen kaum lösbare strukturelle Probleme mit sich und stößt an absolute Machbarkeitsgrenzen.
Dr. Stephan Dreyer ist Senior Researcher, Johannes Schmees ist Junior Researcher am Leibniz-Institut für Medienforschung| Hans-Bredow-Institut. Dieser Beitrag basiert auf einem im Erscheinen befindlichem, ausführlicheren Beitrag, der im Kontext des interdisziplinären Forschungsprojektes „Entscheiden über, durch und zusammen mit ADM-Systemen“ entstanden ist.