Sehr geehrter Leser,
in diesem Blog setzen wir uns mit der Haftung autonomer Systeme auseinander. Doch was ist eigentlich ein autonomes System? Und was war Haftung nochmal?
Das IESE schreibt in einem Blog zu diesem Thema: „Sowohl autonom als auch vollautomatisch beziehen sich darauf, dass etwas zielgerichtet und ohne menschliche Weisung passiert.“. Des Weiteren werden kausale Zusammenhänge nicht vorprogrammiert, sondern müssen durch das System selbst erfasst werden. [1]
Laut des Dudens ist das Haften die „Verantwortung für den Schaden eines Anderen“. [3]
Es geht also darum, wer für aufkommenden Schaden, welcher durch ein autonomes System ohne menschliche Weisung entsteht, haftet. Das wohl präsenteste Beispiel für eine solche Situation ist das autonome Fahren. Muss der „Fahrer“ des Autos haften, wenn sein Auto z.B. jemanden anfährt? Haftet der Hersteller des Wagens, oder doch der Hersteller der Software?
Im März 2018 kam es zu solch einer Situation. In Tempe, Arizona wird eine Frau durch ein autonomes Fahrzeug des Unternehmens Uber erfasst und erliegt im Krankenhaus ihren Verletzungen [4]. Zum Zeitpunkt des Unfalls saß ein Techniker im Wagen, das Auto fuhr jedoch autonom. Schon vor diesem Unfall hatten, laut eines Artikels der New York Times, die selbst fahrenden Autos von Uber schon verschiedene Probleme im Straßenverkehr, die Fahrer mussten im Vergleich zu anderen Pilot-Projekten deutlich häufiger eingreifen. [4] So fiel es Uber schwer, ihr Ziel von 13 ‚Miles per intervention‘ zu erreichen, während Google mit ihrem Projekt Waymo auf fast 5600 ‚Miles per intervention‘ kam. [4] Auf Videos zu dem Unfall [5] ist zu erkennen, dass die Fußgängerin extrem schlecht zu sehen war, da sie dunkle Kleidung trägt. In dem Moment in dem sie im Scheinwerferlicht des Autos zu sehen ist, ist kein großer Abstand mehr zwischen ihr und dem Wagen. In dieser Situation noch zu reagieren wäre für einen menschlichen Fahrer nahezu unmöglich gewesen.
Wer haftet in diesem Fall nach zivilrechtlicher und/oder strafrechtlicher Haftung?
Erstmal betrachten wir den Vorfall aus Sicht der Betroffenen:
Die Betroffenen in diesem Fall sind die Angehörigen der getöteten Fußgängerin. Der „Fahrer“ des Wagens, hatte seine Hände zum Unfallzeitpunkt nicht über dem Lenkrad so wir eigentlich vorgesehen. [4] Ob er jedoch noch hätte eingreifen können ist zu bezweifeln, da die Fußgängerin sehr schlecht und spät zu sehen war. Hierzu ein Zitat der Polizeichefin von Tempe, Sylvia Moir gegenüber des San Francisco Chronicle: “it’s very clear it would have been difficult to avoid this collision in any kind of mode (autonomous or human-driven) based on how she came from the shadows right into the roadway.”.[6] Der Hersteller des Wagens, Volvo [4], kann hier nicht absehen, was hätte passieren können, da das Auto an sich nicht für das autonome Fahren ausgelegt war. Es liegt näher Uber, der Betreiber des Fahrzeugs und Entwickler der autonomen Software, verantwortlich zu machen.
Nun der Vorfall aus Sicht des Technikers:
Da die Fußgängerin so schwer zu sehen war, hätte der Techniker nicht mehr reagieren können, um die Situation zu ändern. Unter Umständen hätte der Fahrer vor Schreck zusätzlich sich und andere gefährdet.
Zu guter Letzt der Vorfall aus Sicht von Uber:
Da Uber schon zuvor große Probleme mit ihren autonomen Fahrzeugen hatte, wäre es eventuell sinnvoll gewesen, das Projekt frühzeitig abzubrechen. Es wurde erst nach dem Unfall mit sofortiger Wirkung eingestellt. Da jedoch auch ein Mensch nicht mehr hätte reagieren können, muss der Unfall nicht zwangsweise ein Fehler in der Software gewesen sein. Aber hätte eine Software den Menschen rechtzeitig erkennen können und wer haftet aus Sicht des Gesetzes?
[1] Dr.-Ing. Rasmus Adler, „Autonom oder vielleicht doch nur hochautomatisiert, was ist eigentlich der Unterschied?“, Fraunhofer IESE, 06.09.2019, https://blog.iese.fraunhofer.de/autonom-oder-vielleicht-doch-nur-hochautomatisiert-was-ist-eigentlich-der-unterschied/, abgerufen am 21.02.2020
[2] Vauxford, https://commons.wikimedia.org/wiki/File:2018_Volvo_XC90_2.0.jpg, veröffentlicht unter CC BY-SA, https://creativecommons.org/licenses/by-sa/4.0/deed.en, abgerufen am 21.02.2020
[3] duden.de, Bibliographisches Institut GmbH,
https://www.duden.de/rechtschreibung/Haftung_Verantwortung_Haftpflicht, abgerufen am 21.02.2020
[4] Daisuke Wakabayashi , „Uber’s Self-Driving Cars Were Struggling Before Arizona Crash“, The New York Times, 23.03.2018, https://www.nytimes.com/2018/03/23/technology/uber-self-driving-cars-arizona.html, abgerufen am 21.02.2020
[5] Mark Osborne, Arizona suspends Uber’s driverless car testing after deadly accident,27.03.2018, https://abcnews.go.com/US/arizona-suspends-ubers-driverless-car-testing-deadly-accident/story?id=54034032, abgerufen am 21.02.2020
[6] Carolyn Said, „Exclusive: Tempe police chief says early probe shows no fault by Uber“, San Francisco Chronicle, 26.03.2018, https://www.sfchronicle.com/business/article/Exclusive-Tempe-police-chief-says-early-probe-12765481.php, abgerufen am 21.02.2020
Haftung für autonome Systeme 
