Image
csm_Mobilitaet-Vernetzung-Autonomes-Fahren_2416d05d22-596x390px
Foto: ZVEI
Artikel

Automatisiertes Fahren: Ethik-Kommission setzt Leitplanken

28

Jun
2017

Veröffentlicht am 28.06.2017

„Nirgendwo auf der Welt ist das Thema automatisiertes und vernetztes Fahren so detailgetreu behandelt worden wie bei uns“, sagte Bundesverkehrsminister Alexander Dobrindt (CSU) nicht ohne Stolz bei der Präsentation der Ergebnisse der von ihm zu diesem Thema eingesetzten Ethik-Kommission. Dabei hatten die 14 Mitglieder des Expertengremiums – darunter Rechts-, Wirtschaftsethik- und Humanwissenschaftler sowie u.a. Vertreter der Daimler AG, des ADAC und des vzbv – in den vergangenen neun Monaten eine „ungewöhnliche Situation vorgefunden“, wie der Kommissionsvorsitzende Udo di Fabio berichtete. Sie beschäftigten sich nämlich mit Problemen, die sich zum jetzigen Zeitpunkt noch gar nicht stellen. Denn derzeit sind im regulären Straßenverkehr nur Fahrzeuge mit den Automatisierungsgraden eins und zwei unterwegs, während sich die Kommission vorwiegend mit den Rahmenbedingungen der Automatisierungsstufen 4 und 5, dem vollautomatisierten und dem fahrerlosen Fahren, auseinandergesetzt hat. Sowohl für die Politik als auch für die Hersteller enthalten die 20 Thesen der Ethik-Kommission Anforderungen, die in den nächsten Jahren erfüllt werden sollten, um das automatisierte Fahren so sicher wie möglich einzuführen.

Innovation-Default-Motiv-1500x984

Vorgaben für die Programmierung der Systeme

Mehr Sicherheit für alle Verkehrsteilnehmer benennt die Ethik-Kommission dann auch als eine notwendige Bedingung, um das vernetzte Fahren überhaupt zu etablieren, wie es in These zwei des Abschlussberichts heißt.

„Die erhebliche Steigerung der Verkehrssicherheit ist Entwicklungs- und Regulierungsziel, und zwar bereits in der Auslegung und Programmierung der Fahrzeuge zu defensivem und vorausschauendem, schwächere Verkehrsteilnehmer schonendem Fahren“, führt die Kommission in These fünf weiter aus.

Darüber hinaus sollen im Konfliktfall „Tier- oder Sachschäden“ in Kauf genommen werden, wenn dadurch Personenschäden vermeidbar sind, lautet die Vorgabe in These sieben.

Wesentlich komplizierter stellt sich die Lage in Dilemma-Situationen dar, in denen Entscheidungen zwischen dem einen und dem anderen Leben zu treffen wären. Während ein Fahrer in so einem Fall intuitiv entscheidet, also etwa den eigenen Tod in Kauf nimmt, um fünf Kinder zu retten oder statt eines Babys lieber einen Senior mit Gehwagen überfährt, ist eine legitime Programmierung der Fahrsysteme für diese Ausnahmefälle kaum möglich, nicht zuletzt, weil die in Frage kommenden Situationen zu komplex sind, um sie im Vorwege normieren zu können. Man könne die Technik nicht vermenschlichen, Software treffe keine eigenen Entscheidungen, sondern mache das, wofür sie programmiert worden ist, erläuterte di Fabio. So hat auch die Ethik-Kommission keine klare Antwort für diesen speziellen Aspekt der Programmierung, wie der Vorsitzende berichtet. Die Mitglieder haben sich lediglich auf erste Fingerzeige verständigen können:

„Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt. Eine Aufrechnung von Opfern ist untersagt.Eine allgemeine Programmierung auf eine Minderung der Zahl von Personenschäden kann vertretbar sein. Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern“, schreibt die Kommission in These neun.

Bundesverkehrsminister Alexander Dobrindt ergänzte bei der Pressekonferenz:

„Es wird unterschiedliche Programmierungen geben, die Systeme werden auch unterschiedlich gut sein, aber alle werden sich an die Leitlinien halten müssen, beispielsweise, dass eine Qualifizierung von Menschen nicht stattfinden darf“, so Dobrindt.

Das hieße weitergedacht außerdem, dass sich auch z.B. amerikanische Hersteller an diese Vorgaben halten müssten, sofern die Fahrzeuge in Deutschland zugelassen werden sollen.

Regulierungswünsche an die Politik

Um die notwendigen Vorgaben für die Programmierung noch weiterzuentwickeln, rät die Kommission zur Einrichtung z.B. einer „Bundesstelle für Unfalluntersuchung automatisierter Fahrsysteme oder eines Bundesamtes für Unfalluntersuchung automatisierter Verkehrssysteme“, wo die Erfahrungen systematisch verarbeitet werden könnten. Darüber hinaus plädiert das Ethik-Gremium für einen Algorithmen-TÜV, auch wenn sie das etwas verklausuliert ausdrückt:

„Die Öffentlichkeit hat einen Anspruch auf eine hinreichend differenzierte Aufklärung über neue Technologien und ihren Einsatz. Zur konkreten Umsetzung der hier entwickelten Grundsätze sollten in möglichst transparenter Form Leitlinien für den Einsatz und die Programmierung von automatisierten Fahrzeugen abgeleitet und in der Öffentlichkeit kommuniziert und von einer fachlich geeigneten, unabhängigen Stelle geprüft werden“, heißt es in These zwölf.

Ähnliches gilt laut These 17 für selbstlernende Systeme und ihre Verbindung zu Szenarien-Datenbanken:

„Es erscheint sinnvoll, relevante Szenarien an einen zentralen Szenarien- Katalog einer neutralen Instanz zu übergeben, um entsprechende allgemeingültige Vorgaben, einschließlich etwaiger Abnahmetests zu erstellen.“

Und auch bei den Übergaberoutinen sowie der Definition des „sicheren Zustands“, in den das Auto in einem Notfall durch das System automatisch gebracht werden muss, wünscht sich die Kommission mit ihrer These 19 eine Vereinheitlichung. Handlungsbedarf sieht die Kommission außerdem im Bereich der Übergabevorgänge zwischen Mensch und Technik bei nicht fahrerlosen Systemen (unterhalb von Stufe 5). Zum einen müsse jederzeit ersichtlich und dokumentiert sein, wer die Verantwortung habe, zum anderen müsse eine internationale Standardisierung der Übergabevorgänge und der Dokumentierung angestrebt werden, fordert die Kommission in These 16.

Datennutzung und Haftung

Haftungsfragen hatten neben der Datenspeicherung im Gesetzgebungsprozess zur Änderung der Straßenverkehrsordnung im Mittelpunkt gestanden und auch die Ethik-Kommission äußert sich im Abschlussbericht zu dieser Frage:

„Die dem Menschen vorbehaltene Verantwortung verschiebt sich bei automatisierten und vernetzten Fahrsystemen vom Autofahrer auf die Hersteller und Betreiber der technischen Systeme und die infrastrukturellen, politischen und rechtlichen Entscheidungsinstanzen. Gesetzliche Haftungsregelungen und ihre Konkretisierung in der gerichtlichen Entscheidungspraxis müssen diesem Übergang hinreichend Rechnung tragen“, fordert die Kommission in These zehn.

Entsprechende Regelungen hatten in dem im Januar verabschiedeten Gesetz erst die Koalitionsfraktionen durchgesetzt, während der Gesetzentwurf aus dem Ministerium eine Regelung zugunsten der Hersteller vorgesehen hatte.

Auch mit dem öffentlich häufig diskutierten Thema der Datennutzung hat sich die Ethik-Kommission beschäftigt. Sie bekräftigt in ihrem Abschlussbericht die Position, die auch Daten- und Verbraucherschützer vertreten:

„Fahrzeughalter oder Fahrzeugnutzer entscheiden grundsätzlich über Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten. Die Freiwilligkeit solcher Datenpreisgabe setzt das Bestehen ernsthafter Alternativen und Praktikabilität voraus. Einer normativen Kraft des Faktischen, wie sie etwa beim Datenzugriff durch die Betreiber von Suchmaschinen oder sozialen Netzwerken vorherrscht, sollte frühzeitig entgegengewirkt werden“, warnt die Ethik-Kommission.

Auch Bundesverkehrsminister Alexander Dobrindt hatte sich in einem „Strategiepapier Digitale Souveränität“ dafür ausgesprochen, den Verursachern von Daten die Verfügungsrechte zuzuschreiben.

Stoppschilder der Kommission

Der Bundesverkehrsminister selbst zeigte sich mit der Arbeit der Ethik-Kommission überaus zufrieden. Sie habe seinem Eindruck nach eher die Chancen als die Risiken des automatisierten Fahrens im Blick gehabt, sagte er bei der Pressekonferenz. Eines befürwortet das Gremium trotz seiner positiven Grundhaltung allerdings nicht: eine vollständige Vernetzung sämtlicher Fahrzeuge. Dies sei ethisch bedenklich,

„wenn und soweit sie Risiken einer totalen Überwachung der Verkehrsteilnehmer und der Manipulation der Fahrzeugsteuerung nicht sicher auszuschließen vermag“.

Auch dürfe niemand zu der Nutzung automatisierter Systeme gezwungen werden, erläuterte di Fabio.

„Es kann nicht nur um Sicherheit gehen, sondern auch um Freiheit und die freie Entscheidung mitsamt ihrer Fehleranfälligkeit“, sagte der Bundesverfassungsrichter a.D.

Der vorstehende Artikel erscheint im Rahmen einer Kooperation mit dem Tagesspiegel Politikmonitoring auf UdL Digital. Nadine Brockmann ist als Analystin für das Themenfeld Netzpolitik verantwortlich.

Wir weisen darauf hin, dass bei unseren öffentlichen Veranstaltungen auch Bild- und Tonmaterial in Form von Fotos oder Videoaufzeichnungen durch von uns beauftragte oder akkreditierte Personen und Dienstleister erstellt wird. Die Aufnahmen werden für die Event-Dokumentation und Event-Kommunikation auf den Social-Media-Kanälen des BASECAMP genutzt. Sie haben das Recht auf Information und weitere Betroffenenrechte. Informationen zu unseren Datenverarbeitungen sowie Ihren Betroffenenrechten finden Sie hier.

Über den Autor

Nadine Brockmann ist Analystin für Verkehrs- und Netzpolitik beim Tagesspiegel Politikmonitoring. Ihre Artikel erscheinen im Rahmen einer Kooperation mit dem Tagesspiegel Politikmonitoring auf UdL Digital.