Image
HEADER3-BVDW_Themenabend_DigitaleEthik_6-2540x1000
Artikel

Digitale Ethik:
“Menschen und Maschinen müssen gute Entscheidungen treffen”

29

Jun
2017

Veröffentlicht am 29.06.2017

Fotos: BVDW

“Wir erleben eine Renaissance der Philosophie unter anderen Vorzeichen”, so leitete Vizepräsident Achim Himmelreich den Themenabend Digitale Ethik des Bundesverbands Digitale Wirtschaft ein. Und er behielt recht: Zwei Stunden diskutierten die Panelisten hitzig, kontrovers aber immer am konkreten Fall, wie wir mit dem Einfluss von Daten und Algorithmen umgehen müssen. Im Mittelpunkt stand das sogenannte Automated Decision Making, die automatisierte Entscheidungsfindung durch Maschinen.

Wenn eine Software die Daten eines Patienten analysiert und dem Arzt eine Diagnose oder sogar einen Behandlungsplan vorschlägt, greift Automated Decision Making. Viele solcher Beispiele diskutierten die Podiumsgäste in einer spannenden Debatte. Dabei brachten die Panelisten Matthias Spielkamp (Gründer AlgorithmWatch), Dr. Andrea Timmesfeld (Public Affairs-Chefin Generali Deutschland), Saskia Esken (MdB und für die SPD im Ausschuss Digitale Agenda) sowie Dr. Pablo Mentzinis (Director Government Relations SAP) ihre jeweilige Perspektive ein.

“Algorithmen sind neutral. Ihr Einsatz ist es nicht.”

In seinem Impulsvortrag gab Matthias Spielkamp einen Überblick, wie Algorithmen derzeit eingesetzt werden. Amazon beispielsweise setzt auf sie, um Kunden Empfehlungen auszusprechen. Für den Nutzer ist das erstmal gut. Gleichzeitig straft jedoch der Preisalgorithmus im Hintergrund Händler ab und zeigt dem Kunden nicht immer den besten Deal an. Allein dieses kleine Beispiel aus dem digitalen Alltag macht deutlich, dass der Einsatz von Daten immer zwei Seiten hat.

BVDW_Themenabend_DigitaleEthik_9-1280x720

Matthias Spielkamp, Gründer AlgorithmWatch

Beim Predictive Policing sind die Konsequenzen größer, denn es betrifft hoheitliche Aufgaben des Staates, die mit Hilfe von Algorithmen ausgeführt werden. Auch hier kann man nicht von guten oder bösen Algorithmen sprechen. Mit Verweis auf eine Studie von ProPublica, einer mit dem Pulitzer-Preis ausgezeichneten Non-Profit Organisationen für investigativen Journalismus, erklärte Matthias Spielkamp die Nutzung von datenbasierten, automatisierten Entscheidungsprozessen bei der Einsatzplanung von Sicherheitskräften.

Algorithmen analysieren, in welchen Stadtteilen zu welchen Zeiten besonders häufig kriminelle Delikte vorkommen könnten und schlägt die Mannschaftsverteilung vor. Vielleicht geht so die Kriminalität zurück. Vielleicht bekommen Stadtteile durch die hohe Polizeipräsenz aber auch einen schlechteren Ruf, unabhängig, ob tatsächlich eine Straftat begangen wurde oder nicht.

BVDW_Themenabend_DigitaleEthik_9-1280x720

Dr. Pablo Mentzinis (SAP), Dr. Andrea Timmesfeld (Generali Deutschland), Achim Himmelreich (BVDW), Saskia Esken (MdB, Ausschuss Digitale Agenda), Matthias Spielkamp (AlgorithmWatch)

Die Beispiele zeigen anschaulich das Dilemma: Algorithmen selbst sind weder gut noch schlecht, aber sie haben Konsequenzen für den einzelnen Menschen. Deshalb fordert AlgorithmWatch in seinem Manifest größere Transparenz. “Die Entscheidung darüber, wo und wie Algorithmen eingesetzt werden, muss transparent für diejenigen sein, die es betrifft“, so Spielkamp.

Führen Algorithmen zum “Einheitsbrei”?

Hier setzte eine hitzige Diskussion an. Am Beispiel der Versicherungswirtschaft sprach sich Dr. Andrea Timmesfeld, Public Affairs-Chefin von Generali, dafür aus, dass Algorithmen nicht bestrafen dürfen, sondern Anreize setzen müssen. Am Ende muss es um eine Verbesserung für die Gesellschaft gehen, wie es auch die Prämienprogramme der Versicherungen vorleben.

BVDW_Themenabend_DigitaleEthik_9-1280x720

Diskussion mit dem Publikum beim BVDW Themenabend “Digitale Ethik”

Aus dem Publikum wurde die Frage gestellt, ob Belohnung und Bestrafung nicht am Ende das Gleiche wären, denn beides führe zu Benachteiligung einer Gruppe. Saskia Esken sieht das Belohnungsprinzip ebenfalls kritisch. Ein System entscheidet für die gesamte Bevölkerung, was gesund ist und was nicht. Jedoch wird es immer Menschen geben, auf die bestimmte Vorgaben nicht passen. Individuelle Voraussetzungen haben keinen Platz in Entscheidungen von Algorithmen, so die Informatikerin. “Wenn wir nicht aufpassen, führen Algorithmen zu einem Verlust der Vielfalt“, fasste Moderator Himmelreich schließlich zusammen.

Mensch und Maschine: Die Mischung macht’s

Bei allen Fallbeispielen wurde klar: Eine Regulierung zum Schutz der Verbraucher ist notwendig. Aber, “für jeden Case braucht es eine konkrete Entscheidung. Hier ist die aktuelle, allgemeine Diskussion falsch“, sprach sich Spielkamp für eine Herangehensweise aus, die Algorithmen nicht allgemein abstraft, sondern den konkreten Einsatz betrachtet. Dr. Pablo Mentzinis wies in diesem Zusammenhang auf eine überkritische Einstellung der Nutzer hin und forderte eine stärkere Auseinandersetzung mit digitalen Lösungen.

Die derzeitige Herausforderung ist, dass man die Interessen der Unternehmen, die Daten einsetzen, oft nicht kennt, mahnte Saskia Esken an. Hier müssen Unternehmen transparent werden. Letztendlich muss der Algorithmus im Sinne desjenigen eingesetzt werden, den es betrifft. Dr. Pablo Mentzinis, Director Government Relations von SAP, fasste das Verhältnis zwischen künstlicher und menschlicher Intelligenz treffend zusammen: “Das Ziel muss es sein, dass sowohl Menschen als auch Maschinen gute Entscheidungen treffen. Und dafür müssen wir beides kombinieren.”

Mehr Informationen:

Website des Bundesverband Digitale Wirtschaft (BVDW) e.V.: www.bvdw.org
Mehr über die Veranstaltung und die Teilnehmer: http://www.bvdw.org/events/bvdw-eventformate/themenabende-digitale-wirtschaft/27062017.html” target=”_blank”>Themenabend Digitale Wirtschaft

Wir weisen darauf hin, dass bei unseren öffentlichen Veranstaltungen auch Bild- und Tonmaterial in Form von Fotos oder Videoaufzeichnungen durch von uns beauftragte oder akkreditierte Personen und Dienstleister erstellt wird. Die Aufnahmen werden für die Event-Dokumentation und Event-Kommunikation auf den Social-Media-Kanälen des BASECAMP genutzt. Sie haben das Recht auf Information und weitere Betroffenenrechte. Informationen zu unseren Datenverarbeitungen sowie Ihren Betroffenenrechten finden Sie hier.

Über den Autor

Agnes Michalik war bis Februar 2018 Senior Manager Public Relations. Sie kümmerte sich um Strategie und Konzeption für das Telefónica BASECAMP und verantwortete die Stakeholder-Maßnahmen rund um das Zukunftsthema Advanced Data Analytics.