Brauchen wir eine Daten-Ethik?

Es klingt bereits etwas banal: Daten und Algorithmen haben zunehmend Einfluss auf unser digitalisiertes Leben. Aber es gibt hinsichtlich dem Grad der Einflussnahme grosse Unterschiede zwischen verschiedenen Anwendungsbereichen datenbasierter Entscheidungen.

Die penetrante Aufschaltung personalisierter Werbung auf Websites und in Apps gehört zu den oft störenden, aber eher harmlosen Varianten der datenbasierten Beeinflussung. Als Konsumenten steht es uns frei, die Onlineangebote anzunehmen, zu ignorieren oder mithilfe von Adblockern zu unterdrücken. Wesentlich heikler wird es, wenn wir einen Kredit oder eine Versicherungspolice beantragen. Als Antragsteller sind wir grundsätzlich in einer abhängigen Position und haben nicht mehr dieselben Freiheiten wie als Konsumenten. Datenbasierte Kreditwürdigkeitsprüfungen oder anhand personalisierter Datenprofile berechnete Versicherungsprämien lassen nur einen beschränkten Spielraum für Alternativen offen. Sie können daher nicht einfach ignoriert oder unterdrückt werden. Eine dritte und existenzielle Stufe der datenbasierten Einflussnahme erreichen maschinelle Intelligenzen dann, wenn sie die Eignung für eine Stelle, die Angemessenheit einer medizinischen Therapie oder die Übereinstimmung mit einem Fahndungsprofil berechnen. Eine falsche oder unangemessene Berechnung hat in diesen Fällen fatale Auswirkungen auf unser Leben.

Die Schweiz hat punkto Open Data in Europa aufgeholt. Das zeigt eine Studie zum Reifegrad der Open-Data-Umsetzung in 32 Staaten. Aber der Open-Data-Zug hat an Fahrt verloren, wie Sie hier lesen können.

Die Vorzüge und Nachteile von Algorithmen

Wer die Kontrolle über personenbezogene Daten und Algorithmen ausübt, trägt die Verantwortung, zu welchen Entscheiden die Algorithmen anhand dieser Daten gelangen und wie diese umgesetzt werden. Diese Verantwortung wiegt umso schwerer, je gravierender sich die algorithmisch erzeugten Entscheidungen auf das Leben der betroffenen Personen auswirken. Es ist daher verständlich, dass angesichts der erwähnten einseitigen Abhängigkeiten und fatalen Auswirkungen der Ruf nach Transparenz, Kontrolle und Einschränkungen datenbasierter maschineller Entscheidungen, sogenannter «künstlicher Intelligenzen», immer lauter wird. Ob der vielen kritischen bis alarmierenden Stimmen gilt es aber auch zu betonen, dass datenbasierte Entscheidungen unser Leben in der Regel erleichtern und verbessern. Viele personalisierte Produktempfehlungen sind tatsächlich sinnvoll und hilfreich. Eine maschinelle Kreditprüfung ist effizient, zeitnah und kostengünstig. Und die datenbasierte Auswahl einer medizinischen Therapie ermöglicht es, Leben zu retten.

Der verantwortungsvolle und faire Umgang mit personenbezogenen Daten ist eine grundsätzliche Anforderung in der digitalen Gesellschaft. Diese Erkenntnis hat bereits in den 80er- und 90er-Jahren zu den ersten Datenschutzgesetzen geführt. Vor bald einem Jahr setzte die EU eine neue umfassende Datenschutz-Grundverordnung (EU-DSGVO) in Kraft, welche die technologische Entwicklung der letzten Jahrzehnte zu berücksichtigen versucht. Es ist aber klar, dass auch die ausgeklügeltste Datengesetzgebung stets hinter der technischen Entwicklung zurückbleiben muss und nie alle Aspekte eines verantwortungsvollen Umgangs mit Daten in Gesetze gegossen werden können. Es braucht daher über die Datenschutzgesetze hinaus anerkannte ethische Regeln für einen fairen Umgang mit Daten und Algorithmen.